pyVideoTrans

Appearance

Offine-Text-Translate 本地离线文字翻译 OTT ​

支持多语言的本地离线文字翻译，提供api接口。

本项目是基于 开源项目LibreTranslate 的再封装，目的是提供一个容易在本地机器上直接部署的翻译Api服务，无需docker，并提供 Windows 预编译exe包，不必部署，双击可用，方便新手和小白使用。

第一次启动需要下载模型，后续即可离线运行

如果你想使用原生LibreTranslate项目或想部署在docker，请访问 https://github.com/LibreTranslate/LibreTranslate

Windows 预编译包使用 ​

  1. 如果你无法打开 https://raw.githubusercontent.com 这个地址，必须在 set.ini 中 PROXY= 设置代理地址

你也可以从百度网盘下载已打包好的模型，解压后将里面的".local" 文件夹复制覆盖到本软件根目录下,点击去百度网盘下载

  1. 点击下载window预编译包，解压到无空格的英文目录下，双击 start.exe

  2. 第一次启动后会自动下载模型，下载完毕后会显示当前Api服务的地址和端口，就可以使用了 (你也可以从百度网盘下载已打包好的模型，解压后将里面的".local" 文件夹复制覆盖到本软件根目录下)

  3. 可以自己编写程序请求该Api服务，实现替代百度翻译等功能，或者填写到一些需要翻译功能的软件中，比如若要用在视频翻译配音软件中，在软件菜单-设置-OTT中填写 服务器地址和端口即可(默认http://127.0.0.1:9911)

Window上源码部署 ​

  1. 首先到 python.org 下载 python3.9+版本并安装，建议3.10，在安装时仔细查看，选择 “Add ... Path”复选框，以方便后续使用

  2. window上安装git客户端，点击去下载，选择下载 64-bit Git for Windows Setup，下载后双击安装，一路下一步直到完成

  3. 创建一个空目录，比如在 D盘下创建目录 ott，然后进入该目录 D:/ott,在文件夹地址栏输入 cmd 后回车，在打开的cmd黑窗口中输入git clone https://github.com/jianchang512/ott . 回车执行.

  4. 创建虚拟环境，在刚刚的cmd窗口中继续输入命令 python -m venv venv 回车

此处注意：如果提示"python 不是内部或外部命令，也不是可运行的程序",说明 第0步 安装时未选中复选框，重新双击已下载的 Python安装包，选择“Modify”,然后注意选中“Add ... Path”。

重新安装python完毕后，**必须关闭已打开的cmd窗口**,否则可能还是提示命令未找到，然后进入`D:/ott`,地址栏输入`cmd`回车，再重新执行`python -m venv venv`

  1. 上步命令执行成后，继续输入 .\venv\scripts\activate 回车，再执行 pip install -r requirements.txt --no-deps, 如果提示“not found version xxx”，请将将镜像源改为pip官方或者阿里云镜像

  2. 如果需要启用cuda加速翻译，则继续分别执行 pip uninstall -y torch

    pip install torch==2.1.2 --index-url https://download.pytorch.org/whl/cu121

  3. 在set.ini中设置代理 PROXY=代理地址，比如如果你的代理地址是 http://127.0.0.1:10189,那么填写后PROXY=http://127.0.0.1:10189

  4. 执行启动服务命令，python start.py

Mac 或 Linux 部署 ​

  1. 先确认是否安装了正确的python版本3.9+和git， python -V or python3 -V

  2. 创建空目录并进入，比如 /data/ott && cd /data/ott, 然后拉取源码 git clone https://github.com/jianchang512/ott .

  3. 创建虚拟环境并激活 python3 -m venv venv && . ./venv/bin/activate

  4. 安装依赖，pip3 install -r requirements.txt --no-deps，如果提示“not found”，同样将镜像改为 pip官方或阿里云镜像

  5. 如果要启用cuda加速翻译，则继续执行

    pip3 uninstall -y torch

    pip3 install torch==2.1.2 --index-url https://download.pytorch.org/whl/cu121

  6. 在 she.ini中设置代理地址

  7. 启动服务 python3 start.py

注意如果你的python执行命令不是python3，上面命令中的 python3需替换为对应的命令比如 python

Api接口使用示例 ​

假如你部署的地址和端口是 http://127.0.0.1:9911,请求api代码如下

API地址：http://127.0.0.1:9911

python requests 请求示例


import requests

result=requests.post("http://127.0.0.1:9911/translate",json={"q":"你好啊我的朋友","source":"zh","target":"en"})
print(result.json())

# 输出如下
{'translatedText': 'Hello, my friend'}

js fetch请求

const res = await fetch("http://127.0.0.1:9911/translate", {
  method: "POST",
  body: JSON.stringify({
    q: "Hello!", // 请求翻译的文本
    source: "en",//原始语言，或者填写 'auto' 自动检测
    target: "es"//目标语言
  }),
  headers: { "Content-Type": "application/json" }
});
console.log(await res.json());
// 返回json相应
{
    "translatedText": "¡Hola!" // translatedText 字段中是翻译后的文本
}

对 argostranslate 的修改 ​

以实现下载模式出错时提醒代理

  1. 修改了 \venv\Lib\site-packages\argostranslate\networking.py 的 get 方法，当下载失败时，抛出异常
def get(url: str, retry_count: int = 3) -> bytes | None:
    """Downloads data from a url and returns it

    Args:
        url: The url to download (http, https)
        retry_count: The number of retries to attempt if the initial download fails.
                If retry_count is 0 the download will only be attempted once.

    Returns:
        The downloaded data, None is returned if the download fails
    """
    if get_protocol(url) not in supported_protocols:
        return None
    info(f"Get {url}")
    print(f'{url=}')
    download_attempts_count = 0

    while download_attempts_count <= retry_count:
        try:
            req = urllib.request.Request(
                url,
                headers={"User-Agent": USER_AGENT},
            )
            response = urllib.request.urlopen(req)
            data = response.read()
            info(f"Got {url}")
            return data
        except Exception as err:
            download_attempts_count += 1
            # 增加抛出异常
            raise Exception('download error')
            error(err)
    # 增加抛出异常
    raise Exception('download error')
    return None
  1. \venv\Lib\site-packages\argostranslate\package.py, 注释掉无法连接raw.githubusercontent.com时的报错，已在入口文件做了处理
def update_package_index():
    """Downloads remote package index"""
    with package_lock:
        try:
            response = urllib.request.urlopen(settings.remote_package_index)
        except Exception as err:
            # 注释掉错误输出，已在入口文件获取了index.json，此处如果无法连接则不再输出错误，避免造成小白迷惑
            #error(err)
            return
        data = response.read()
        with open(settings.local_package_index, "wb") as f:
            f.write(data)

CUDA 加速支持 ​

安装CUDA工具 详细安装方法

安装好CUDA后，如果有问题，执行 pip uninstall -y torch，然后执行pip install torch==2.1.2 --index-url https://download.pytorch.org/whl/cu121。

安装完成后执行 python testcuda.py 如果输出均是 True ,说明可用

有时会遇到“cublasxx.dll不存在”的错误, 或者未遇到此错误，并且CUDA配置正确，但始终出现识别错误，需要下载 cuBLAS，然后将dll文件复制到系统目录下

点击下载 cuBLAS，解压后将里面的dll文件复制到 C:/Windows/System32下

基于以下开源项目 ​

  1. https://github.com/LibreTranslate/LibreTranslate
  2. https://github.com/argosopentech/argos-translate