chenyme/Chenyme-AAVT

★ 3,129⑂ 0

这是一个全自动(音频)视频翻译项目。利用Whisper识别声音,AI大模型翻译字幕,最后合并字幕视频,生成翻译后的视频。

3,129Star
0Fork
0Watch
0Issue
PythonLanguage
-License
Created · last push · repository size 0 KB · default branch -

README



英文 下载 Latest Release PyPI - Version License 群组 Docker Image Version Open In Colab
---
[!NOTE]
🌟 如果本项目对您有帮助,记得 Star 🌟 支持一下吧~
📝 推荐识别时使用 Large 模型以获取更好的体验!由于正在备考,更新速度会放缓,感谢理解!
📖 安装教程 | ❓ 常见问题 | 💬 电报群组
### 新项目: Srtranslate | 官网:srt.chenyme.com
### 体验更加专业智能、高效精确的srt字幕翻译!

项目介绍

Chenyme-AAVT 全自动视频翻译项目 致力于提供一个简便高效且免费的媒体识别与翻译自动化流程,帮助您快速完成音视频字幕的识别、翻译和处理等多种功能,当然目前项目已经不仅仅是帮您识别并翻译声音,还可以自动化生成营销图文、对字幕单独翻译。计划未来会基于现有基本功能继续加入更多有意思的工具,比如 实时识别、口型校正、声音克隆、音色辨别 等等,敬请期待! 当前已支持的基本功能,非全部功能:
20240820210851.jpg

项目亮点

👉 TODO | 待办事项

识别相关

  • [x] 更换更快的Whisper项目
  • [x] 支持本地模型加载
  • [x] 支持个人微调Whisper模型
  • [x] VAD辅助优化
  • [x] 字词级断句优化
  • [x] 更多的语种识别
  • [ ] 音色辨别
  • [ ] 实时语音翻译

翻译相关

  • [x] 翻译优化
  • [x] 更多的语种翻译
  • [x] 更多的翻译模型
  • [x] 更多的翻译引擎
  • [x] 支持本地大语言模型翻译

视频相关

  • [x] 个性化字幕
  • [x] 更多字幕格式
  • [x] 字幕预览、实时修改
  • [ ] 自动化字幕文本校对
  • [ ] 双字幕
  • [ ] 视频中文配音
  • [ ] 声音克隆
  • [ ] 口型校对

图文博客

  • [x] 生成图文
  • [ ] 更多写作风格
  • [ ] 优化生成效率
  • [ ] 提高成品率

其他

  • [x] AI助手
  • [x] 视频预览

[!WARNING]
### 关于 dll 缺失的公告
以下解决方法经过本人验证可有效解决,麻烦给颗🌟Star吧!
 
#### 1. ❌ fbgemm.dll 缺失。此为 pytorch 对 win 的 mkl 文件构建错误,官方已在 2.4.1 Beta 版本中修正,请遇到后重新 Install.bat,并在菜单栏选择 修复版本(2.4.1)修正
#### 2. ❌ cudnn_ops_infer64_8.dll 缺失,导致启用 GPU 失败。请前往 Releases 中下载 CUDA_dll.zip 压缩包解压到CUDA目录 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4\bin 修复

Windows 部署

👉 前置环境:Python、FFmpeg、CUDA 说明

Python | 📖 教程

  • 💡 选择 Python > 3.8 的版本
  • 前往 Python 官网下载 安装程序
  • 运行安装,在安装时请点击 ADD TO PATH 选项

FFMpeg | 📖 教程

  • 💡 若您不知道如何安装编译,请直接在项目Release中的下载 Win 版本,自带编译后的FFMpeg
  • 前往 FFMpeg 官网下载编译好的 Windows 版本
  • 设置 FFmpeg 为环境变量

CUDA(CPU 可忽略) | 📖 教程

  • 💡 推荐使用版本为 CUDA11.8、12.1、12.4
  • 前往 CUDA 官网下载 CUDA 安装程序
  • 安装 CUDA

 


‼️ 请确保前置环境已准备好后再继续下面的步骤‼️
### 1. 运行部署脚本
- 前往 Release 页面下载 Win 的最新发行版 (Win/Small)
- 运行 1_Install.bat,等待脚本检查,通过后根据界面内提示选择版本安装
### 2. 运行项目Web
- 运行 2_WebUI.bat
- 等待 WebUI 自动拉起,或输入网址 localhost:8501
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)

Mac OS 部署

👉 前置环境:Python、Brew、FFMpeg 说明

Python

  • 选择 Python > 3.8 的版本
  • 前往 Python 官网下载 PGK 安装包
  • 运行安装,页面内选择标准安装

Brew

  • 💡 使用下面的命令进行一键安装安装 brew
``` /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" ```

FFMpeg

  • 💡 使用下面的命令进行一键安装安装 FFMpeg
``` brew install FFMpeg ```

 


‼️ 请确保前置环境已准备好后再继续下面的步骤‼️
### 1. 安装项目依赖
- 前往 Release 页面下载 Mac 的最新发行版 (Mac/Small)
```
cd Chenyme-AAVT
pip3 install -r requirements.txt
```
### 2. 运行项目Web
```
streamlit run Chenyme-AAVT.py
```
- 等待 WebUI 自动拉起,或输入网址 localhost:8501
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)

Docker 部署

Docker Image Version
感谢 @Eisaichen 协助构建此镜像
### docker
```
docker pull chenyme/chenyme-aavt:latest
```
- 完成后,输入 <您的服务器IP>:8501 访问
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)
### docker-compose
```
git clone https://github.com/Chenyme/Chenyme-AAVT
cd Chenyme-AAVT
docker-compose up -d
```
- 完成后,输入 <您的服务器IP>:8501 访问
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)

Linux 部署

💡此版本为 AAVT V0.8.6 的 Linux CUDA 12.1 Docker 版本,最新版本为 V0.9.0
感谢 @dhlsam 提供此版本
具体使用方法,请查阅:📖 issues/36

Google Colab 部署

Open In Colab
感谢 @Kirie233 提供 Colab 版本
具体使用方法,请查阅:📖 AAVT.ipynb

感谢项目的贡献者

[![][github-contrib-shield]][github-contrib-link] [github-contrib-shield]: https://contrib.rocks/image?repo=Chenyme/Chenyme-AAVT [github-contrib-link]: https://github.com/Chenyme/Chenyme-AAVT/graphs/contributors

Star History

Star History Chart

主页BOT


11

部分设置


12

音频识别


13

视频识别


14

图文博客


15

字幕翻译


16

声音模拟


17

More Audio Trending projects

1

huggingface / transformers

Python★ 166,108⑂ 0
2

harry0703 / MoneyPrinterTurbo

Python★ 123,776⑂ 0
3

unslothai / unsloth

Python★ 76,181⑂ 0
4

RVC-Boss / GPT-SoVITS

Python★ 61,798⑂ 0
5

calesthio / OpenMontage

Python★ 59,205⑂ 0
6

ggml-org / whisper.cpp

C++★ 53,674⑂ 0