1
chenyme/Chenyme-AAVT
这是一个全自动(音频)视频翻译项目。利用Whisper识别声音,AI大模型翻译字幕,最后合并字幕视频,生成翻译后的视频。
3,129Star
0Fork
0Watch
0Issue
PythonLanguage
-License
README
---
[!NOTE]
🌟 如果本项目对您有帮助,记得 Star 🌟 支持一下吧~
📝 推荐识别时使用 Large 模型以获取更好的体验!由于正在备考,更新速度会放缓,感谢理解!
📖 安装教程 | ❓ 常见问题 | 💬 电报群组
### 新项目: Srtranslate | 官网:srt.chenyme.com
### 体验更加专业智能、高效精确的srt字幕翻译!
项目介绍
Chenyme-AAVT 全自动视频翻译项目 致力于提供一个简便高效且免费的媒体识别与翻译自动化流程,帮助您快速完成音视频字幕的识别、翻译和处理等多种功能,当然目前项目已经不仅仅是帮您识别并翻译声音,还可以自动化生成营销图文、对字幕单独翻译。计划未来会基于现有基本功能继续加入更多有意思的工具,比如 实时识别、口型校正、声音克隆、音色辨别 等等,敬请期待! 当前已支持的基本功能,非全部功能:
项目亮点
👉 TODO | 待办事项
识别相关
- [x] 更换更快的Whisper项目
- [x] 支持本地模型加载
- [x] 支持个人微调Whisper模型
- [x] VAD辅助优化
- [x] 字词级断句优化
- [x] 更多的语种识别
- [ ] 音色辨别
- [ ] 实时语音翻译
翻译相关
- [x] 翻译优化
- [x] 更多的语种翻译
- [x] 更多的翻译模型
- [x] 更多的翻译引擎
- [x] 支持本地大语言模型翻译
视频相关
- [x] 个性化字幕
- [x] 更多字幕格式
- [x] 字幕预览、实时修改
- [ ] 自动化字幕文本校对
- [ ] 双字幕
- [ ] 视频中文配音
- [ ] 声音克隆
- [ ] 口型校对
图文博客
- [x] 生成图文
- [ ] 更多写作风格
- [ ] 优化生成效率
- [ ] 提高成品率
其他
- [x] AI助手
- [x] 视频预览
- 支持识别和翻译多种语言
- 支持 全流程本地化、免费化部署
- 支持对视频 一键生成博客内容、营销图文
- 支持 自动化翻译、二次修改字幕、预览视频
- 支持开启 GPU 加速、VAD 辅助、FFmpeg 加速
- 支持使用 ChatGPT、Claude、Gemini、DeepSeek 等众多大模型翻译引擎
[!WARNING]
### 关于 dll 缺失的公告
以下解决方法经过本人验证可有效解决,麻烦给颗🌟Star吧!
#### 1. ❌ fbgemm.dll 缺失。此为 pytorch 对 win 的 mkl 文件构建错误,官方已在 2.4.1 Beta 版本中修正,请遇到后重新 Install.bat,并在菜单栏选择 修复版本(2.4.1)修正
#### 2. ❌cudnn_ops_infer64_8.dll缺失,导致启用 GPU 失败。请前往 Releases 中下载 CUDA_dll.zip 压缩包解压到CUDA目录C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4\bin修复
Windows 部署
👉 前置环境:Python、FFmpeg、CUDA 说明
Python | 📖 教程
- 💡 选择 Python > 3.8 的版本
- 前往 Python 官网下载 安装程序
- 运行安装,在安装时请点击 ADD TO PATH 选项
FFMpeg | 📖 教程
- 💡 若您不知道如何安装编译,请直接在项目Release中的下载
Win版本,自带编译后的FFMpeg - 前往 FFMpeg 官网下载编译好的 Windows 版本
- 设置 FFmpeg 为环境变量
CUDA(CPU 可忽略) | 📖 教程
- 💡 推荐使用版本为 CUDA11.8、12.1、12.4
- 前往 CUDA 官网下载 CUDA 安装程序
- 安装 CUDA
‼️ 请确保前置环境已准备好后再继续下面的步骤‼️
### 1. 运行部署脚本
- 前往 Release 页面下载 Win 的最新发行版 (Win/Small)
- 运行 1_Install.bat,等待脚本检查,通过后根据界面内提示选择版本安装
### 2. 运行项目Web
- 运行 2_WebUI.bat
- 等待 WebUI 自动拉起,或输入网址 localhost:8501
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)
Mac OS 部署
👉 前置环境:Python、Brew、FFMpeg 说明
Python
- 选择 Python > 3.8 的版本
- 前往 Python 官网下载 PGK 安装包
- 运行安装,页面内选择标准安装
Brew
- 💡 使用下面的命令进行一键安装安装
brew
FFMpeg
- 💡 使用下面的命令进行一键安装安装
FFMpeg
‼️ 请确保前置环境已准备好后再继续下面的步骤‼️
### 1. 安装项目依赖
- 前往 Release 页面下载 Mac 的最新发行版 (Mac/Small)
```
cd Chenyme-AAVT
pip3 install -r requirements.txt
```
### 2. 运行项目Web
```
streamlit run Chenyme-AAVT.py
```
- 等待 WebUI 自动拉起,或输入网址 localhost:8501
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)
Docker 部署
感谢 @Eisaichen 协助构建此镜像
### docker
```
docker pull chenyme/chenyme-aavt:latest
```
- 完成后,输入 <您的服务器IP>:8501 访问
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)
### docker-compose
```
git clone https://github.com/Chenyme/Chenyme-AAVT
cd Chenyme-AAVT
docker-compose up -d
```
- 完成后,输入 <您的服务器IP>:8501 访问
- 项目验证密码 chenymeaavt(此为新版本的保护功能,可关闭)
Linux 部署
💡此版本为 AAVT V0.8.6 的 Linux CUDA 12.1 Docker 版本,最新版本为 V0.9.0
感谢 @dhlsam 提供此版本
具体使用方法,请查阅:📖 issues/36
Google Colab 部署
感谢 @Kirie233 提供 Colab 版本
具体使用方法,请查阅:📖 AAVT.ipynb
感谢项目的贡献者
[![][github-contrib-shield]][github-contrib-link] [github-contrib-shield]: https://contrib.rocks/image?repo=Chenyme/Chenyme-AAVT [github-contrib-link]: https://github.com/Chenyme/Chenyme-AAVT/graphs/contributorsStar History
主页BOT
部分设置
音频识别
视频识别
图文博客
字幕翻译
声音模拟
More Audio Trending projects
2
3
4
5
6