voicechat2:一款高效快捷且低延迟的本地 AI 语音聊天系统

采用 SRT + LLM + TTS 技术架构。在 4090 设备上,运用 Faster Whisper 和 faster-distil-whisper-large-v2 技术,延迟能够降低至 300 毫秒。

其特点如下:
1. 本地化:所有相关处理均在本地予以完成。
2. 低延迟:在高性能硬件支持下,语音到语音的延迟可达 1 秒甚至更短。
3. 支持 Whisper、Llama 3、VITS 等,可依据需求选取不同模型。

GitHub 链接:
https://github.com/lhl/voicechat2
 
 
Back to Top