关于羽译

羽译是一款运行在本地的大语言模型翻译工具，采用flutter开发，通过llama.cpp运行gguf模型。1.8b的模型在我的手机（iPhone 15 pro）上运行还是很流畅的，除了首token加载需要一点时间之外，第二句之后的翻译都很快。通过flutter 安卓和iOS都可以使用，下载连接。

目前已经实现了本地大语言模型翻译，本地tts文字转语音，下一步计划实现本地asr语音转文字，本地ocr图像识别。
这个项目完全是出于兴趣的作品，完全免费，并且没有商业化的打算。

使用的大语言模型

目前使用的是混元开源的1.8b的大语言模型（理论上gguf格式的模型都支持，甚至可以运行千问）。但是目前我没有做选择本地模型进行推理的功能，现在所有的模型都是直接从huggingface下载。