联系我们 『差生文具多』基于离线大模子的翻译器用
老子曰：陆续保持对新事物的酷好，粗略减速软弱。
”前天提到可以使用Ollama在腹地电脑上部署大模子并离线使用（见一条号召完资腹地版大模子下载及装置使用）。Ollama仅仅一个加载大模子的框架良友，其实访佛的框架在github上还可以找到一堆，当前比较热的比如LM Studio也还挺好用，不外我最可爱Ollama的少量是其静默运转，在需要大模子的时辰才加载模子，特地轻巧和易于部署。
部署了大模子，天然是要使用。有东谈主说GPT4不好用么，Windows Copilot不好用么，这些固然功能浩瀚，但未必辰看望不太便捷。那国内模子呢？国内模子的领略当前作念一些笔墨性使命还可以，不外触及到一些逻辑性和精准性条目比较高的数理问题就纳屦踵决了。天然应用国内大模子作念一些笔墨润色、谈话翻译照旧相配的哇噻的。但这些大模子并不掌捏在我方手里，没准今天用的特地爽的模子来日就让你交钱了，是以一些开源的大模子照旧值得使用的。
对汉文赈济比较好的开源大模子保举阿里的Qwen和智谱的ChatGLM3，个东谈主激烈保举Qwen。
有了大模子，后续天然是确立在大模子基础上的应用了。咱们可以在大模子的基础上基于langchain构建非常学问库，也可以应用这些大模子作念一些笔墨性的器用诱骗。这类器用其实编制起来很浅易，无非是调用大模子提供的接口，再加入少量辅导词即可。
比如今天要保举的开源花式OpenAI Translator。
github地址：https://github.com/openai-translator/openai-translator
”OpenAI Translator伊始是思使用ChatGPT竣事划词翻译的。不外当前也曾发展成可以加载一些腹地部署的大模子了。
1 装置OpenAI Translator提供了全平台赈济，以至包括浏览器插件。这里以windows系统为例。
下载地址：https://github.com/openai-translator/openai-translator/releases/tag/v0.3.24
app”参预下载地址，接管下载适合的装置才能，如下图所示。
图片
装置经过没啥好说的，双击装置才能即可。
2 配置最初确保本机上也曾运转了Ollama，且Ollama也曾提前部署了大模子。这里以qwen:7b为例。
运转OpenAI Translator，点击左下角的成就按钮。图片
在通用选项卡中进行成就指定默许行状提供商为 Ollama（腹地模子）指定API模子为 自界说指定自界说模子称号 为 qwen:7b图片
这里要详确自界说模子称号必须与Ollama运转的模子称号保持一致，不然会找不到模子。
为便捷使用，可以成就快捷键。
参预快捷键选项卡，如图所示成就快捷键图片
舒服找段英文尝试一下。
接管英文，企业小程序开发制作公司按前边成就的快捷键（如上图成就的alt+c）图片
快捷键会叫醒OpenAI Translator并将自动翻译接管的笔墨。翻译速率超等快，从下图可以看出，翻译质料也相配的可以。
一区（1-12）：上期奖号05、07、10，最近10期出号较热，出号20个，没有出现断区，本期预计出号2个，本期推荐：04、09
图片
再来段中译英试试。来个英文塌实的谈友评价一下翻译恶果如何。
图片
qwen:7的中译英恶果不咋地，未必辰翻译截止中会有中笔墨，固然多翻译几次能摒除，但照旧不爽。不外好在可以换其他的模子。底下是谷歌前几天开源的Gemma翻译的截止，固然翻译截止中不会出现汉文，但从底下的截止来看，Gemma似乎识字未几，两个东谈主名字齐认错。个东谈主以为qwen翻译更刚直，从终末一句嗅觉到的。
图片
OpenAI Translator除了粗略提供翻译功能外，还提供了基于大模子的笔墨生成及润色功能，有酷好的谈友可自行探索。要是编程才能还可以的话,彻底可以自行编制访佛的器用，这仅仅一个浅易的调用接口的外壳良友。
受制于硬件资源，腹地粗略部署的大模子参数目齐比较小，功能和性能齐无法与头部厂家提供的模子比拟，但腹地模子主打一个安全和快速反应，可玩性也更强。不外从当前内卷现象来看，开源模子的性能势必也会快速擢升，当今许多7B的模子在一些特殊界限的领略也曾不输于当初的GPT3.5了。
（完）
本站仅提供存储行状，统共实质均由用户发布，如发现存害或侵权实质，请点击举报。