Public-Mirror/LunaTranslator
1
0
Fork 0
mirror of https://github.com/HIllya51/LunaTranslator.git synced 2024-12-29 00:24:13 +08:00
Code Issues Projects Releases Wiki Activity

docs

Browse Source
This commit is contained in:
恍兮惚兮 2024-07-20 21:53:58 +08:00
parent c331669b39
commit 2188405e1c
1 changed files with 4 additions and 2 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

6
docs/zh/offlinellm.md
View File

@ -14,8 +14,10 @@
### ChatGPT兼容接口
其实**Sakura大模型**和**TGW**的接口基本和**ChatGPT兼容接口**一样，只不过多了一点预设的prompt和参数而已。可以把sakura和TGW的地址和模型填到这个的参数里面使用。
可以将**Sakura大模型**和**TGW**的地址和模型填到这个的参数里面使用（相比起来只是多了些预设prompt等参数，其他无区别）
也可以使用**oneapi**、**ollama**之类的工具进行模型的部署，然后将地址和模型填入。
也可以使用**llama.cpp**、**ollama**、**oneapi**之类的工具进行模型的部署，然后将地址和模型填入。
也可以使用Kaggle之类的平台来把模型部署到云端，这时可能会需要用到SECRET_KEY，其他时候可以无视SECRET_KEY参数。
也可以把注册的大模型的api填进来用（但没必要），和注册在线翻译下ChatGPT兼容接口相比，除了不会使用代理外没有其他区别。