LunaTranslator/docs/ja/offlinellm.md

10 lines
955 B
Markdown
Raw Normal View History

## 大規模モデルのオフライン翻訳の使用方法
### ChatGPT互換インターフェース
[llama.cpp](https://github.com/ggerganov/llama.cpp)、[ollama](https://github.com/ollama/ollama)、[one-api](https://github.com/songquanpeng/one-api)などのツールを使用してモデルをデプロイし、アドレスとモデルを入力することができます。
Kaggleなどのプラットフォームを使用してモデルをクラウドにデプロイすることもできます。この場合、SECRET_KEYを使用する必要があるかもしれません。そうでなければ、SECRET_KEYパラメータを無視することができます。
登録された大規模モデルのAPIを入力することもできますただし、必須ではありません。登録されたオンライン翻訳のChatGPT互換インターフェースと比較して、唯一の違いはプロキシを使用しないことです。