From 130cb6bba309a4fa508a5615cd4db1176e4fc596 Mon Sep 17 00:00:00 2001 From: =?UTF-8?q?=E6=81=8D=E5=85=AE=E6=83=9A=E5=85=AE?= <101191390+HIllya51@users.noreply.github.com> Date: Sat, 28 Sep 2024 12:17:26 +0800 Subject: [PATCH] docs --- docs/en/offlinellm.md | 10 ---------- docs/ru/offlinellm.md | 11 ----------- 2 files changed, 21 deletions(-) diff --git a/docs/en/offlinellm.md b/docs/en/offlinellm.md index e62364be..5b9f5c98 100644 --- a/docs/en/offlinellm.md +++ b/docs/en/offlinellm.md @@ -1,18 +1,8 @@ ## How to Use Large Model Offline Translation? -### Sakura Large Model - -> Recommended for use, simple configuration, good results, and can also run lightweight models purely on CPU. - -Deployment Methods - -1. [Deploy SakuraLLM to an Online GPU Platform](/zh/sakurallmcolab.md) - -2. Other deployment methods can be referred to at https://github.com/SakuraLLM/SakuraLLM/wiki ### ChatGPT Compatible Interface -You can fill in the **Sakura Large Model** address and model into the parameters of this interface (compared to this, it only adds some preset prompts and other parameters, with no other differences). You can also use tools like [TGW](https://github.com/oobabooga/text-generation-webui), [llama.cpp](https://github.com/ggerganov/llama.cpp), [ollama](https://github.com/ollama/ollama), [one-api](https://github.com/songquanpeng/one-api) to deploy models, and then fill in the address and model. diff --git a/docs/ru/offlinellm.md b/docs/ru/offlinellm.md index 70382391..bf9565ed 100644 --- a/docs/ru/offlinellm.md +++ b/docs/ru/offlinellm.md @@ -1,19 +1,8 @@ ## Как использовать офлайн-перевод с большой моделью? -### Sakura Large Model - -> Рекомендуется для использования, простая настройка, хорошие результаты, также может работать на чистом CPU с легкой моделью. - -Методы развертывания - -1. [Развертывание SakuraLLM на онлайн-платформе GPU](/zh/sakurallmcolab.md) - -2. Другие методы развертывания можно найти на https://github.com/SakuraLLM/SakuraLLM/wiki ### Совместимый с ChatGPT интерфейс -Можно использовать адрес и модель **Sakura Large Model** в параметрах этого интерфейса (по сравнению с этим просто добавлены некоторые предварительно заданные prompt и другие параметры, других отличий нет). - Также можно использовать такие инструменты, как [TGW](https://github.com/oobabooga/text-generation-webui), [llama.cpp](https://github.com/ggerganov/llama.cpp), [ollama](https://github.com/ollama/ollama), [one-api](https://github.com/songquanpeng/one-api), для развертывания модели, а затем ввести адрес и модель. Также можно использовать платформы, такие как Kaggle, для развертывания модели в облаке, в этом случае может потребоваться SECRET_KEY, в других случаях можно игнорировать параметр SECRET_KEY.