ChatGLM Как использовать
ChatGLM - это серия открытых билингвальных (китайский-английский) больших языковых моделей, разработанных Zhipu AI и Tsinghua KEG, отличающихся плавными диалоговыми возможностями и низкими порогами развертывания.
Посмотреть большеКак использовать ChatGLM
Установить необходимые пакеты: Установите необходимые пакеты Python, выполнив: pip install protobuf transformers==4.30.2 cpm_kernels torch>=2.0 gradio mdtex2html sentencepiece accelerate
Импортировать модель и токенизатор: Используйте следующий код для импорта ChatGLM:
from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)
model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()
Сгенерировать ответ: Сгенерируйте ответ, вызвав метод chat:
response, history = model.chat(tokenizer, "你好", history=[])
print(response)
Продолжить диалог: Чтобы продолжить диалог, передайте историю в последующие вызовы:
response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)
print(response)
Использовать веб-интерфейс: Для более удобного пользования посетите https://chatglm.cn, чтобы использовать веб-интерфейс большей модели ChatGLM
Скачать мобильное приложение: Отсканируйте QR-код на сайте ChatGLM, чтобы скачать мобильное приложение для iOS или Android
Часто задаваемые вопросы о ChatGLM
ChatGLM - это открытая билингвальная языковая модель, основанная на фреймворке General Language Model (GLM). Она обучена на данных как на китайском, так и на английском языках и оптимизирована для задач ответа на вопросы и диалога.
Похожие статьи
Популярные статьи
Black Forest Labs представляет FLUX.1 Tools: Лучший набор инструментов для генерации изображений с помощью ИИ
Nov 22, 2024
Microsoft Ignite 2024: Представление Azure AI Foundry для раскрытия потенциала революции ИИ
Nov 21, 2024
OpenAI запускает ChatGPT Advanced Voice Mode в веб-версии
Nov 20, 2024
Мультиязычная AI-платформа для чата AnyChat с поддержкой ChatGPT, Gemini, Claude и других
Nov 19, 2024
Показать больше