ChatGLM Как использовать
ChatGLM - это серия открытых билингвальных (китайский-английский) больших языковых моделей, разработанных Zhipu AI и Tsinghua KEG, отличающихся плавными диалоговыми возможностями и низкими порогами развертывания.
Посмотреть большеКак использовать ChatGLM
Установить необходимые пакеты: Установите необходимые пакеты Python, выполнив: pip install protobuf transformers==4.30.2 cpm_kernels torch>=2.0 gradio mdtex2html sentencepiece accelerate
Импортировать модель и токенизатор: Используйте следующий код для импорта ChatGLM:
from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)
model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()
Сгенерировать ответ: Сгенерируйте ответ, вызвав метод chat:
response, history = model.chat(tokenizer, "你好", history=[])
print(response)
Продолжить диалог: Чтобы продолжить диалог, передайте историю в последующие вызовы:
response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)
print(response)
Использовать веб-интерфейс: Для более удобного пользования посетите https://chatglm.cn, чтобы использовать веб-интерфейс большей модели ChatGLM
Скачать мобильное приложение: Отсканируйте QR-код на сайте ChatGLM, чтобы скачать мобильное приложение для iOS или Android
Часто задаваемые вопросы о ChatGLM
ChatGLM - это открытая билингвальная языковая модель, основанная на фреймворке General Language Model (GLM). Она обучена на данных как на китайском, так и на английском языках и оптимизирована для задач ответа на вопросы и диалога.
Тенденции ежемесячного трафика ChatGLM
ChatGLM продемонстрировал незначительное снижение на 0,0% в трафике, с уменьшением на 401 посещение. Несмотря на отсутствие прямых обновлений продукта, продвинутые возможности модели и многоязычная предварительная подготовка на 10 триллионах токенов позволяют предположить, что она остается надежным ИИ-продуктом. Однако отсутствие недавних обновлений или заметной рыночной активности может указывать на период стабильности, а не активного роста.
Посмотреть историю трафика
Похожие статьи
Показать больше