ChatGLM 是由智谱 AI 和清华 KEG 开发的开源双语（中文-英文）大型语言模型系列，具有流畅的对话能力和低部署门槛。
访问网站
https://chatglm.cn/
产品信息
更新时间：09/09/2024
什么是ChatGLM
ChatGLM 是一系列开源的大型语言模型，专为对话任务设计，参数范围从 60 亿到 1300 亿不等。由智谱 AI 和清华大学知识工程组（KEG）联合开发，ChatGLM 模型在庞大的中文和英文语料库上进行训练，针对问答和对话交互进行了优化。该系列包括 ChatGLM-6B、ChatGLM2-6B 和最新的 ChatGLM3-6B，每一代都在前一代的基础上进行了性能增强、更长的上下文理解和更高效的推理能力。
ChatGLM 的主要功能
ChatGLM 是一个基于通用语言模型（GLM）框架的开源双语（中文和英文）对话语言模型。它采用了类似于 ChatGPT 的技术，针对中文问答和对话进行了优化。该模型在大约 1T 个中英文语料标记上进行了训练，采用了监督微调、反馈引导和基于人类反馈的强化学习等技术。模型有多种尺寸，其中 ChatGLM-6B 是一个更小、更易于访问的版本，可以在消费级硬件上本地部署。
双语支持: 针对中文和英文语言处理进行了优化，适用于多语言应用。
低部署门槛: 可以在消费级显卡上本地部署，INT4 量化仅需 6GB GPU 内存。
全面的模型系列: 提供多种尺寸和专业化的模型，包括基础模型、对话模型和长文本模型如 ChatGLM3-6B-32K。
先进的训练技术: 采用监督微调、反馈引导和基于人类反馈的强化学习来提高性能。
开源: 完全开放供学术研究，注册后可免费用于商业用途，促进社区驱动的开发。
ChatGLM 的用例
自然语言处理: 可用于中英文的各种自然语言处理任务，如文本生成、摘要和问答。
聊天机器人和虚拟助手: 适用于创建能够进行多轮对话的对话式人工智能系统。
内容创作: 协助生成创意内容、文章和其他中英文书面材料。
代码生成和辅助: 借助 CodeGeeX 等模型，可以帮助编程任务和代码生成。
教育工具: 可用于创建互动学习体验，并回答多语言学生的查询。
优点
双语能力使其适用于中文和英文应用
低硬件要求允许广泛的可访问性和本地部署
开源性质鼓励社区贡献和改进
缺点
较小的模型尺寸可能限制性能，与较大的语言模型相比
与其他所有 AI 模型一样，可能生成不准确或有偏见的信息
需要谨慎使用和监控，以防止滥用或意外后果
如何使用ChatGLM
安装所需包: 通过运行以下命令安装必要的 Python 包：pip install protobuf transformers==4.30.2 cpm_kernels torch>=2.0 gradio mdtex2html sentencepiece accelerate
导入模型和分词器: 使用以下代码导入 ChatGLM：
from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)
model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()
生成响应: 通过调用 chat 方法生成响应：
response, history = model.chat(tokenizer, "你好", history=[])
print(response)
继续对话: 要继续对话，将历史记录传递给后续调用：
response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)
print(response)
使用网页界面: 为了获得更友好的用户体验，访问 https://chatglm.cn 以使用更大的 ChatGLM 模型的网页界面
下载移动应用: 扫描 ChatGLM 网站上的二维码，下载适用于 iOS 或 Android 的移动应用
ChatGLM 常见问题解答
ChatGLM 是一个基于通用语言模型（GLM）框架的开源双语语言模型。它在中英文数据上进行训练，并针对问答和对话任务进行了优化。
ChatGLM 网站分析
ChatGLM 流量和排名
3.4M
每月访问量
#24795
全球排名
#548
类别排名
流量趋势：Jun 2024-Aug 2024
ChatGLM 用户洞察
00:02:17
平均访问时长
2.17
每次访问页数
54.04%
用户跳出率
ChatGLM 的热门地区
CN: 87.22%
US: 6.32%
HK: 1.93%
TW: 1.47%
KR: 0.81%
Others: 2.25%
与 ChatGLM 类似的最新 AI 工具
LLMChat
LLMChat 是一个注重隐私的网络应用程序，允许用户使用自己的 API 密钥与多种 AI 语言模型进行交互，并增强了插件和个性化记忆功能。
Composio
Composio是一个平台，通过功能调用为AI代理和LLMs提供与150多个外部工具的无缝集成。
ModelFusion
ModelFusion是一个开源的TypeScript库和AI平台，提供统一的API，用于将多种AI模型集成到应用程序中，支持文本生成、图像处理等。
Epsilla
Epsilla是一个一站式RAG即服务平台，用于构建连接专有数据的生产就绪LLM应用，具备高性能向量数据库和先进检索技术。
