ChatGLM 介紹

WebsiteLarge Language Models (LLMs)AI Chatbot AI Reply Assistant AI Response Generator

ChatGLM 是由智譜AI和清華KEG開發的開源雙語（中文-英文）大型語言模型系列，具有流暢的對話能力和低部署門檻。

什麼是ChatGLM

ChatGLM 是一系列開源的大型語言模型，專為對話任務設計，參數範圍從60億到1300億。由智譜AI和清華大學知識工程組（KEG）共同開發，ChatGLM 模型在大量中文和英文語料庫上進行訓練，針對問答和對話交互進行優化。該系列包括 ChatGLM-6B、ChatGLM2-6B 和最新的 ChatGLM3-6B，每一代都在性能、上下文理解和推理效率方面有所提升。

ChatGLM 如何運作？

ChatGLM 模型基於通用語言模型（GLM）架構，並利用監督微調、反饋引導和基於人類反饋的強化學習等先進訓練技術。最新的 ChatGLM3-6B 納入了更多樣化的訓練數據集、延長的訓練步驟和改進的訓練策略。它支持多輪對話，並引入了工具調用（Function Call）、代碼執行（Code Interpreter）和複雜的 Agent 任務等新功能。由於量化技術，模型可以在消費級硬件上部署，INT4 量化級別僅需6GB GPU 內存。ChatGLM 還提供了針對特定任務優化的不同版本，如長文本對話（ChatGLM3-6B-32K）和基礎模型（ChatGLM3-6B-Base）進一步微調。

ChatGLM 的優點

ChatGLM 為用戶和開發者提供了多項優勢。其雙語能力使其特別適用於中文和英文語言任務。模型的有效設計允許在消費級硬件上進行本地部署，使其適用於個別研究人員和小型組織。模型的開源促進了透明度，並使更廣泛的AI社群能夠參與其發展。ChatGLM 在處理從內容創建到信息摘要等各種任務的多功能性使其適用於多個領域。此外，每一代的持續改進，如更長的上下文理解和更高效的推理，確保用戶能夠使用最先進的語言模型能力。