ChatGLM 紹介

WebsiteLarge Language Models (LLMs)AI Chatbot

ChatGLMは、Zhipu AIと清華KEGによって開発されたオープンソースの双方向（中国語-英語）大規模言語モデルシリーズで、スムーズな対話機能と低い展開閾値を特徴としています。

詳細情報

ChatGLMとは

ChatGLMは、対話タスク向けに設計されたオープンソースの大規模言語モデルのファミリーで、パラメータ数が60億から1300億までのバージョンがあります。Zhipu AIと清華大学の知識工学グループ（KEG）が共同で開発したChatGLMモデルは、大規模な中国語および英語のコーパスでトレーニングされ、質問応答と対話的な相互作用に最適化されています。シリーズにはChatGLM-6B、ChatGLM2-6B、そして最新のChatGLM3-6Bが含まれ、それぞれが前世代に比べて性能向上、より長いコンテキスト理解、およびより効率的な推論能力を備えています。

ChatGLMはどのように機能しますか？

ChatGLMモデルは、General Language Model（GLM）アーキテクチャに基づいており、教師ありファインチューニング、フィードバックブートストラップ、および人間のフィードバックを用いた強化学習などの高度なトレーニング技術を利用しています。最新のChatGLM3-6Bは、より多様なトレーニングデータセット、拡張されたトレーニングステップ、および改善されたトレーニング戦略を組み込んでいます。マルチターン対話をサポートし、ツール呼び出し（Function Call）、コード実行（Code Interpreter）、複雑なAgentタスクなどの新機能を導入しています。モデルは量子化技術により消費者向けハードウェアに展開可能で、INT4量子化レベルではわずか6GBのGPUメモリを必要とします。ChatGLMは、長文対話（ChatGLM3-6B-32K）やベースモデル（ChatGLM3-6B-Base）など、特定のタスクに最適化された異なるバージョンも提供しています。

ChatGLMの利点

ChatGLMは、ユーザーと開発者にいくつかの利点を提供します。その双方向言語能力により、中国語と英語の言語タスクに特に有用です。モデルの効率的な設計により、消費者向けハードウェアでのローカル展開が可能となり、個々の研究者や小規模組織にとってアクセスしやすくなっています。モデルのオープンソース化は透明性を促進し、より広範なAIコミュニティがその開発に貢献できるようになります。ChatGLMの様々なタスク（コンテンツ作成から情報要約まで）への汎用性により、複数の分野に適用可能です。さらに、より長いコンテキスト理解やより効率的な推論など、各世代での継続的な改善により、ユーザーは最先端の言語モデル機能にアクセスできるようになります。