ChatGLM-6Bの主な特徴は何ですか？

ChatGLM-6Bは62億のパラメータを持ち、中国語と英語の両方をサポートし、消費者向けGPUでローカルに展開でき、コンテキスト長は2048トークンで、教師あり微調整や強化学習などの技術で約1兆トークンのデータでトレーニングされています。

ChatGLMはオープンソースですか？

はい、ChatGLM-6Bはオープンソースです。重みは学術研究のために完全に公開されており、アンケートを完了することで無料の商用利用が許可されています。

ChatGLM-6Bを実行するためのハードウェア要件は何ですか？

量子化技術を使用することで、ChatGLM-6Bは消費者向けグラフィックスカードにローカルで展開できます。INT4量子化レベルでは、GPUメモリが6GBのみ必要です。

ChatGLMの最新バージョンは何ですか？

最新バージョンはChatGLM3-6Bで、より強力なベースモデル性能、ツール呼び出しとコード実行のサポート、新しく設計されたプロンプト形式などの機能が導入されています。

ChatGLMにアクセスまたは試すにはどうすればいいですか？

ChatGLMには公式ウェブサイトhttps://chatglm.cnからアクセスできます。GitHubでローカル展開用のオープンソースバージョンも利用可能です。

ChatGLM

WebsiteLarge Language Models (LLMs)AI Chatbot

ChatGLMは、Zhipu AIと清華KEGによって開発されたオープンソースの双方向（中国語-英語）大規模言語モデルシリーズで、スムーズな対話機能と低い展開閾値を特徴としています。

ソーシャル＆メール:

ウェブサイトを訪問

https://chatglm.cn/?utm_source=aipure

概要
分析
公式投稿
記事
代替案

製品情報

更新日:12/11/2024

ChatGLMとは

ChatGLMは、対話タスク向けに設計されたオープンソースの大規模言語モデルのファミリーで、パラメータ数が60億から1300億までのバージョンがあります。Zhipu AIと清華大学の知識工学グループ（KEG）が共同で開発したChatGLMモデルは、大規模な中国語および英語のコーパスでトレーニングされ、質問応答と対話的な相互作用に最適化されています。シリーズにはChatGLM-6B、ChatGLM2-6B、そして最新のChatGLM3-6Bが含まれ、それぞれが前世代に比べて性能向上、より長いコンテキスト理解、およびより効率的な推論能力を備えています。

ChatGLMの主な機能

ChatGLMは、General Language Model（GLM）フレームワークに基づくオープンソースの二言語（中国語と英語）対話型言語モデルです。ChatGPTに似た技術を使用し、中国語のQ&Aおよび対話に最適化されています。約1兆トークンの中国語および英語コーパスでトレーニングされ、教師あり微調整、フィードバックブートストラップ、人間のフィードバックによる強化学習が組み込まれています。モデルはさまざまなサイズで提供され、ChatGLM-6Bはより小さく、アクセスしやすいバージョンで、消費者向けハードウェアでローカルに展開できます。

二言語対応: 中国語と英語の言語処理に最適化されており、多言語アプリケーションに対応しています。

低い展開閾値: 消費者向けグラフィックスカードにローカルで展開でき、INT4量子化にはGPUメモリ6GBのみが必要です。

包括的なモデルシリーズ: 基本モデル、対話モデル、ChatGLM3-6B-32Kのような長文モデルを含むさまざまなモデルサイズと専門分野を提供します。

高度なトレーニング技術: 教師あり微調整、フィードバックブートストラップ、人間のフィードバックによる強化学習を利用してパフォーマンスを向上させます。

オープンソース: 学術研究に完全にオープンで、登録後の商用利用は無料で、コミュニティ主導の開発を促進します。

ChatGLMの使用例

自然言語処理: テキスト生成、要約、質問応答など、中国語と英語のさまざまなNLPタスクに使用できます。

チャットボットと仮想アシスタント: 複数ターンの対話を行うことができる会話型AIシステムの作成に最適です。

コンテンツ作成: 中国語と英語のクリエイティブコンテンツ、記事、その他の書面資料の生成を支援します。

コード生成と支援: CodeGeeXのようなモデルを使用して、プログラミングタスクやコード生成を支援できます。

教育ツール: 複数の言語でインタラクティブな学習体験を作成し、学生の質問に答えるために使用できます。

メリット

二言語機能により、中国語と英語のアプリケーションに対応できます

低いハードウェア要件により、広範囲にわたるアクセシビリティとローカル展開が可能です

オープンソースの性質は、コミュニティの貢献と改善を促進します

デメリット

小さいモデルサイズは、より大きな言語モデルと比較してパフォーマンスが制限される可能性があります

すべてのAIモデルと同様に、不正確またはバイアスのある情報を生成する可能性があります

誤用や意図しない結果を防ぐために、慎重な使用と監視が必要です

ChatGLMの使用方法

必要なパッケージをインストール: 以下のコマンドを実行して必要なPythonパッケージをインストールします: pip install protobuf transformers==4.30.2 cpm\_kernels torch>=2.0 gradio mdtex2html sentencepiece accelerate

モデルとトークナイザーをインポート: 以下のコードを使用してChatGLMをインポートします: from transformers import AutoTokenizer, AutoModel tokenizer = AutoTokenizer.from\_pretrained("THUDM/chatglm-6b", trust\_remote\_code=True) model = AutoModel.from\_pretrained("THUDM/chatglm-6b", trust\_remote\_code=True).half().cuda()

応答を生成: chatメソッドを呼び出して応答を生成します: response, history = model.chat(tokenizer, "你好", history=[]) print(response)

会話を続ける: 会話を続けるには、historyを後続の呼び出しに渡します: response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history) print(response)

ウェブインターフェースを使用: よりユーザーフレンドリーな体験のために、https://chatglm.cn にアクセスして大規模なChatGLMモデルのウェブインターフェースを使用します

モバイルアプリをダウンロード: ChatGLMのウェブサイトにあるQRコードをスキャンして、iOSまたはAndroid用のモバイルアプリをダウンロードします