ChatGLM 사용법

필요한 패키지 설치: 다음 명령어를 실행하여 필요한 Python 패키지를 설치하세요: pip install protobuf transformers==4.30.2 cpm_kernels torch>=2.0 gradio mdtex2html sentencepiece accelerate

모델 및 토크나이저 가져오기: 다음 코드를 사용하여 ChatGLM을 가져오세요: from transformers import AutoTokenizer, AutoModel tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True) model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()

응답 생성: chat 메서드를 호출하여 응답을 생성하세요: response, history = model.chat(tokenizer, "안녕하세요", history=[]) print(response)

대화 계속하기: history를 후속 호출에 전달하여 대화를 계속하세요: response, history = model.chat(tokenizer, "밤에 잠을 설치면 어떻게 해야 하나요", history=history) print(response)

웹 인터페이스 사용: 보다 사용자 친화적인 경험을 위해 https://chatglm.cn 에 방문하여 더 큰 ChatGLM 모델의 웹 인터페이스를 사용하세요

모바일 앱 다운로드: ChatGLM 웹사이트의 QR 코드를 스캔하여 iOS 또는 Android용 모바일 앱을 다운로드하세요