ChatGLM Introdução

Os modelos ChatGLM são baseados na arquitetura de Modelo de Linguagem Geral (GLM) e utilizam técnicas avançadas de treinamento, como ajuste fino supervisionado, bootstrapping de feedback e aprendizado por reforço com feedback humano. O mais recente ChatGLM3-6B incorpora um conjunto de dados de treinamento mais diversificado, etapas de treinamento estendidas e estratégias de treinamento aprimoradas. Ele suporta diálogos de múltiplas voltas e introduz novos recursos como invocação de ferramentas (Function Call), execução de código (Code Interpreter) e tarefas complexas de Agent. Os modelos podem ser implantados em hardware de consumo graças a técnicas de quantização, exigindo apenas 6GB de memória de GPU para o nível de quantização INT4. O ChatGLM também oferece diferentes versões otimizadas para tarefas específicas, como diálogo de texto longo (ChatGLM3-6B-32K) e um modelo base (ChatGLM3-6B-Base) para ajuste fino adicional.