ChatGLM Introducción

Los modelos ChatGLM se basan en la arquitectura de Modelo de Lenguaje General (GLM) y utilizan técnicas avanzadas de entrenamiento como el ajuste fino supervisado, el arranque por retroalimentación y el aprendizaje por refuerzo con retroalimentación humana. El último ChatGLM3-6B incorpora un conjunto de datos de entrenamiento más diverso, pasos de entrenamiento extendidos y estrategias de entrenamiento mejoradas. Admite diálogos de múltiples turnos e introduce nuevas características como la invocación de herramientas (Function Call), la ejecución de código (Code Interpreter) y tareas complejas de Agent. Los modelos pueden implementarse en hardware de consumo gracias a las técnicas de cuantificación, requiriendo tan solo 6GB de memoria de GPU para el nivel de cuantificación INT4. ChatGLM también ofrece diferentes versiones optimizadas para tareas específicas, como el diálogo de texto largo (ChatGLM3-6B-32K) y un modelo base (ChatGLM3-6B-Base) para un ajuste fino adicional.