DeepSeek Introduction

DeepSeek fonctionne à travers une série de modèles de langage spécialisés optimisés pour différents cas d'utilisation. Leurs modèles de codage (DeepSeek Coder) sont entraînés sur un mélange de 87% de code et 13% de données de langage naturel à travers plusieurs langages de programmation, avec des tailles de modèle allant de 1B à 236B paramètres. Ils emploient des architectures avancées comme Mixture-of-Experts (MoE) et le cadre DeepSeekMoE pour permettre un entraînement et une inférence efficaces. Pour la conversation générale, les modèles DeepSeek Chat sont ajustés avec des données d'instruction et un apprentissage par renforcement pour fournir des réponses alignées sur l'humain. Les dernières versions DeepSeek-V2.5 et V3 combinent à la fois des capacités de codage et générales dans des modèles unifiés capables de gérer une large gamme de tâches avec des fenêtres de contexte allant jusqu'à 128K tokens.