Source : Silicon Star Pro
L'image d'en-tête est générée par Doubao. Mots rapides : une grosse baleine sous la mer, cyberpunk, lueur métallique.
Auteur｜Wang Zhaoyang
Après les débuts époustouflants de DeepSeek V3 il y a un mois, la série « source d'énergie » DeepSeek R1 qui la sous-tend a été officiellement publiée.
Le 20 janvier, DeepSeek a mis en ligne le rapport technique et diverses informations de la série R1 sur Huggingface.
Selon l'introduction de DeepSeek, il a publié cette fois trois ensembles de modèles : 1) DeepSeek-R1-Zero, qui applique directement RL au modèle de base sans aucune donnée SFT, 2) DeepSeek-R1, qui est dérivé de milliers de longues chaînes de Thought (CoT) donne un exemple de réglage fin des points de contrôle pour commencer à appliquer RL, et 3) distille les capacités d'inférence de DeepSeek-R1 en petits modèles denses.
DeepSeek-R1 a obtenu un score de 79,8 % sur AIME2024, légèrement supérieur à OpenAI-o1-1217. Sur MATH-500, il a obtenu un score étonnant de 97,3 %, soit à égalité avec OpenAI-o1-1217 et nettement meilleur que les autres modèles. Dans les tâches liées au codage, DeepSeek-R1 a réalisé des tâches de compétition de code à un niveau expert, obtenant une note Elo de 2029 sur Codeforces et surpassant 96,3 % des participants humains à la compétition. Pour les tâches liées à l'ingénierie, DeepSeek-R1 fonctionne légèrement mieux qu'OpenAI-o1-1217.
"R Lisa LL en a besoin"
La chose la plus étonnante à propos du parcours technique divulgué dans ce rapport technique est la méthode de formation de R1 Zero.
DeepSeek R1 abandonne l'une des techniques de formation qui étaient indispensables et même les plus critiques pour la pré-formation de grands modèles dans le passé : SFT. En termes simples, SFT (réglage fin) consiste d'abord à utiliser une grande quantité de données standard artificielles pour entraîner, puis à optimiser davantage la machine elle-même grâce à l'apprentissage par renforcement, tandis que RL (apprentissage par renforcement) consiste simplement à laisser la machine générer des données en fonction de certains chaînes de réflexi...
[Courte citation de 8% de l'article original]