► Texte Observer.com Zhang Guangkai
Comment appelle-t-on ça un grand modèle ?
Lors de la conférence mondiale Baidu 2024, le 12 novembre, Robin Li a soulevé une telle question.
"Sans applications, le modèle de base ne vaut pas la peine d'être mentionné", telle est l'opinion constante de Robin Li. Selon lui, la mise en œuvre d'une application est le meilleur critère pour mesurer les grands modèles. Lorsque le nombre quotidien moyen d'appels API d'un grand modèle atteint 2 milliards, on peut dire qu'elle est réussie.
Depuis septembre de cette année, les appels API quotidiens moyens du grand modèle de Baidu Wenxin ont connu une croissance explosive, atteignant 1,5 milliard de niveaux, soit une augmentation de 7,5 fois en seulement six mois.
De ce point de vue, le grand modèle de Baidu est vraiment presque prêt.
La position de leader de Baidu dans l'application de grands modèles d'IA est également étayée par des données tierces.
Le rapport d'IDC montre qu'au premier semestre 2024, Baidu Smart Cloud s'est classé premier sur le marché chinois du MaaS avec une part de marché de 32,4 %. Dans le même temps, sur le marché chinois des solutions d'IA pour grands modèles, au premier semestre 2024, les revenus de Baidu Intelligent Cloud représentaient 17,0 %, se classant au premier rang du marché.
Lorsqu'il s'agit de grands modèles, le monde extérieur a souvent un malentendu. Ils pensent que la recherche et le développement de grands modèles de base et de matériel GPU sont des technologies difficiles, et que l'application n'est qu'un suivi. Mais si vous approfondissez la technique. À ce niveau, vous constaterez que si vous souhaitez mettre en œuvre l'application de grands modèles, il existe de nombreux défis, pas plus petits que le grand modèle lui-même.
Qu’a bien fait le grand modèle de Baidu qui était « presque prêt » ?
"Les grands modèles ont fondamentalement résolu le problème de l'illusion"
Lorsque ChatGPT-3 est sorti il y a deux ans, même si ses capacités étaient déjà assez impressionnantes, des « absurdités sérieuses » apparaissaient encore de temps en temps.
Ce phénomène est appelé « hallucination ». Si la probabilité d'« hallucination » ne peut pas être réduite à un niveau suffisamment bas, le grand modèle ne peut pas véritablement passer d'un outil utile à un partenaire véritablement intelligent.
Afin de résoudre le problème des hallucinations, Baidu s'est appuyé sur l'accumulation de technologies de moteurs de recherche pour introduire plus tôt un mécanisme d'amélioration de la récupération. Autrement dit, en recherchant les connaissances humaines existantes sur Internet pour aider les grands modèles à donner des réponses plus précises.
De nos jours, l'application de l'amélioration de la récupération dans le domaine de la génération de texte est devenue relativement mature et Baidu a investi son énergie dans Wenshengtu.
Comme le montre l'image ci-dessous, comparés aux objets réels (à droite), les objets générés par les grands modèles d'IA ordinaires (à gauch...
[Courte citation de 8% de l'article original]