"Peut-être que bientôt OpenAI sera en mesure de prouver que Terence Tao a tort."
Bon gars ! Je peux sentir la "fumée des armes" à travers l'écran (bu merde~
Voici le truc. Le magnat des mathématiques Terence Tao et deux dirigeants d'OpenAI ont récemment eu une conversation en ligne sur le thème « L'avenir des mathématiques avec le raisonnement o1 », c'est-à-dire comment le modèle o1 basé sur le raisonnement peut être intégré aux mathématiques pour débloquer des avancées scientifiques.
Parmi eux, Tao Zhexuan estime que les humains sont doués pour déduire quoi faire ensuite à partir d’une très petite quantité de données, ce qui est un domaine dans lequel l’IA n’est pas douée.
Mais le directeur d'OpenAI, Mark Chen, a souligné du tac au tac qu'une fois le projet de recherche OpenAI réussi, les gens disposeront de raisonneurs très efficaces, et l'IA peut également faire un raisonnement épars en données. Peut-être qu'OpenAI sera bientôt en mesure de prouver que Tao Zhexuan a tort.
BTW, cet événement était organisé par Natalie Cone (qui a fondé et gère le Forum OpenAI). Outre le lauréat de la médaille Fields 2006, Terence Tao, il y avait également Mark Chen, vice-président principal de la recherche chez OpenAI, et James Donovan, responsable d'OpenAI. Politique scientifique et partenariats.
Fait intéressant, Ilya Sutskever (ancien co-fondateur et scientifique en chef d'OpenAI, coin inférieur droit) a également participé à cet événement l'année dernière, et même Jakub Pachocki (actuel scientifique en chef d'OpenAI, coin supérieur droit) était également présent à ce moment-là.
Compte tenu de la longueur du contenu de la diffusion en direct, voici une version économe en flux pour tout le monde :
Pas grand chose à dire, 1 heure de dialogue invité + 30 minutes de questions/réponses avec le public, voici ce qu'il faut savoir !
Tao Zhexuan s'entretient avec deux dirigeants d'OpenAI
Jetons d’abord un coup d’œil à ce dont les invités ont parlé cette fois-ci, qui peut être grossièrement divisé selon les aspects suivants :
Ce qui suit est un résumé des principaux contenus.
L’IA peut aider à résoudre des centaines, voire des milliers de problèmes mathématiques en même temps, permettant ainsi une réflexion plus approfondie.
James Donovan : Sur quelles questions vous concentrez-vous le plus actuellement dans vos domaines de recherche respectifs et pourquoi est-il si important de les aborder ?
Terence Tao : J'ai beaucoup de problèmes techniques de mathématiques que je souhaite résoudre. Plus étroitement avec le sujet de la conférence d'aujourd'hui, je suis très intéressé par la façon dont nous pouvons remodeler fondamentalement les mathématiques et comment nous pouvons utiliser tous ces nouveaux outils pour collaborer d'une manière qui n'a jamais été possible auparavant et mener des recherches mathématiques à une échelle sans précédent.
Je pense que cela pourrait être une nouvelle ère de découverte. Les mathématiciens d'aujourd'hui travaillent sur un problème à la fois, passant des mois sur un problème avant de passer au suivant. Avec ces outils, nous pourrions potentiellement analyser des centaines, voire des milliers de problèmes simultanément et effectuer différents types de recherches mathématiques. Je suis très enthousiasmé par cette possibilité.
Mark Chen : L'un de nos principaux objectifs au cours de la dernière année a été l'inférence. Cependant, depuis GPT-4, nous avons légèrement modifié notre orientation.
GPT-4 contient une grande quantité de connaissances originales, mais il est également insuffisant à bien des égards. Il se heurte à des énigmes simples et s’appuie souvent sur des connaissances préalables. S'il a une connaissance préalable de la solution d'un puzzle, il commettra souvent les mêmes erreurs de correspondance de modèles. Tout cela indique que le modèle est insuffisant en termes de capacités de raisonnement profond.
Par conséquent, nous nous sommes concentrés sur le développement de modèles de la série o. Ces modèles s’apparentent davantage aux penseurs du Système 2 qu’à ceux du Système 1. Ils ne donnent pas souvent de réponses rapides et intuitives, mais prennent plutôt le temps de réfléchir au problème avant de générer une réponse.
Je voudrais souligner deux autres questions clés de notre agenda de recherche : l'efficacité des données et la manière de créer des expériences intuitives et agréables pour les utilisateurs.
L'IA peut modulariser le travail mathématique
James Donovan : Terry, vous avez mentionné à plusieurs reprises un nouveau type potentiel de mathématiques, et vous avez également parlé de différentes manières de collaborer en mathématiques. Pouvez-vous nous l'expliquer en détail ?
Terence Tao : Les mathématiques ont toujours été considérées comme une activité très difficile, et cela reste le cas aujourd'hui. Il y a de nombreuses raisons à cela, l’une d’entre elles étant que nous comptons sur une seule personne ou sur un petit groupe de personnes pour accomplir de nombreuses tâches différentes afin d’atteindre un objectif complexe.
Si vous voulez progresser en mathématiques, vous devez d'abord poser une bonne question, puis trouver les outils pour la résoudre, étudier la littérature, essayer quelques arguments, faire des calculs, vérifier les arguments pour vous assurer qu'ils sont corrects, puis les présenter. en pratique d'une manière qui peut être expliquée. Écrivez-le, puis vous devrez rédiger des rapports, demander des subventions et bien d'autres choses. Ce sont toutes des compétences différentes. Mais dans d’autres secteurs, nous avons une division du travail.
Je pense que maintenant que nous disposons de ces outils, vous pourriez en principe avoir une sorte de collaboration dans laquelle une personne a la vision, une personne ou une IA fait les calculs, puis un autre outil rédige le document et ainsi de suite. Par conséquent, vous n’avez pas besoin d’une seule personne pour être un expert en tout.
Je pense que beaucoup de gens sont découragés en voyant tout ce qu'ils doivent faire pour devenir un bon mathématicien, et c'est vraiment intimidant. Mais peut-être qu'il y a des gens qui sont doués pour examiner les données et vérifier les modèles, puis demander à l'IA de vérifier si ce modèle existe. Peut-être qu'ils ne sont pas doués pour trouver le bon problème, mais ils peuvent travailler sur certaines parties spécifiques très restreintes d'un projet plus vaste.
Je pense que ces outils peuvent modulariser le travail mathématique, avec certaines tâches effectuées par l'IA, certaines tâches effectuées par des humains, certaines tâches effectuées par des assistants de preuve formels et certaines tâches effectuées par le public. Dans d’autres disciplines, nous avons la science citoyenne, comme les astronomes amateurs découvrant des comètes ou les biologistes amateurs collectant des papillons. Nous n'avons pas encore de moyen d'exploiter le pouvoir des mathématiciens amateurs, à l'exception de quelques très petits projets marginaux. Je pense donc qu'il y a beaucoup de potentiel et nous devons essayer beaucoup de choses et voir ce qui fonctionne.
Comment l’IA et les humains se répartissent-ils leur travail ?
James Donovan : Terence, vous semblez tacitement supposer que les humains divisent toujours les tâches, qu'ils comprennent encore assez bien le processus pour décider qui fait quoi, pensez-vous qu'il y aura différents rôles pour les mathématiciens, différentes spécialisations en conséquence ?
Terence Tao : Je pense que le génie logiciel peut servir de modèle pour l’orientation du développement des mathématiques. Dans le passé, il y avait peut-être un programmeur héroïque qui faisait tout cela, comme un mathématicien. Mais maintenant, vous avez des chefs de projet, des programmeurs, des équipes d’assurance qualité, etc. O...
[Courte citation de 8% de l'article original]