La semaine dernière, il semblait qu'OpenAI, la société secrète derrière ChatGPT, avait été ouverte. Le conseil d’administration de l’entreprise a soudainement licencié le PDG Sam Altman, des centaines d’employés se sont révoltés en signe de protestation, Altman a été réintégré et les médias ont décortiqué l’histoire sous tous les angles possibles. Pourtant, les reportages démentent le fait que notre vision de la partie la plus cruciale de l'entreprise est encore fondamentalement limitée : nous ne savons pas vraiment comment OpenAI développe sa technologie, et nous ne comprenons pas non plus exactement comment Altman a dirigé les travaux sur de futurs projets plus puissants. générations.
Cela a été clairement mis en évidence mercredi dernier, lorsque Reuters et The Information ont rapporté qu’avant le licenciement d’Altman, plusieurs chercheurs avaient fait part de leurs inquiétudes concernant une percée prétendument dangereuse. Le problème était un algorithme appelé Q* (prononcé « Q-star »), dont il aurait été démontré qu’il résolvait certains problèmes mathématiques au niveau de l’école primaire qu’il n’avait jamais rencontrés auparavant. Bien que cela puisse paraître peu impressionnant, certains chercheurs de l’entreprise auraient pensé que cela pourrait être un ...
[Courte citation de 8% de l'article original]