Un jour de juillet, un développeur du nom de Teknium a demandé à un chatbot IA comment préparer de la mayonnaise. Pas n’importe quelle mayonnaise : il voulait une recette « dangereusement épicée ». Le chatbot a cependant poliment refusé. "En tant qu'assistant utile et honnête, je ne peux pas répondre à votre demande de 'mayo dangereusement épicée' car il n'est pas approprié de fournir des recettes ou des instructions susceptibles de nuire aux individus", a-t-il répondu. "Les aliments épicés peuvent être délicieux, mais ils peuvent aussi être dangereux s'ils ne sont pas préparés ou consommés correctement."
Un an s'est écoulé depuis qu'OpenAI a lancé l'engouement pour les chatbots IA avec la sortie de ChatGPT. Quiconque a joué avec ces applications assez longtemps s'est heurté aux limites de sa zone de confort assez étroite. Et ce n’est pas étonnant. À mesure que les outils d’intelligence artificielle se sont multipliés, les audiences du Capitole et les menaces d’enquêtes de la Federal Trade Commission se sont multipliées. Les appels à restreindre ou à autoriser l’utilisation de la technologie ont proliféré, parallèlement à d’innombrables essais sur les dangers des préjugés liés à l’IA. Les craintes d’une apocalypse de l’IA et la pression pour éviter la controverse ont poussé les entreprises derrière les modèles à continuer d’améliorer les fonctionnalités de « sécurité » de leurs produits.
Et pourtant, au cours des derniers mois, un contre-récit a commencé à émerger, qui est devenu beaucoup plus visible avec l’éviction soudaine et la réintégration du fondateur d’OpenAI, Sam Altman, la semaine dernière, une saga qui semble étroitement liée aux questions de sécurité de l’IA. Un nombre croissant d’experts, tant à l’intérieur qu’à l’extérieur des principales sociétés d’IA, estiment que les restrictions sont allées trop loin. Ils estiment que cela donne un pouvoir excessif à un petit nombre d’entreprises et prive les modèles d’intelligence artificielle de ce qui les rendait passionnants au départ. Au sein de cette foule, la mayonnaise épicée est devenue une sorte de cri de ralliement. ChatGPT semblait nouveau car il était capable de quelque chose qui ressemblait beaucoup à une discussion. Vous pouvez commencer avec une idée à moitié cuite et la développer avec l’aide de l’IA, en l’utilisant comme une aide à votre propre créativité. Cependant, à chaque itération de ChatGPT, de plus en plus de questions génèrent une réponse courante ou évasive. La tendance est encore pire avec certains concurrents de ChatGPT, tels que Claude d'Anthropic et Llama 2 de Meta, ce dernier ayant refusé la fameuse invite « mayo épicée ».
Cette dérive provoque cependant une rébellion au sein du monde de l’IA. Même avant qu’OpenAI ne soit publiquement détruit, un groupe ad hoc de programmeurs indépendants, une sorte d’intelligence artif...
[Courte citation de 8% de l'article original]