À 13 heures. Un vendredi peu avant Noël de l’année dernière, Kent Walker, le principal avocat de Google, a convoqué quatre de ses employés et a gâché leur week-end.
Le groupe travaillait dans le SL1001, un bâtiment fade avec une façade en verre bleu qui ne trahissait aucun signe indiquant que des dizaines d’avocats à l’intérieur s’efforçaient de protéger les intérêts de l’une des sociétés les plus influentes au monde. Depuis des semaines, ils préparaient une réunion de dirigeants puissants pour discuter de la sécurité des produits de Google. Le jeu était terminé. Mais cet après-midi-là, M. Walker a déclaré à son équipe que l'ordre du jour avait changé et qu'ils devraient passer les prochains jours à préparer de nouvelles diapositives et de nouveaux graphiques.
En fait, tout l’agenda de l’entreprise a changé – tout cela en l’espace de neuf jours. Sundar Pichai, le directeur général de Google, avait décidé de préparer immédiatement une gamme de produits basés sur l’intelligence artificielle. Il s'est tourné vers M. Walker, le même avocat en qui il avait confiance pour défendre l'entreprise dans une affaire antitrust menaçant ses bénéfices à Washington, D.C. M. Walker savait qu'il lui faudrait convaincre l'Advanced Technology Review Council, comme Google appelait le groupe de dirigeants. , de se débarrasser de leur prudence habituelle et de faire ce qu'on leur a dit.
C’était un décret, et les décrets n’arrivaient pas très souvent chez Google. Mais Google était confronté à une véritable crise. Son modèle économique était potentiellement menacé.
Ce qui a déclenché M. Pichai et le reste de la Silicon Valley, c’est ChatGPT, le programme d’intelligence artificielle lancé le 30 novembre 2022 par un nouveau venu appelé OpenAI. Cela avait captivé l’imagination de millions de personnes qui pensaient que l’IA était efficace. c'était de la science-fiction jusqu'à ce qu'ils commencent à jouer avec la chose. C'était une sensation. C'était aussi un problème.
Au Googleplex, célèbre pour sa nourriture gratuite, ses massages, ses cours de fitness et ses services de blanchisserie, M. Pichai jouait également avec ChatGPT. Ses merveilles ne l’ont pas impressionné. Google développait sa propre IA. une technologie qui faisait à peu près les mêmes choses. M. Pichai se concentrait sur les défauts de ChatGPT : il se trompait, parfois il se transformait en cochon biaisé. Ce qui l’a étonné, c’est qu’OpenAI soit allé de l’avant et l’ait quand même publié, et que les consommateurs l’aient adoré. Si OpenAI pouvait faire cela, pourquoi Google ne le pourrait-il pas ?
Pourquoi ne pas aller de l’avant ? C’est la question qui a dominé l’adolescence de l’IA – environ un an après que la technologie soit passée du laboratoire au salon. Il y a eu des inquiétudes concernant les chatbots qui écrivent des courriels de phishing séduisants et répandent de la désinformation, ou sur les lycéens qui les utilisent pour tromper leur chemin vers un A. Les Doomsayers ont insisté sur le fait qu'une IA sans entraves pouvait être utilisée. pourrait conduire à la fin de l’humanité.
Pour les patrons d’entreprises technologiques, la décision de savoir quand et comment faire évoluer l’IA. dans une entreprise (espérons-le) rentable était un calcul risque-récompense plus simple. Mais pour gagner, il fallait avoir un produit.
Le lundi matin 12 décembre, l'équipe du SL1001 avait un nouvel agenda avec un dossier intitulé « Privilégié et confidentiel/Besoin de savoir ». La plupart des participants se sont connectés par vidéoconférence. M. Walker a commencé la réunion en annonçant que Google allait de l'avant avec un chatbot et une IA. capacités qui seraient ajoutées aux produits cloud, de recherche et autres.
« Quelles sont vos inquiétudes ? Faisons la queue », a déclaré M. Walker, selon Jen Gennai, directrice de l'innovation responsable.
Il y aurait des garde-fous, mais les approbations seraient accélérées. M. Walker a appelé cela l’approche de la « voie verte ». Tout était disposé dans le deck. Des opportunités de « rationalisation de la Voie verte » ont été identifiées. Les dangers étaient codés par couleur. Le bleu indiquait les risques pour lesquels des « atténuations » étaient « nécessaires ». Les risques « contrôlables avec des seuils/atténuations minimaux » ont été rendus en orange.
Dans un graphique, sous « Haine et toxicité », le plan était de « réduire les stéréotypes, la toxicité et les discours de haine dans les résultats ». L’un des sujets était : « Que nous manque-t-il pour accélérer les approbations ? »
Tout le monde n’était pas d’accord. "Mes normes sont aussi élevées, voire plus élevées, qu'elles ne le sont habituellement, et nous allons passer par un processus de révision avec tout cela", se souvient Mme Gennai, d'un responsable du cloud.
Finalement, un compromis a été trouvé. Ils limiteraient le déploiement, a déclaré Mme Gennai. Et ils éviteraient de qualifier quoi que ce soit de produit. Pour Google, ce serait une expérience. De cette façon, il n’était pas nécessaire que ce soit parfait...
[Courte citation de 8% de l'article original]