Que savons-nous de l’IA ?
La réponse, lorsqu’il s’agit des grands modèles de langage que des sociétés comme OpenAI, Google et Meta ont publiés au cours de l’année écoulée : fondamentalement rien.
Ces entreprises ne divulguent généralement pas d’informations sur les données utilisées pour entraîner leurs modèles ni sur le matériel qu’elles utilisent pour les exécuter. Il n’existe pas de manuel d’utilisation pour A.I. systèmes, et aucune liste de tout ce que ces systèmes sont capables de faire, ni des types de tests de sécurité qui y ont été appliqués. Et tandis que certains I.A. les modèles ont été rendus open source – ce qui signifie que leur code est distribué gratuitement – le public ne sait toujours pas grand-chose du processus de création ou de ce qui se passe après leur publication.
Cette semaine, des chercheurs de Stanford dévoilent un système de notation qui, espèrent-ils, changera tout cela.
Le système, connu sous le nom de Foundation Model Transparency Index, évalue 10 grandes analyses d’IA. modèles de langage – parfois appelés « modèles de base » – sur leur degré de transparence.
L'index comprend des modèles populaires tels que GPT-4 d'OpenAI (qui alimente la version payante de ChatGPT), PaLM 2 de Google (qui alimente Bard) et LLaMA 2 de Meta. Il comprend également des modèles moins connus comme Titan d'Amazon et Inflection d'In...
[Courte citation de 8% de l'article original]