La faille qui pourrait ruiner l’IA générative

Alex Reisner - The Atlantic - 11/01
Un problème technique connu sous le nom de « mémorisation » est au cœur de récents procès qui constituent une menace importante pour les entreprises d’IA générative.

Plus tôt cette semaine, le Telegraph a rapporté un curieux aveu d'OpenAI, le créateur de ChatGPT. Dans un dossier soumis au Parlement britannique, la société a déclaré que les « modèles d'IA de pointe » ne pourraient exister sans un accès illimité aux livres et articles protégés par le droit d'auteur, confirmant que l'industrie de l'IA générative, qui vaut des dizaines de milliards de dollars, dépend du travail créatif détenu. par d'autres personnes.

Nous savons déjà, par exemple, que des bibliothèques de livres piratés ont été utilisées pour former les produits d’IA générative d’entreprises telles que Meta et Bloomberg. Mais les entreprises d’IA prétendent depuis longtemps que l’IA générative « lit » ou « apprend » de ces livres et articles, comme le ferait un humain, plutôt que de les copier. Cette démarche est donc censée constituer un « usage équitable », sans aucune compensation due aux auteurs ou aux éditeurs. Les tribunaux ne se prononçant pas sur cette question, l’industrie technologique a fait un pari colossal en développant des produits de cette manière. Et les chances pourraient se retourner contre eux.

Deux poursuites, déposées respectivement par Universal Music Group et le New York Times en octobre et décembre, exploitent le fait que les grands modèles de langage – la technologie qui sous-tend ChatGPT et d'autres outils d'IA générative – peuvent « mémoriser » une partie de leur contenu. texte de formation et le reproduire textuellement lorsque vous y êtes invité de manière spécifique, en émettant de longues sections de textes protégés par le droit d'auteur. Cela nuit à l’argument de l’utilisation équitable.

Si les sociétés d'IA doivent compenser les millions d'auteurs dont elles utilisent le travail, cela pourrait « tuer ou entraver considérablement » l'ensemble de la technologie, selon un document déposé auprès du Bureau américain du droit d'auteur par la grande société de capital-risque Andreessen Horowitz, qui a un certain nombre d’investissements importants dans l’IA générative. Les modèles actuels devront peut-être être abandonnés et de nouveaux formés sur des sources ouvertes ou sous licence appropriée. Le coût pourrait être important et les nouveaux modèles pourraient être moins fluides.

Pourtant, même si elle ferait reculer l’IA générative à court terme, une reconstruction responsable pourrait également améliorer la position de la...
[Courte citation de 8% de l'article original]

Loading...