Les experts analysent les défauts mortels de l'IA et n'ont pas de prémisse d'application à grande échelle

Du point de vue de l'ingénierie logicielle et de la sécurité des réseaux, quelle est la perspective actuelle de l'atterrissage sur l'IA? Les recherches sur "l'explication" peuvent-elles vraiment permettre à l'IA de demander l'attribut "Black Box"?

En novembre 2024, Eerke Boiten, professeur de cybersécurité à l'université De Montfort de Leicester, a publié un article d'avertissement intitulé « L'IA actuelle est-elle une impasse ?

Dans cet article, le professeur Boiten analyse les principales lacunes de la technologie actuelle de l’IA en matière de gestion et de contrôle du point de vue du génie logiciel.

Il a déclaré que le problème essentiel des systèmes d'IA est qu'ils ne s'intègrent pas efficacement aux pratiques d'ingénierie logicielle existantes, notamment en termes de gestion de la complexité et de contrôle d'échelle. Bien que l’IA ait réalisé des progrès remarquables dans des domaines tels que l’automatisation, les soins médicaux et la finance, son principal problème est qu’elle ne peut pas garantir la contrôlabilité et la fiabilité du système dans les applications à grande échelle.

Problèmes de gestion de la complexité de l'IA

Boiten a noté qu'il existe un sérieux décalage entre les systèmes d'IA...
[Courte citation de 8% de l'article original]