2025 est appelé la "première année de corps intelligent". Il s'agit d'une mutation de paradigme dans le chemin de développement de l'IA: de "Je dis la réponse de l'IA" à "Je dis IA", de la transition de génération de dialogue à l'exécution automatique, les agents deviennent l'ancre commerciale la plus importante et le paradigme d'interaction humaine de nouvelle génération.
Mais plus nous sommes à mettre en œuvre, plus les risques sont réalistes. Les capacités de base de l'agent - l'autonomie et l'action sont également précisément la fenêtre pour les risques à se reproduire. Plus un agent est capable, plus il est susceptible d'être, plus il y a de limites, voire hors de contrôle.
En combinant le questionnaire et les entretiens de l'industrie, ce "rapport d'examen physique intégré - la numérisation panoramique de la sécurité" essaie de répondre clairement à une question clé dans les trois perspectives du dernier statut de développement, de la sensibilisation à la conformité et de la conformité les cas réels: la sécurité et la conformité sont-elles prêtes lorsque l'agent fonctionne sauvagement?
La tolérance aux défauts et l'autonomie sont les indicateurs de considération de base
En tant que concept le plus chaud du marché, presque tous les marchés des capitaux et la dynamique des entreprises sont liés aux agents cette année. Mais bon nombre des discussions ont des définitions déroutantes des agents, de sorte qu'il y a mille agents aux yeux de mille personnes.
Il est très unilatéral pour ne classer que les agents à un seul angle. Afin de comprendre les agents plus largement, nous avons mené des recherches approfondies sur les praticiens, croyant que les axes de coordonnées peuvent être délimités à partir des deux dimensions de la "tolérance aux défauts" et de "l'autonomie" pour établir une écologie de valeur des agents.
L'axe des x est la «tolérance aux pannes», qui, selon nous, est l'indicateur compétitif principal pour le développement futur des agents. Une faible tolérance aux défauts signifie généralement de graves conséquences des erreurs. Les scénarios d'utilisation nécessitent des capacités de capture, d'induction et d'intégration d'informations plus précises, moins d'hallucinations et de mauvaises décisions, et des capacités d'exécution de tâches plus stables, telles que les soins médicaux. Dans les zones à tolérance à la défaut élevée, les conséquences d'erreur sont légères et contrôlables, et les humains peuvent facilement intervenir et s'ajuster, comme l'écriture de la créativité.
L'axe y est "l'autonomie" et est la limite d'action de l'agent dans différents scénarios. L'autonomie mesure la capacité de l'agent à prendre des décisions et à exécuter des actions indépendamment sans intervention humaine directe. Une autonomie plus élevée signifie souvent une plus grande productivité et capacité à gérer les tâches complexes, mais amplifie également considérablement les conséquences possibles des erreurs ou des abus.
Établir un modèle autour de la tolérance et de l'autonomie des défauts de l'agent, et tout agent peut trouver sa propre position dans l'espace de coordonnées. Ceci est notre méthodologie pour mesurer les agents. Dans le cadre de cette coordonnée panoramique, discuter des problèmes de conformité...
[Courte citation de 8% de l'article original]