Vous devez apprendre aux gens comment vous traiter.
Le scientifique en chef de l'IA de Meta, Yann LeCun, pense également que cette idée s'applique à l'IA.
LeCun a déclaré jeudi que deux directives pourraient être faites de l'IA pour protéger les humains contre les dommages futurs: "soumission aux humains" et "empathie".
Il a fait la suggestion en réponse à une interview de CNN avec Geoffrey Hinton, considérée jeudi le «parrain de l'IA», jeudi sur LinkedIn. Dans l'interview, Hinton a déclaré que nous devons construire des "instincts maternels" ou quelque chose de similaire dans l'IA.
Sinon, les humains "vont être de l'histoire".
Hinton a déclaré que les gens se sont concentrés sur la rendue de l'IA "plus intelligente, mais que l'intelligence n'est qu'une partie d'un être. Nous devons les faire empatter envers nous."
LeCun a accepté.
"Geoff propose essentiellement une version simplifiée de ce que je dis depuis plusieurs années: Hardwire L'architecture des systèmes d'IA afin que les seules actions qu'ils puissent entreprendre sont de réaliser des objectifs que nous leur donnons, sous réserve de garde-corps", a déclaré LeCun sur LinkedIn. "J'ai appelé cette" IA axée sur l'objectif. ""
Bien que LeCun ait déclaré que "la soumission aux humains" et "l'empathie" devrait être des garde-corps clés, il a déclaré que les sociétés d'IA devaient également mettre en œuvre des garde-corps plus "simples" - comme "ne faites pas les gens" - pour la sécurité.
"Ces objectifs / garde-corps câblés seraient l'équivalent de l'IA de l'instinct ou des disques chez les animaux et les humains", a déclaré LeCun.
LeCun a déclaré que l'instinct de protéger leurs jeunes est quelque chose que les humains et d'autres espèces apprennent par l'évolution.
"Cela pourrait être un effet secondaire de l'objectif parental (et peut-être les objectifs qui stimulent notre nature sociale) que les humains et de nombreuses autres espèces sont également poussés à protéger et à prendre soin des êtres impuissants, plus faibles, plus jeunes et mignons d'autres espèces", a déclaré LeCun.
Bien que les garde-corps soient conçus pour s'assurer que l'IA fonctionne éthiquement et dans les directives de ses créateurs, il y a eu des cas où la technologie a présenté un comportement trompeur ou dangereux.
En juil...
[Courte citation de 8% de l'article original]