Les robots tuent déjà des gens

Bruce Schneier, Davi Ottenheimer - The Atlantic - 06/09
Le boom de l’IA ne fait que souligner un problème qui existe depuis des années.

La révolution des robots a commencé il y a longtemps, tout comme les massacres. Un jour de 1979, un robot dans une usine de moulage de Ford Motor Company a connu un dysfonctionnement : des travailleurs humains ont déterminé qu'il n'allait pas assez vite. C'est ainsi qu'on a demandé à Robert Williams, 25 ans, de grimper sur un support de stockage pour aider à déplacer les choses. Le robot d’une tonne a continué à travailler en silence, fracassant la tête de Williams et le tuant instantanément. Il s'agirait du premier incident au cours duquel un robot a tué un humain ; beaucoup d’autres suivraient.

Chez Kawasaki Heavy Industries en 1981, Kenji Urada est décédé dans des circonstances similaires. Un robot défectueux qu'il était allé inspecter l'a tué lorsqu'il a obstrué son chemin, selon Gabriel Hallévy dans son livre de 2013, Quand les robots tuent : l'intelligence artificielle sous le droit pénal. Comme le dit Hallévy, le robot a simplement déterminé que « le moyen le plus efficace d’éliminer la menace était de pousser le travailleur vers une machine adjacente ». De 1992 à 2017, les robots sur le lieu de travail ont été responsables de 41 décès enregistrés aux États-Unis – et c’est probablement une sous-estimation, surtout si l’on considère les répercussions de l’automatisation, telles que la perte d’emploi. Un canon anti-aérien robotisé a tué neuf soldats sud-africains en 2007 lorsqu'une possible panne logicielle a conduit la machine à se balancer sauvagement et à tirer des dizaines de balles mortelles en moins d'une seconde. Lors d’un procès en 2018, un robot médical a été impliqué dans le meurtre de Stephen Pettitt lors d’une opération de routine survenue quelques années plus tôt.

Quand les robots tuent : l’intelligence artificielle au cœur du droit p...
[Courte citation de 8% de l'article original]
Loading...