Après l'horrible massacre de Tumbler Ridge, en Colombie-Britannique, le gouvernement canadien a eu raison d'exiger des réponses d'OpenAI après que des rapports ont indiqué que l'agresseur avait planifié l'attaque avec ChatGPT. Lorsqu’un système privé est lié, même indirectement, à la violence du monde réel, les gouvernements ont l’obligation de poser des questions difficiles et de réfléchir à leurs implications éthiques. Les entreprises technologiques ne devraient pas être autorisées à hausser les épaules lorsque la sécurité publique est en jeu, mais le danger est immense, selon la réaction d’Ottawa. De plus, des victimes ont poursuivi OpenAI en Colombie-Britannique pour « défaut d’avertissement ». allégations.
Le Canada est actuellement sur le point d'exiger qu'OpenAI et d'autres laboratoires frontaliers envoient des quantités massives de données à la GRC et aux forces de l'ordre locales pour éviter qu'une autre tragédie ne se produise. L’objectif ici est de garantir que les plateformes soient tenues responsables de leurs actes et de garantir que les Canadiens ne causent pas d’actes préjudiciables au monde réel, mais la directive d’Evan Solomon a également pour effet secondaire de construire un panoptique. L'envoi de rapports sur ce que les gens pensent être des discussions intimes crée une couche de surveillance ambiante profondément enracinée autour de l'un des espaces numériques les plus intimes que des millions de Canadiens et de personnes dans le monde utilisent pour réfléchir, rédiger, s'exprimer, mettre en scène des scénarios ou travailler sur des idées difficiles. Discuter des ramifications sociales et politiques est encore plus important depuis qu'Ottawa a déposé un nouveau projet de loi sur l'accès légal, la sécurité numérique et les pouvoirs de perquisition et de saisie. L’optique de la création d’un panoptique est profondément anti-canadienne et constitue une grave erreur.
Ce que le Canada devrait apprendre de Tumbler Ridge, c’est qu’Ottawa devrait créer le cadre le plus étroit et le plus personnalisé pour prévenir la violence dans le monde réel, mais aussi veiller à ce que cet outil ne suscite pas de peur, d’autocensure, de surveillance de masse et d’anxiété pa...
[Courte citation de 8% de l'article original]