Dave Willner a eu un siège frontal à l'évolution des pires choses sur Internet.
Il a commencé à travailler sur Facebook en 2008, à l'époque où les entreprises de médias sociaux faisaient leurs règles. En tant que responsable de la politique de contenu de l’entreprise, c’est M. Willner qui a écrit les premières normes communautaires officielles de Facebook il y a plus d’une décennie, en tournant ce qu’il a dit était une liste informelle d’une page qui a principalement bouilli jusqu’à l’interdiction de «Hitler et les personnes nues» dans ce qui est maintenant un catalogue volumineux de slurs, de crimes et d’autres épiceries.
Donc l'année dernière, lorsque le laboratoire d'intelligence artificielle de San Francisco OpenAI se préparait à lancer Dall-E, un outil qui permet à quiconque de créer instantanément une image en le décrivant en quelques mots, l'entreprise a plaqué M. Willner pour être son chef de confiance et de sécurité. Initialement, cela signifiait le vol à travers toutes les images et incite les filtres de Dall-E signalés comme des violations potentielles — et de trouver des moyens d’empêcher les contrevenants de réussir.
Cela n’a pas pris longtemps dans le travail avant que M. Willner ne se retrouve à considérer une menace familière.
Tout comme les prédateurs d'enfants avaient utilisé depuis des années Facebook et d'autres grandes plateformes technologiques pour diffuser des photos de violence sexuelle chez les enfants, ils tentaient maintenant d'utiliser Dall-E pour en créer entièrement de nouveaux. « Je ne suis pas surpris que ce soit une chose que les gens tentent de faire », a déclaré M. Willner. « Mais pour être très clair, ni les gens à OpenAI. ”
Pour tous les récents entretiens sur les risques existentiels hypothétiques de l’AE génétique, les experts disent que c’est cette menace immédiate — les prédateurs d’enfants utilisant déjà de nouveaux outils de l’A.I. — qui mérite l’attention indivisée de l’industrie.
Dans un document récemment publié par l'Observatoire Internet de Stanford et Thorn, un organisme sans but lucratif qui lutte contre la propagation ...
[Courte citation de 8% de l'article original]