Presque chaque semaine, Brian Levine, informaticien à l'Université du Massachusetts à Amherst, se voit poser la même question par sa fille de 14 ans : puis-je télécharger cette application ?
M. Levine répond en analysant des centaines de commentaires de clients dans l'App Store à la recherche d'allégations de harcèlement ou d'abus sexuels sur des enfants. Le processus manuel et arbitraire l'a amené à se demander pourquoi davantage de ressources ne sont pas disponibles pour aider les parents à prendre des décisions rapides concernant les applications.
Au cours des deux dernières années, M. Levine a cherché à aider les parents en concevant un modèle informatique qui évalue les avis des clients sur les applications sociales. En utilisant l'intelligence artificielle pour évaluer le contexte des critiques avec des mots tels que "pornographie enfantine" ou "pedo", lui et une équipe de chercheurs ont créé un site Web consultable appelé App Danger Project, qui fournit des conseils clairs sur la sécurité des applications de réseaux sociaux. .
Le site Web comptabilise les avis des utilisateurs sur les prédateurs sexuels et fournit des évaluations de la sécurité des applications avec des critiques négatives. Il répertorie les critiques qui mentionnent des abus sexuels. Bien que l'équipe n'ait pas suivi les examinateurs pour vérifier leurs affirmations, elle a lu chacune d'entre elles et a exclu celles qui ne mettaient pas en évidence les problèmes de sécurité des enfants.
"Il existe des critiques qui parlent du type de comportement dangereux qui se produit, mais ces critiques sont noyées", a déclaré M. Levine. "Vous ne pouvez pas les trouver."
Les prédateurs militarisent de plus en plus les applications et les services en ligne pour collecter des images explicites. L'année dernière, les forces de l'...
[Courte citation de 8% de l'article original]