Facebook affirme que sa nouvelle technologie d'intelligence artificielle peut détecter le «porno vengeur» – TechCrunch


Facebook a annoncé vendredi un nouvel outil basé sur l'intelligence artificielle qui aiderait le réseau social à détecter le porno vengeur – des images intimes non partagées sans partage qui, une fois mises en ligne, peuvent avoir des conséquences dévastatrices pour ceux qui apparaissent sur les photos. La technologie utilisera à la fois les techniques d’intelligence artificielle et d’apprentissage automatique pour détecter de manière proactive des images ou des vidéos quasi nues qui sont partagées sans autorisation sur Facebook et Instagram.

L’annonce fait suite au précédent projet pilote de Facebook sur une technologie d’appariement de photos, dans laquelle les gens soumettaient directement leurs photos et vidéos intimes à Facebook. Le programme, qui était géré en partenariat avec des organisations de défense des droits des victimes, créerait ensuite une empreinte numérique de cette image afin que Facebook puisse l'empêcher d'être jamais partagé en ligne sur ses plateformes. Ceci est similaire à la façon dont les entreprises empêchent aujourd'hui les images d'abus commis sur des enfants d'être publiées sur leurs sites.

La nouvelle technologie d’intelligence artificielle pour le porno vengeance ne nécessite toutefois pas la participation de la victime. Ceci est important, explique Facebook, car les victimes ont parfois trop peur des représailles pour signaler elles-mêmes le contenu. D'autres fois, ils ne savent tout simplement pas que les photos ou les vidéos sont partagées.

Bien que la société n’ait pas suffisamment de détails sur le fonctionnement du nouveau système, elle a toutefois fait remarquer qu’elle allait au-delà de la simple «détection de la nudité».

Une fois que le système a marqué une image ou une vidéo, un membre spécialement formé de l'équipe des opérations de communauté de Facebook examine l'image, puis la supprime si elle enfreint les normes communautaires de Facebook. Dans la plupart des cas, la société désactivera également le compte à la suite. Un processus d'appel est disponible si la personne pense que Facebook a commis une erreur.

En plus de la technologie et du programme pilote existant, Facebook indique également avoir examiné les moyens d’améliorer ses autres procédures concernant les reportages sur la pornographie de vengeance. Par exemple, il a été constaté que les victimes souhaitaient des réponses plus rapides après leur signalement et qu’elles ne souhaitaient pas de réponse robotique. Les autres victimes ne savaient pas comment utiliser les outils de signalement ni même qu’ils existaient.

Facebook a fait remarquer qu'il est essentiel de prendre en compte le porno vengeance, car il peut entraîner des conséquences pour la santé mentale, telles que l'anxiété, la dépression, les pensées suicidaires et parfois même le SSPT. Il peut également y avoir des conséquences professionnelles, telles que des emplois perdus et des relations dégradées avec des collègues. De plus, les membres des communautés plus traditionnelles du monde entier peuvent être évités ou exilés, persécutés ou même physiquement blessés.

Facebook admet qu’il n’a pas été possible de "reconnaître le traumatisme subi par les victimes" en répondant à leurs rapports. Il dit qu’il est maintenant en train de réévaluer les outils et le processus de reporting afin de s’assurer qu’ils sont plus «simples, clairs et empathiques».

Elle lance également «Pas sans mon consentement», un centre d’aide aux victimes dans le Centre de sécurité Facebook, développé en partenariat avec des experts. Le hub offrira aux victimes un accès aux organisations et aux ressources pouvant les aider, et détaillera les étapes à suivre pour signaler le contenu à Facebook.

Dans les mois à venir, Facebook prévoit de créer des kits d’aide aux victimes contenant des informations plus pertinentes sur le plan local et culturel en collaborant avec des partenaires, notamment Revenge Porn Helpline (Royaume-Uni), Cyber ​​Civil Rights Initiative (États-Unis), Digital Rights Foundation (Pakistan), SaferNet (Brésil) et le professeur Lee Ji-yeon (Corée du Sud).

La vengeance porno est l’un des nombreux problèmes résultant de l’offre au monde d’une plate-forme de partage public. Aujourd'hui, Facebook commence à reconnaître les échecs des médias sociaux sur de nombreux fronts, notamment les violations de la confidentialité des données, la propagation de la désinformation, le harcèlement et les abus en ligne.

Le PDG Mark Zuckerberg a récemment annoncé un pivot vers la confidentialité, dans lequel les produits de Facebook seraient regroupés pour former un réseau de messagerie crypté et interopérable – mais cette décision a secoué Facebook en interne, l’obligeant ainsi à perdre des dirigeants importants.

Bien que les changements correspondent aux souhaits du public, beaucoup ont déjà perdu confiance en Facebook. Pour la première fois en 10 ans, Edison Research a constaté une baisse de l'utilisation de Facebook aux États-Unis, qui est passée de 67 à 62% des Américains de 12 ans et plus. Néanmoins, Facebook est toujours une plate-forme massive, avec plus de 2 milliards d'utilisateurs. Même si les utilisateurs eux-mêmes se désengagent de Facebook, cela ne les empêche pas de devenir une victime de vengeance porno ou d’autres abus en ligne de la part de ceux qui continuent à utiliser le réseau social.