Les vidages de données de désinformation de Twitter sont utiles – à un point


En octobre 2017, L'avocat général de Twitter, Sean Edgett, a été confronté à des questions difficiles du Comité judiciaire du Sénat concernant l'ingérence étrangère dans les élections de 2016. Accompagné de représentants de Facebook et de Google, Edgett a expliqué comment l’Agence russe de recherche sur l’internet (IRA) avait systématiquement diffusé de fausses informations et attisé le sentiment partisan par le biais d’une campagne de médias sociaux soigneusement coordonnée et longue de nombreuses années.

Un an plus tard, Twitter libéré une archive de plus de 10 millions de tweets, sur 3 841 comptes, qui seraient affiliés à l'IRA, dans l'espoir d'encourager «la recherche ouverte et la recherche de ces comportements par des chercheurs et des universitaires». La société a ensuite procédé à des dépots de données supplémentaires, le plus récemment le mois dernier quand cela libéré détails des comptes liés à la Russie, à l'Iran, au Venezuela et au mouvement d'indépendance catalan en Espagne. Tout compte fait, Twitter a partagé plus de 30 millions de tweets provenant de comptes qui, selon lui, «travaillaient activement à saper un discours sain».

Les chercheurs affirment que cet atout a été inestimable dans l’apprentissage des campagnes de désinformation parrainées par l’État et de la manière de les combattre. Patrick Warren et Darren Linvill, de l'Université Clemson, ont utilisé les données pour identifier différents types de comportement des trolls et examiner leur contribution à la campagne IRA. «De nombreuses personnes ont utilisé les données pour élaborer des stratégies visant à rendre notre conversation politique plus solide», a déclaré Warren. Il cite un récent rapport de Stanford qui recommande de réglementer les publicités politiques, de renforcer la surveillance interne des entreprises de médias sociaux et de normaliser les étiquettes des contenus liés aux campagnes de désinformation.

Néanmoins, il manque beaucoup dans les données stockées sur Twitter et de nombreuses questions sans réponse sur l’impact réel de ces comptes, sur leur fonctionnement et sur le succès de Twitter dans leur recherche et leur fermeture.

Les publications de données incluent le texte des tweets, les noms des comptes, le nombre de personnes suivies par ces comptes, le nombre de personnes qui les ont suivies et le nombre de fois qu'un tweet a été aimé et retweeté. Mais Twitter ne publie pas les noms des comptes qui ont suivi ou qui ont été suivis par ces profils parrainés par l’État, afin de protéger la vie privée de ces utilisateurs. "La vraie chose que nous ne savons pas, c'est qui a vu ces tweets?", Déclare Cody Buntain, chercheur postdoctoral au laboratoire des médias sociaux et de la participation politique de NYU. "C’est l’information essentielle que Twitter ne fournit pas."

Sans ces réseaux de suiveurs, Buntain et d’autres affirment qu’il est difficile d’évaluer l’impact des comptes et leur évolution. Est-ce qu'un tas de faux comptes ont commencé à se suivre pour se donner l'apparence de normalité? Ou ont-ils commencé à suivre des personnes spécifiques et à développer leur culture de manière organique? Les chercheurs ne peuvent pas dire. Avec cette information, «nous avons pu voir quel type de contenu était le plus attrayant», déclare Buntain. Il dit que cette information nous aiderait également à comprendre quelles niches de Twitter ont été ciblées et comment.

Les réseaux suiveurs sont publics tant qu'un compte est actif, mais ils disparaissent lorsque Twitter le ferme. Exposer ces abonnés pourrait exposer les utilisateurs à des abus ou à du harcèlement. "Je peux voir pourquoi les plateformes hésiteraient", a déclaré Ben Nimmo, senior fellow du Digital Forensic Research Lab du Conseil de l'Atlantique. Les personnes qui ont suivi l’IRA ou d’autres comptes parrainés par des États ont peut-être été manipulées, mais elles n’ont pas enfreint la loi, ni même violé les conditions de service de Twitter.

«Nous sommes déterminés à publier chaque tweet, vidéo et image que nous pouvons attribuer de manière fiable à une opération d’information garantie par l’État», a déclaré un porte-parole de Twitter par courrier électronique. «Nous avons l'obligation de trouver un équilibre entre ces importantes divulgations publiques et notre engagement à protéger les attentes raisonnables des personnes en matière de vie privée, et nous réalisons des études d'impact approfondies avant chacune d'entre elles.»

Twitter et d'autres sociétés de médias sociaux tentent de trouver un équilibre entre la transparence, la confidentialité des utilisateurs et une réponse opportune aux activités parrainées par l'État. Facebook, qui avait également été ciblé par l'IRA et d'autres groupes avant et après les élections de 2016, a adopté une approche différente avec ses données. Plutôt que de divulguer au public des tas d’informations, Facebook collabore avec des chercheurs en qui il a confiance, notamment le Digital Forensic Research Lab où Nimmo travaille. Facebook partage également les données via une commission de recherche indépendante appelée Social Science One, qui vérifie les informations et les chercheurs qui y ont accès, dans l’espoir d’empêcher une autre violation de la vie privée de type Cambridge Analytica.

Google, propriétaire de YouTube, a déclaré avoir pris des mesures pour contrer les activités parrainées par l'État et pour empêcher les campagnes de phishing et de piratage. La société partage des informations avec les forces de l'ordre et d'autres sociétés de médias sociaux, mais ne les communique généralement pas au public. Google, ainsi que Facebook et Twitter, ont publié des informations à l'intention des chercheurs du projet de propagande informatique d'Oxford, qui a publié un rapport complet sur l'impact de l'IRA sur la politique américaine de 2012 à 2018. Ce rapport indiquait que la contribution de Google était «de loin la plus limitée en contexte le moins complet des trois. "

Pour l’ouverture de Twitter, on ne sait pas grand-chose de ses publications de données. Personne ne sait exactement comment Twitter détecte les comptes suspects, comment il définit le "parrainage par l'État" ou comment il distingue le contenu acceptable du contenu "malveillant". Twitter ne discute pas de la manière dont il choisit les pays et les réseaux sur lesquels se concentrer. Par conséquent, il est difficile d’évaluer le succès de la société en matière de désinformation.

Twitter ne révélerait aucun détail sur son processus pour cet article. "Nous cherchons à protéger l'intégrité de nos efforts et à éviter de donner trop d'informations à de mauvais acteurs, mais en général, nous nous concentrons sur la conduite, plutôt que sur le contenu", a écrit le porte-parole de Twitter dans un communiqué. «Cela signifie que nous examinons les signaux comportementaux derrière les réseaux de comptes pour comprendre de manière complexe leurs interactions dans le service», poursuit le communiqué, ajoutant que Twitter collabore avec les gouvernements, les forces de l'ordre et d'autres entreprises du secteur de la technologie pour mieux comprendre ces opérations.

Mais en gardant ces informations secrètes, Twitter et d’autres sociétés de médias sociaux rendent toute surveillance impossible et ne sont plus que les arbitres des types de discours authentiques et légitimes, a déclaré Danny O’Brien, directeur de la stratégie à Electronic Frontier Foundation. Les plates-formes décident qui est normal, qui est digne de l'actualité et qui est dangereux, sans révéler comment elles prennent ces décisions. «Sur le plan social, cela met énormément de confiance, de confiance et de responsabilité dans les plateformes», déclare Buntain.

À certains égards, les opérations identifiées par Twitter en Russie, en Iran et ailleurs sont un fruit à portée de main. C’est contre Twitter règles usurper l’identité d’une personne afin de «tromper, confondre ou tromper d’autres personnes». Il est également évident de dire qu’un pays ne devrait pas organiser une campagne de désinformation massive et secrète pour manipuler les électeurs d’un autre pays. Mais les problèmes deviennent plus complexes lorsque vous examinez les campagnes nationales sur les réseaux sociaux. Un comité d'action politique a-t-il tort d'engager des entreprises de marketing et de relations publiques pour promouvoir des idées spécifiques sur les médias sociaux? Ou pour un citoyen privé de créer un réseau de blogs et de publications qui promeuvent des candidats particuliers ou qui dénigrent d’autres? «Est-ce que le problème que les gens essaient d'influencer les uns les autres? Parce que si c’est le cas, vous devrez probablement interdire les élections, car c’est l’essentiel des élections », a déclaré O’Brien.

Erin Gallagher, chercheuse dans les médias sociaux, explique que le marché de cette activité en ligne persuasive est en croissance, devient de plus en plus complexe et difficile à classer. «À l’échelle mondiale, nous sommes à la recherche d’un ensemble d’acteurs et de méthodes dans une industrie artisanale que personne ne connaît vraiment», a-t-elle écrit dans un courrier électronique.

Dans son livre de 1970 La culture est notre affaire, Marshall McLuhan a examiné la civilisation américaine à travers la publicité. En partie collage, en partie commentaire social, cela brise les observations effrayantes de McLuhan contre des articles sur le tabagisme, des citations de Finnegans Wakeet des publicités pour Hertz, Western Electric, Karmann Ghia et TWA. «La Troisième Guerre mondiale est une guerre d’information de guérilla sans division entre la participation militaire et la participation civile», a-t-il écrit.

Certains chercheurs décrivent cette description: il s'agit d'une situation dans laquelle opinions politiques personnelles et propagande parrainée par l'État se mêlent facilement et sont difficiles à dénouer. «En gros, c’est là où nous en sommes actuellement et c’est un fouillis total», a écrit Gallagher. La ligne de démarcation entre un mauvais acteur qui publie intentionnellement des informations trompeuses et un particulier qui promeut des messages persuasifs est floue et difficile à définir.

À mesure que les tactiques de désinformation se répandent, ces questions éthiques se compliquent encore. Les récentes élections au Brésil et en Inde ont été entachées par des campagnes de désinformation lancées sur WhatsApp, un service de messagerie sécurisée appartenant à Facebook qui utilise un cryptage de bout en bout. Ce cryptage donne aux utilisateurs une attente supplémentaire en matière de confidentialité, mais rend plus difficile la surveillance de la plate-forme par les chercheurs. «Recueillir les données dont les universitaires auraient besoin pour comprendre comment ces plates-formes sont utilisées, cela vaut-il le risque que les envahisseurs intègrent la vie privée des individus?», Demande-t-il. "Je ne connais pas la réponse à cette question."


Plus de grandes histoires câblées