Voici quatre choses que nous pouvons faire



<div _ngcontent-c15 = "" innerhtml = "

(AP Photo / Vincent Thian, Fichier)

PRESSE ASSOCIEE

Un nouveau documentaire Netflix appelé Le grand hack& nbsp;explore le scandale Cambridge Analytica du point de vue de plusieurs anciens employés de la société. Son titre et son récit suggèrent que nous nous concentrions sur la manière dont les informations personnelles de près de 87 millions d'utilisateurs de Facebook ont ​​abouti en Grande-Bretagne au sein d'une société dont la mission était de soutenir des causes ultra-conservatrices telles que le Brexit et des candidats politiques comme Donald Trump. L’activité était tellement flagrante que la US Federal Trade Commission a perçu une 5 milliards de dollars d'amende& nbsp; contre Facebook, le plus important jamais réalisé pour une entreprise de technologie. Mais ce n’est pas le bidouillage qui devrait nous concerner, mais la capacité de toutes sortes de mauvais acteurs de nous manipuler d’une manière qui n’est pas dans notre meilleur intérêt.

Ces manipulateurs sont en abondance et travaillent sans relâche pour imposer leurs objectifs cachés. En fait, le 1er août, Facebook annoncé& nbsp; qu'il venait de supprimer 259 comptes Facebook, 102 pages Facebook, cinq groupes Facebook, quatre événements Facebook et 17 comptes Instagram pour s'être engagés dans un «comportement inauthentique coordonné» axé principalement sur un certain nombre de pays du Moyen-Orient. Selon Facebook, les personnes à l'origine de ce réseau étaient en contact avec des sociétés de marketing en Égypte et aux Émirats arabes unis. Ils ont utilisé des comptes compromis et factices pour gérer des pages, diffuser du contenu, commenter dans des groupes, imiter des personnalités publiques, se faire passer pour des agences de presse locales dans des pays ciblés et publier fréquemment des informations sur l'actualité locale, la politique et les élections. Facebook a déclaré: «Nous travaillons constamment à détecter et à arrêter ce type d’activité, car nous ne voulons pas que nos services soient utilisés pour manipuler des personnes."

La manipulation n’est pas nouvelle. Son parrain était Edward Bernays, le «Père des relations publiques»& nbsp; un Américano-autrichien dont les techniques novatrices pour influencer l'opinion publique et les comportements remontent à la première décennie du 20th & nbsp;siècle. (À juste titre, il était un double neveu de Sigmund Freud.) Pendant la Première Guerre mondiale, Bernays travailla avec la Commission américaine de l'information publique pour élaborer des campagnes de propagande visant à susciter le soutien des chefs d'entreprise latino-américains. Lorsque Bernays réalisa que les techniques de guerre pour influencer l'opinion pouvaient être appliquées en temps de paix, la propagande de guerre se transforma en relations publiques modernes.

Après la guerre, Bernays a fondé sa propre entreprise, devenue légendaire pour sa capacité à susciter les désirs des consommateurs afin de répondre à la demande croissante de produits de ses clients. Très tôt, la société Beechnut Packing Company a engagé Bernays pour créer une demande accrue pour son bacon. En interrogeant les médecins sur les habitudes alimentaires saines, Bernays s'est rendu compte que beaucoup croyaient aux avantages bénéfiques d'un petit-déjeuner copieux. Il a présenté les résultats de son enquête informelle comme une recommandation médicale à part entière concernant le bacon et les œufs tous les matins, qui a rapidement figuré dans la publicité de Beechnut. Les affaires ont explosé et le bacon est devenu un aliment de base du petit-déjeuner américain depuis.& nbsp;

L'American Tobacco Company a demandé à Bernays de stimuler la demande de cigarettes chez les femmes à une époque où le tabagisme était considéré comme masculin. Faire en sorte que les femmes s'allument doublerait la demande. Bernays a créé une campagne intitulée «Atteindre le chanceux au lieu du bonbon», en donnant l’impression que le tabagisme favorise la perte de poids. La campagne présentait des images de femmes minces fumant des cigarettes. Au détriment de la santé publique pendant un siècle, les femmes y ont souscrit.

Bernays n’a pas fini avec le tabac. Un psychanalyste de premier plan l'a informé que certaines femmes commençaient à considérer les cigarettes comme des symboles de la liberté. En conséquence, il a fait en sorte que dix personnalités débutantes allument des cigarettes devant la zone de la presse pour le défilé du jour de Pâques sur la cinquième avenue de New York. Quand les journalistes leur ont demandé ce qu’ils faisaient, les débutantes ont dit qu’elles allumaient leurs «flambeaux de la liberté» pour protester contre l’inégalité des femmes. La cascade a provoqué une tempête de débats, légitimant immédiatement le tabagisme des femmes comme un acte de défi politique. Pendant des années, Bernays s'est vanté& nbsp; sur la façon dont il a réussi à ce que «les femmes à travers le pays soient éclairées en public». Cependant, tard dans sa vie, il a publiquement regretté les problèmes de santé généralisés que ses efforts avaient amplifiés.

À l’horreur des Mad Men qui suivirent ses traces, Bernays n’a pas hésité à appeler sa propagande la recherche de l’esprit d’entreprise ou à reconnaître leur nature manipulatrice. En fait, son livre décrivant ses techniques de persuasion s’intitule La propagande. Ses techniques consistant à associer des produits à une belle apparence, à des sentiments euphoriques et à un désir sexuel ont été étudiées, reproduites et amplifiées depuis sa création.

Mais, comme vous apprenez de Le grand hack, Cambridge Analytica a amené Bernays à un nouveau niveau inquiétant. Ils ont explicitement accumulé des informations afin de développer des algorithmes permettant d’appliquer la tactique de Bernays précisément sur des individus, et non de manière grossière sur de grandes populations. Et ils n’utilisaient même pas les formes les plus puissantes de manipulation assistée par la technologie. Ces formes plus puissantes, comme décrit dans le livre de 2014 La vérité sur la confiance & nbsp;par David DeSteno, professeur de psychologie à la Northeastern University, inclut le choix des mots et des couleurs qui envoient des messages subliminaux sur la fiabilité des messages que nous voyons.

Ajoutez à ces techniques la puissance de Facebook et Instagram pour fournir aux arnaqueurs des millions de marques potentielles et la possibilité de les cibler avec précision, tout en se présentant comme des personnes ou des organisations apparemment dignes de confiance. L'énorme ampleur du problème apparaît alors. Par exemple, escrocs& nbsp; ont récemment volé des photos des comptes Facebook des membres des forces armées et les ont utilisées pour créer de faux comptes. Ils ont ensuite cherché sur Facebook les femmes célibataires et les veuves qu’ils ont ensuite courtisées et ont finalement demandé de l’argent une fois qu’ils étaient devenus amoureux. Les escroqueries amoureuses sont aussi vieilles que l'institution du mariage, mais maintenant une personne assise à un terminal peut courtiser simultanément une douzaine d'intérêts amoureux. Bientôt, un programmeur avisé sera capable de gagner un million à la fois.

Le problème n’est pas vraiment de rassembler toutes les informations sur nous-mêmes qui existent. Les enquêteurs privés ont pu pénétrer encore plus profondément dans notre vie privée pendant des siècles. Il est juste beaucoup moins cher et plus rapide de le faire aujourd'hui. Le vrai problème est de savoir comment Internet permet des attributions anonymes et frauduleuses à des fins de manipulation. Nous pouvons faire quatre choses au-delà de ce que Facebook et d’autres font déjà pour atténuer ou même limiter les manipulations de masse fondées sur la technologie:

Les législateurs peuvent adopter des lois qui obligent les personnes et les organisations à publier leurs informations uniquement. & Nbsp;Exiger de toute personne ou partie demandant vos informations de divulguer les mêmes informations sur elle-même et sur toute organisation à laquelle elles ont vendu des informations. Nous trouverions tous cette information révélatrice et utile pour décider à qui nous faisons confiance de manière numérique. Cette législation conduirait le transfert d'informations vers une information ponctuelle, informée et optionnelle. Une telle loi n'aurait aucune incidence sur la manière dont nous voulons compter sur Internet et les médias sociaux pour nous aider à rester en contact avec les personnes et les organisations qui nous tiennent à cœur et auxquelles nous faisons confiance. Cela obligerait très efficacement les personnes cherchant à nous manipuler à se révéler et à révéler les organisations pour lesquelles elles travaillent. Nous pourrions ensuite décider si nous voulons participer ou non, et si nous le faisions, nous comprendrions mieux l'étendue réelle de cette interaction.

Les annonceurs et fournisseurs d'applications légitimes en ligne peuvent former une association qui créerait des règles de base pour les annonces en ligne. Les membres seraient autorisés à afficher un symbole indiquant que leurs annonces n'impliquaient rien que l'association considère comme une supercherie.

Un tiers pourrait développer une application basée sur l'intelligence artificielle, qui évalue le niveau de manipulation de toute annonce en ligne.. Fonctionnant en arrière-plan, à la manière d'un programme antivirus, l'application afficherait un score de manipulation et des avertissements pour chaque annonce sur laquelle vous cliquez ou qui apparaît sur une page que vous consultez, similaire aux cotes de film MPAA ou aux avertissements de discrétion du téléspectateur venez avec chaque émission de câble. Je sais que je serais ravi de payer pour une telle application.

Imposer aux annonceurs numériques le paiement de l’application de toutes les lois en vigueur en matière de protection de la vie privée et d’anti-manipulation. Les lois ne veulent pas dire grand-chose s'il n'y a pas de mécanismes pour leur application. Les annonceurs numériques tirent un avantage considérable de la possibilité de faire de la publicité en ligne et il est raisonnable de s’attendre à ce qu’ils les aident à payer pour maintenir la confiance des utilisateurs.

Avec tant d’enjeux pour nous personnellement et en tant que citoyens, nous devons commencer quelque part. L’alternative est de rester les victimes passives de certaines des personnes les plus malveillantes au monde.

">

(AP Photo / Vincent Thian, Fichier)

PRESSE ASSOCIEE

Un nouveau documentaire Netflix appelé Le grand hack explore le scandale Cambridge Analytica du point de vue de plusieurs anciens employés de la société. Son titre et son récit suggèrent que nous nous concentrions sur la manière dont les informations personnelles de près de 87 millions d'utilisateurs de Facebook ont ​​abouti en Grande-Bretagne dans une société dont la mission était de soutenir des causes ultra-conservatrices comme le Brexit et des candidats politiques comme Donald Trump. L’activité était si flagrante que la Commission fédérale du commerce des États-Unis a imposé une amende de 5 milliards de dollars à Facebook, la plus importante jamais entreprise pour une entreprise de technologie. Mais ce n’est pas le bidouillage qui devrait nous concerner, mais la capacité de toutes sortes de mauvais acteurs de nous manipuler d’une manière qui n’est pas dans notre meilleur intérêt.

Ces manipulateurs sont en abondance et travaillent sans relâche pour imposer leurs objectifs cachés. En effet, le 1er août, Facebook a annoncé qu'il venait de supprimer 259 comptes Facebook, 102 pages Facebook, cinq groupes Facebook, quatre événements Facebook et 17 comptes Instagram pour s'être livrés à un «comportement inauthentique coordonné» axé principalement sur un certain nombre de pays en développement. Moyen-orient. Selon Facebook, les personnes à l'origine de ce réseau étaient en contact avec des sociétés de marketing en Égypte et aux Émirats arabes unis. Ils ont utilisé des comptes compromis et factices pour gérer des pages, diffuser du contenu, commenter dans des groupes, imiter des personnalités publiques, se faire passer pour des agences de presse locales dans des pays ciblés et publier fréquemment des informations sur l'actualité locale, la politique et les élections. Facebook a déclaré: «Nous travaillons constamment à détecter et à arrêter ce type d’activité, car nous ne voulons pas que nos services soient utilisés pour manipuler des personnes."

La manipulation n’est pas nouvelle. Son parrain était Edward Bernays, le «père des relations publiques», un américano-autrichien dont les techniques novatrices pour influencer l'opinion publique et les comportements remontent à la première décennie du 20th siècle. (À juste titre, il était un double neveu de Sigmund Freud.) Pendant la Première Guerre mondiale, Bernays travailla avec la Commission américaine de l'information publique pour élaborer des campagnes de propagande visant à susciter le soutien des chefs d'entreprise latino-américains. Lorsque Bernays réalisa que les techniques de guerre pour influencer l'opinion pouvaient être appliquées en temps de paix, la propagande de guerre se transforma en relations publiques modernes.

Après la guerre, Bernays a fondé sa propre entreprise, devenue légendaire pour sa capacité à susciter les désirs des consommateurs afin de répondre à la demande croissante de produits de ses clients. Très tôt, la société Beechnut Packing Company a engagé Bernays pour créer une demande accrue pour son bacon. En interrogeant les médecins sur les habitudes alimentaires saines, Bernays s'est rendu compte que beaucoup croyaient aux avantages bénéfiques d'un petit-déjeuner copieux. Il a présenté les résultats de son enquête informelle comme une recommandation médicale à part entière concernant le bacon et les œufs tous les matins, qui a rapidement figuré dans la publicité de Beechnut. Les affaires ont explosé et le bacon est devenu un aliment de base du petit-déjeuner américain depuis.

L'American Tobacco Company a demandé à Bernays de stimuler la demande de cigarettes chez les femmes à une époque où le tabagisme était considéré comme masculin. Faire en sorte que les femmes s'allument doublerait la demande. Bernays a créé une campagne intitulée «Atteindre le chanceux au lieu du bonbon», en donnant l’impression que le tabagisme favorise la perte de poids. La campagne présentait des images de femmes minces fumant des cigarettes. Au détriment de la santé publique pendant un siècle, les femmes y ont souscrit.

Bernays n’a pas fini avec le tabac. Un psychanalyste de premier plan l'a informé que certaines femmes commençaient à considérer les cigarettes comme des symboles de la liberté. En conséquence, il a fait en sorte que dix personnalités débutantes allument des cigarettes devant la zone de la presse pour le défilé du jour de Pâques sur la cinquième avenue de New York. Quand les journalistes leur ont demandé ce qu’ils faisaient, les débutantes ont dit qu’elles allumaient leurs «flambeaux de la liberté» pour protester contre l’inégalité des femmes. La cascade a provoqué une tempête de débats, légitimant immédiatement le tabagisme des femmes comme un acte de défi politique. Pendant des années, Bernays s'est vanté de ce qu'il avait réussi à faire illuminer «des femmes de tout le pays en public». Cependant, tard dans la vie, il a publiquement regretté les problèmes de santé généralisés que ses efforts avaient amplifiés.

À l’horreur des Mad Men qui suivirent ses traces, Bernays n’a pas hésité à appeler sa propagande la recherche de l’esprit d’entreprise ou à reconnaître leur nature manipulatrice. En fait, son livre décrivant ses techniques de persuasion s’intitule La propagande. Ses techniques consistant à associer des produits à une belle apparence, à des sentiments euphoriques et à un désir sexuel ont été étudiées, reproduites et amplifiées depuis sa création.

Mais, comme vous apprenez de Le grand hack, Cambridge Analytica a amené Bernays à un nouveau niveau inquiétant. Ils ont explicitement accumulé des informations afin de mettre au point des algorithmes permettant d’appliquer la tactique de Bernays sur des individus et non sur des populations importantes. Et ils n’utilisaient même pas les formes les plus puissantes de manipulation assistée par la technologie. Ces formes plus puissantes, comme décrit dans le livre de 2014 La vérité sur la confiance par David DeSteno, professeur de psychologie à la Northeastern University, inclut le choix des mots et des couleurs qui envoient des messages subliminaux sur la fiabilité des messages que nous voyons.

Ajoutez à ces techniques la puissance de Facebook et Instagram pour fournir aux arnaqueurs des millions de marques potentielles et la possibilité de les cibler avec précision, tout en se présentant comme des personnes ou des organisations apparemment dignes de confiance. L'énorme ampleur du problème apparaît alors. Par exemple, des fraudeurs ont récemment volé des photos des comptes Facebook des membres des forces armées et les ont utilisées pour créer de faux comptes. Ils ont ensuite cherché sur Facebook les femmes célibataires et les veuves qu’ils ont ensuite courtisées et ont finalement demandé de l’argent une fois qu’ils étaient devenus amoureux. Les escroqueries amoureuses sont aussi vieilles que l'institution du mariage, mais maintenant une personne assise à un terminal peut courtiser simultanément une douzaine d'intérêts amoureux. Bientôt, un programmeur avisé sera capable de gagner un million à la fois.

Le problème n’est pas vraiment de rassembler toutes les informations sur nous-mêmes qui existent. Les enquêteurs privés ont pu pénétrer encore plus profondément dans notre vie privée pendant des siècles. Il est juste beaucoup moins cher et plus rapide de le faire aujourd'hui. Le vrai problème est de savoir comment Internet permet des attributions anonymes et frauduleuses à des fins de manipulation. Nous pouvons faire quatre choses au-delà de ce que Facebook et d’autres font déjà pour atténuer ou même limiter les manipulations de masse fondées sur la technologie:

Les législateurs peuvent adopter des lois qui obligent les personnes et les organisations à ne publier que comme elles-mêmes. Exiger de toute personne ou partie demandant vos informations de divulguer les mêmes informations sur elle-même et sur toute organisation à laquelle elles ont vendu des informations. Nous trouverions tous cette information révélatrice et utile pour décider à qui nous faisons confiance de manière numérique. Cette législation conduirait le transfert d'informations vers une information ponctuelle, informée et optionnelle. Une telle loi n'aurait aucune incidence sur la manière dont nous voulons compter sur Internet et les médias sociaux pour nous aider à rester en contact avec les personnes et les organisations qui nous tiennent à cœur et auxquelles nous faisons confiance. Cela obligerait très efficacement les personnes cherchant à nous manipuler à se révéler et à révéler les organisations pour lesquelles elles travaillent. Nous pourrions ensuite décider si nous voulons participer ou non, et si nous le faisions, nous comprendrions mieux l'étendue réelle de cette interaction.

Les annonceurs et fournisseurs d'applications légitimes en ligne peuvent former une association qui créerait des règles de base pour les annonces en ligne. Les membres seraient autorisés à afficher un symbole indiquant que leurs annonces n'impliquaient rien que l'association considère comme une supercherie.

Un tiers pourrait développer une application basée sur l'intelligence artificielle, qui évalue le niveau de manipulation de toute annonce en ligne.. Fonctionnant en arrière-plan, à la manière d'un programme antivirus, l'application afficherait un score de manipulation et des avertissements pour chaque annonce sur laquelle vous cliquez ou qui apparaît sur une page que vous consultez, similaire aux cotes de film MPAA ou aux avertissements de discrétion du téléspectateur venez avec chaque émission de câble. Je sais que je serais ravi de payer pour une telle application.

Imposer aux annonceurs numériques le paiement de l’application de toutes les lois en vigueur en matière de protection de la vie privée et d’anti-manipulation. Les lois ne veulent pas dire grand-chose s'il n'y a pas de mécanismes pour leur application. Les annonceurs numériques tirent un avantage considérable de la possibilité de faire de la publicité en ligne et il est raisonnable de s’attendre à ce qu’ils les aident à payer pour maintenir la confiance des utilisateurs.

Avec tant d’enjeux pour nous personnellement et en tant que citoyens, nous devons commencer quelque part. L’alternative est de rester les victimes passives de certaines des personnes les plus malveillantes au monde.