Fake news et ingérence russe : les deux années qui ont ébranlé Facebook

 La Une de "The Wired". Montage Obs. (Capture d'écran)

Le magazine "Wired" publie une enquête fleuve sur les deux dernières années au sein du réseau social, secoué par la mise en cause des fake news et des manipulations russes.

Par Thierry Noisette

Publié le 13 février 2018 à 21h01

Le mensuel "Wired" a consacré à plusieurs reprises sa couverture au fondateur de Facebook. Mais celle qu'il a publiée le 12 février tranche avec les précédentes : le visage tuméfié du PDG illustre un article fleuve (68.000 signes !), "Les deux années qui ont ébranlé Facebook - et le monde", une enquête sur les événements de 2016 et 2017, entre tech, presse et politique, avec en toile de fond la controverse des "fake news" et l'élection de Donald Trump.

Pour le réaliser, ses deux auteurs ont discuté "avec 51 employés ou ex-employés de Facebook", dont beaucoup ont demandé à rester anonymes. Un salarié en poste a même demandé à son interlocuteur d'éteindre son téléphone, au cas où l'entreprise chercherait si son smartphone a été proche de celui de quelqu'un chez Facebook...

En 2016 : "Facebook peut-il vous sauver la vie ?" En 2018, un portrait de Zuckerberg retouché sans commentaire, en mode "Fight Club".

Voici un résumé de cette enquête.

1 – Fuites et licenciements

Février-mars 2016. Une note de Mark Zuckerberg à tous les employés mentionne que sur un mur d'affichage libre au siège de Facebook, à Menlo Park (Californie), les mots "Black Lives Matter" ont été rayés et remplacés par "All Lives Matter". Il critique cette suppression et annonce une enquête sur cet acte.

Un jeune employé en CDD, Benjamin Fearnow, prend une capture d'écran du mémo et l'envoie à un de ses amis, Michael Nuñez, qui travaille pour le site d'actualité tech Gizmodo et en tire un article. Une semaine plus tard, Fearnow transmet à Nuñez une autre info : l'entreprise a proposé à ses salariés d'envoyer des questions à Zuckerberg pour une réunion générale. Une des questions les plus votées est "Quelle responsabilité a Facebook pour aider à empêcher d'avoir un président Trump en 2017 ?"

Fearnow travaille à New York, dans une équipe appelée Trending Topics. Ce groupe de 25 personnes vérifie les actualités collectées par un algorithme, afin d'écarter canulars et infos bidon et de mettre en avant les actualités importantes pas assez visibles, pour qu'elles soient intégrées au fil d'actualités des utilisateurs.

Au lendemain de son second message à son ami de Gizmodo, Fearnow est convoquée à une vidéoconférence. La directrice des enquêtes, Sonya Ahuja, lui demande s'il a été en contact avec Nuñez, ce qu'il nie. Elle lui affirme alors avoir les messages que Nuñez et lui ont échangé sur Gchat (un logiciel de vidéochat), et Fearnow est licencié sur le champ.

Un second salarié de Trending Topics, Ryan Villarreal, qui plusieurs années avant avait partagé une colocation avec Fearnow et Nuñez, est interrogé le même jour par Ahuja. Villareal assure n'avoir pris aucune capture d'écran, et donc encore moins avoir transmis des infos à Nuñez. Mais la directrice des enquêtes relève qu'il a "liké" l'histoire du mémo sur Black Lives Matter, et qu'il est ami avec Nuñez sur Facebook. Villareal est à son tour licencié.

2 – Un biais de gauche ?

Mai 2016. Nuñez a continué ses recherches sur Trending Topics, et discuté avec un troisième ex-salarié de cette équipe. Il publie un article, "D'anciens employés de Facebook : nous supprimions de façon routinière des articles conservateurs", selon lequel des articles favorables à Trump sont régulièrement supprimés. L'article, très partagé dans les heures qui suivent, enclenche une controverse qui va marquer les deux années qui suivent.

Facebook : mais si, nous aimons les conservateurs !

Facebook a toujours eu l'obsession de se présenter comme neutre, un simple relais technologique. La plateforme est ainsi protégée par une loi qui exclut la responsabilité de l'intermédiaire pour les messages postés par les utilisateurs. Si le réseau social créait ses propres contenus, sa responsabilité pourrait perdre son immunité, au péril de son existence.

L'article de Gizmodo amène un sénateur républicain, John Thune, à écrire à Facebook pour demander des éclaircissements. Or Thune n'est pas n'importe qui : il dirige au Sénat la commission du Commerce, laquelle supervise la Federal Trade Commission, une agence gouvernementale qui a été très active dans les enquêtes sur Facebook. L'entreprise répond au sénateur qu'après une analyse des Trending Topics, elle estime les accusations de Gizmodo fausses.

Facebook veut à tout prix faire la paix avec la droite : des animateurs télé, des membres de think tank, un conseiller de la campagne de Trump, 17 personnalités influentes au total sont invités au siège de Menlo Park, une semaine après l'article de Gizmodo.

La principale retombée de la controverse sur les Trending Topics, selon une dizaine d'employés et ex-employés, est que Facebook est devenu soucieux de ne rien faire qui semble diminuer les articles de droite, laissant ainsi le champ libre à ce qui allait venir.

3 – Rencontre avec Murdoch et menace de représailles

Juillet 2016. Mark Zuckerberg participe à une conférence dans l'Idaho, où des dirigeants discutent de façon informelle. Il y a une rencontre privée avec Rupert Murdoch, le propriétaire de l'empire de presse News Corp (comprenant la chaîne télé Fox News), et Robert Thomson, le PDG de ce groupe de presse. Les deux hommes expliquent à Zuckerberg leurs griefs contre Facebook et Google.

Ils reprochent aux deux géants d'accaparer presque tout le marché publicitaire en ligne ; ils déplorent que l'algorithme de Facebook ait été modifié sans consulter ses partenaires de presse. Si le réseau social ne propose pas un meilleur accord aux médias que ses offres d'alors, menacent-ils, ils vont le dénoncer fortement, et lui mener la vie dure aux Etats-Unis, comme ils l'ont fait contre Google en Europe.

Menace de "simple" lobbying, ou de possibles campagnes de presse ? Zuckerberg se méfie d'autant plus de News Corp qu'en 2007, une série de plaintes contre le réseau social ont été déposées, pour des contenus inappropriés et des mineurs exposés à des prédateurs.

Or l'enquête interne de Facebook a conclu que la plupart des comptes Facebook alors en cause étaient des comptes bidon créés probablement par ou pour News Corp afin de permettre cette campagne. Une soixantaine d'employés sont recrutés par Facebook pour travailler aux partenariats avec l'industrie des actualités.

4 – Facebook vire ses journalistes, Trump mise sur les réseaux sociaux

Août 2016. Toute l'équipe de journalistes chargée des Trending Topics est licenciée, et ses responsabilités sont transférées à une équipe d'ingénieurs à Seattle. Peu après, l'algorithme maison laisse passer des articles bidon.

Parallèlement, l'équipe de campagne de Trump exploite à fond les possibilités de Facebook et de ses propres fichiers sur ses sympathisants, en envoyant des messages publicitaires ciblés. Trump balance des textes comme "Cette élection est truquée par les médias qui diffusent des accusations fausses et dénuées de réalité, et des mensonges éhontés, pour faire élire Hillary la pourrie !" Ce genre de messages obtient des centaines de milliers de "J'aime", de commentaires et de partages, et l'argent afflue.

Alors que les messages plus nuancés de la campagne d'Hillary Clinton obtiennent moins d'écho. "Au sein de Facebook, presque tout le monde parmi les dirigeants voulaient que Clinton gagne, mais ils savaient que Trump utilisait mieux la plateforme. S'il était un candidat pour Facebook, elle était une candidate pour LinkedIn", note "Wired".

Une nouvelle espèce d'arnaqueurs en ligne apparaît, diffusant des articles viraux et totalement bidonnés. Ils ont vite remarqué que les sujets pro-Trump marchent très bien, et sortent par exemple un article prétendant que le pape soutient Donald Trump, qui obtient près d'un million de réactions sur Facebook.

En Macédoine, Trump est une machine à cash pour des sites d’info crapuleux

"À la fin de la campagne, les histoires bidon en tête sur la plateforme obtenaient plus d'engagements [likes, commentaires et partages] que les articles sérieux en tête."

5 – Zuckerberg ne voit aucun problème, puis la guerre aux fake news est déclarée

Novembre 2016. L'élection de Donald Trump plonge les dirigeants de Facebook dans la stupeur et l'inquiétude à l'idée que leur outil soit mis en cause. Deux jours après la victoire de Trump, Zuckerberg déclare lors d'une conférence que les réseaux sociaux influencent peu le vote des gens :

"L'idée que des fake news dans Facebook – dont, vous savez, c'est une très petite quantité du contenu – aient influencé l'élection d'une façon ou d'une autre, je pense que c'est une idée sacrément dingue."

Ce commentaire passe mal, y compris au sein de Facebook. Un ancien cadre explique qu'il fallait faire comprendre au PDG qu'il se trompait, "ou sinon, la compagnie allait devenir un paria comme Uber était en train de l'être". Un employé dit à "Wired" qu'en regardant Zuckerberg, il pensait à Lennie dans "Des souris et des hommes" : un colosse qui n'a aucune notion de sa force.

Facebook ne lutte pas assez contre les infos bidon, selon des employés

Une semaine après son haussement d'épaules, Zuckerberg esquisse un mea culpa : il promet que Facebook prend au sérieux la désinformation, et présente un plan en 7 points pour la combattre. 

Quelques semaines plus tard, Facebook annonce deux choses : il coupera les revenus publicitaires des usines à fausses nouvelles et rendra plus facile pour ses utilisateurs de signaler des articles qu'ils pensent faux.

En décembre, l'entreprise annonce qu'elle va, pour la première fois, introduire du fact-checking. En l'externalisant : l'idée est de déléguer la tâche à des journalistes ailleurs.

En janvier 2017, Facebook annonce le recrutement de Campbell Brown, une ex-présentatrice de CNN, chargée du "Facebook Journalism Project". En gros, selon les sources de "Wired", il s'agit de formaliser et rendre plus publics les efforts déjà entamés par le réseau social.

Les dénégations initiales de Zuckerberg ont énervé une chercheuse en sécurité, Renée DiResta, qui étudie depuis des années la diffusion de la désinformation sur la plateforme. Elle a noté que si on rejoint un groupe anti-vaccins, l'algorithme propose d'adhérer à des groupes complotistes comme ceux croyant que la Terre est plate ou des adeptes du Pizzagate.

En mai, DiResta publie un article où elle compare les diffuseurs de fausses nouvelles sur les réseaux sociaux aux manipulations du trading haute fréquence sur les marchés financiers. Pour elle, les réseaux sociaux permettent à des acteurs malveillants d'opérer à grande échelle, et de faire croire avec des bots et des comptes sous fausse identité à des mouvements importants sur le terrain.

Avec Roger McNamee, un actionnaire de Facebook furieux des réponses pleines d'autosatisfaction qu'a renvoyées l'entreprise à ses courriers d'alerte, et Tristan Harris, ancien de Google devenu célèbre pour pointer les dangers des services numériques, les trois dénoncent dans les médias les dangers que ferait peser Facebook pour la démocratie américaine.

6 – 2017 : révélations sur les publicités russes

Pendant la campagne pour l'élection présidentielle, les équipes de Facebook ont remarqué des attaques de pirates présumés proches du gouvernement russe, dérobant des documents (hors du réseau social) puis créant des comptes bidon avec des identités usurpées. Mais le réseau social n'y décèle pas une opération d'ensemble.

Au printemps 2017, l'équipe de sécurité dirigée par Alex Stamos rédige un rapport sur la façon dont la Russie et des services de renseignement ont utilisé Facebook. Le 27 avril 2017, au lendemain de la convocation par le Sénat du directeur (ensuite chassé par Trump) du FBI James Comey, le rapport de Stamos est publié. Titré "Information Operations and Facebook" [PDF], il explique comment une puissance étrangère pourrait utiliser Facebook pour manipuler les gens.

Le rapport, pauvre en exemples, est critiqué à l'extérieur par maints spécialistes en sécurité, d'autant qu'ils s'étonnent que l'entreprise ait mis si longtemps à comprendre que des usines russes de trolls ont exploité sa plateforme. Facebook approfondit ses analyses, et découvre un ensemble de comptes créés par l'Internet Research Agency (réputée liée au Kremlin), se faisant passer pour des activistes américains.

La page Blacktivist par exemple, qui diffusait des articles sur les brutalités contre des Noirs, avait plus d'abonnés que celle, vérifiée, du vrai mouvement Black Lives Matter.

Après un débat interne chez Facebook (divulguer ou pas des données sur des utilisateurs, et créer ainsi un dangereux précédent?), un billet de blog est publié en septembre 2017, par Stamos. Il annonce que les Russes ont acheté pour 100.000 dollars environ 3.000 messages publicitaires destinés à influencer la politique américaine pendant la campagne électorale de 2016. Tout est fait dans le message pour minimiser l'impact de ces révélations.

Comment les Russes ont trollé la campagne américaine de 2016 sur les réseaux sociaux

Un chercheur, Jonathan Albright, découvre alors des données encore accessibles, et peut estimer que les messages des comptes russes sous fausse identité ont en fait été partagés plus de 340 millions de fois.

7 – Sale moment devant le Congrès, et un Zuckerberg... transformé ?

Septembre 2017. Le trio McNamee, Harris et DiResta conseille les parlementaires qui enquêtent sur l'ingérence russe et s'apprêtent à interroger les responsables des réseaux sociaux. Ils aident alors les députés et les sénateurs à préparer les questions qu'ils vont leur poser.

Le 1er novembre, Colin Stretch, vice-président de Facebook, est mis sur le gril par une série de questions dérangeantes. Les jours suivants, la vague de critiques continue à pleuvoir sur le réseau social, y compris d'anciens prestigieux : l'ex-président de Facebook Sean Parker, l'ancien responsable de la protection de la vie privée Sandy Parakilas, puis Chamath Palihapitiya, ex-vice-président.

Facebook, Google : les "hérétiques de la Silicon Valley" nous alertent

Le réseau social est aussi accusé d'avoir permis la diffusion de propagande mortelle contre les Rohingyas en Birmanie et d'avoir servi les méthodes brutales de Duterte à la tête des Philippines. Mais ses résultats sont plus florissants que jamais.

Janvier 2018. Mark Zuckerberg annonce, comme chaque début d'année, ses bonnes résolutions. Et cette fois il ne s'agit pas de ses habituels défis personnels (apprendre le chinois mandarin, lire 25 livres, etc.), mais de "réparer Facebook", reconnaissant que l'entreprise a un rôle à jouer "qu'il s'agisse de protéger notre communauté contre les abus et la haine, de se défendre contre l'ingérence de nations-Etats, ou de s'assurer que le temps passé sur Facebook est du temps bien employé" (un terme qu'on dirait emprunté à Tristan Harris).

Comment va évoluer Facebook ? Selon un dirigeant cité par "Wired" :

"Toute cette année a complètement changé son techno-optimisme [de Mark Zuckerberg]. Ça l'a rendu beaucoup plus paranoïaque quant aux façons dont des gens peuvent abuser de ce qu'il a construit."

T. N.