Les documents de Facebook dressent un tableau accablant du rôle de l’entreprise dans l’insurrection.
Quelques jours après que les insurgés ont pris d’assaut le Capitole le 6 janvier, Sheryl Sandberg, directrice des opérations de Facebook, a minimisé le rôle de son entreprise dans ce qui s’est passé.
« Nous savons que cela a été organisé en ligne. Nous le savons », a-t-elle déclaré dans une interview accordée à Reuters. « Nous… avons fait tomber QAnon, Proud Boys, Stop the Steal, tout ce qui parlait de violence possible la semaine dernière. Notre application n’est jamais parfaite, donc je suis sûre qu’il y avait encore des choses sur Facebook. Je pense que ces événements ont été largement organisés sur des plateformes qui n’ont pas nos capacités à stopper la haine, qui n’ont pas nos normes et qui n’ont pas notre transparence. »
Mais des documents internes de Facebook examinés par CNN suggèrent le contraire. Les documents, y compris un post-mortem interne et un document montrant en temps réel les contre-mesures que les employés de Facebook ont tardivement mises en œuvre, dressent le portrait d’une entreprise qui n’était en fait pas du tout préparée à la façon dont le mouvement Stop the Steal utilisait sa plateforme pour s’organiser, et qui n’est vraiment passée à l’action qu’après que le mouvement soit devenu violent.
Interrogé par CNN sur la citation de Sandberg et sur le fait qu’elle s’y tienne, un porte-parole de Facebook a souligné le contexte plus large autour de la citation de Sandberg. Elle avait noté que l’organisation du 6 janvier s’était déroulée en grande partie en ligne, y compris, mais pas seulement, sur les plateformes de Facebook, a déclaré le porte-parole.
Les documents ont été fournis par Frances Haugen, la dénonciatrice de Facebook, comme preuve pour soutenir les divulgations qu’elle a faites à la Securities and Exchange Commission et fournis au Congrès sous une forme expurgée par le conseiller juridique de Haugen. Les versions expurgées ont été obtenues par un consortium de 17 organismes de presse américains, dont CNN.
L’une des principales allégations de Haugen concernant l’entreprise porte sur l’attaque du Capitole. Dans une divulgation de la SEC, elle allègue que « Facebook a trompé les investisseurs et le public sur son rôle dans la perpétuation de la désinformation et de l’extrémisme violent concernant l’élection de 2020 et l’insurrection du 6 janvier. »
Facebook nie les prémisses des conclusions de Haugen et affirme que Haugen a sélectionné des documents pour présenter un portrait injuste de l’entreprise.
« La responsabilité des violences survenues le 6 janvier incombe à ceux qui ont attaqué notre Capitole et à ceux qui les ont encouragés. Nous avons pris des mesures pour limiter les contenus qui cherchaient à délégitimer l’élection, notamment en étiquetant les publications des candidats avec le dernier décompte des voix après que M. Trump a prématurément déclaré la victoire, en mettant en pause les nouvelles publicités politiques et en supprimant le groupe original #StopTheSteal en novembre », a déclaré Andy Stone, porte-parole de Facebook, à CNN vendredi.
« Après l’éruption de la violence au Capitole et alors que nous avons vu des tentatives continues d’organiser des événements pour contester le résultat de l’élection présidentielle, nous avons supprimé le contenu avec la phrase ‘stop the steal’ dans le cadre de notre politique de coordination des préjudices et suspendu Trump de notre plateforme. »
Facebook a également publié vendredi soir un billet de blog de son vice-président de l’intégrité, Guy Rosen, sur ses efforts autour de l’élection de 2020.
« Notre mise en application était fragmentaire »
Parmi les dizaines de milliers de pages de documents fournis par Haugen figure une analyse interne de la façon dont les mouvements Stop the Steal et Patriot Party se sont propagés sur Facebook, rapportée pour la première fois par BuzzFeed News plus tôt cette année.
« Le recul est de 20:20 », écrivent l’auteur ou les auteurs de l’analyse, qui ne sont pas identifiables à partir de ce qui a été fourni. « [A]l’époque, il était très difficile de savoir si ce que nous voyions était un effort coordonné pour délégitimer l’élection, ou si c’était une expression libre protégée par des utilisateurs qui avaient peur et étaient confus et méritaient notre empathie. Mais le recul étant de 20:20, il est d’autant plus important de regarder en arrière pour apprendre ce que nous pouvons sur la croissance des mouvements de délégitimation de l’élection qui se sont développés, ont répandu la conspiration et ont contribué à inciter à l’insurrection du Capitole. »
L’analyse a révélé que les politiques et procédures mises en place par Facebook n’étaient tout simplement pas en mesure de ralentir, et encore moins d’arrêter, la croissance « fulgurante » de Stop the Steal. Par exemple, les auteurs de l’analyse ont noté que Facebook traitait chaque élément de contenu et chaque personne ou groupe de Stop the Steal individuellement, plutôt que comme faisant partie d’un tout, avec des résultats désastreux.
« Presque tous les groupes FB à la croissance la plus rapide étaient Stop the Steal pendant leur pic de croissance », indique l’analyse. « Parce que nous examinions chaque entité individuellement, plutôt que comme un mouvement cohésif, nous n’étions en mesure de faire tomber des Groupes et des Pages individuels qu’une fois qu’ils dépassaient un seuil de violation. Nous n’avons pas pu agir sur des objets simples comme les posts et les commentaires, car ils avaient individuellement tendance à ne pas violer, même s’ils étaient entourés de haine, de violence et de désinformation. »
Cette approche a fini par changer, selon l’analyse — après qu’il était trop tard.
« Après l’insurrection du Capitole et une vague d’événements Storm the Capitol à travers le pays, nous avons réalisé que les groupes, les pages et les slogans individuels de délégitimation constituaient un mouvement cohésif », indique l’analyse.
Ce n’est pas la seule façon dont Facebook n’a pas réussi à anticiper quelque chose comme Stop the Steal, ou dans laquelle sa réponse a été insuffisante.
Facebook dispose depuis un certain temps déjà d’une politique interdisant les « comportements inauthentiques coordonnés » sur ses plateformes. Cette interdiction lui permet de prendre des mesures contre, par exemple, l’armée de trolls russes qui s’est efforcée d’interférer avec l’élection américaine de 2016 par le biais de comptes et de pages configurés pour ressembler à des Américains. Mais, note l’analyse avec emphase, l’entreprise avait « peu de politique autour du préjudice authentique coordonné » – c’est-à-dire peu de choses pour empêcher les gens de s’organiser sous leur vrai nom et de ne pas cacher leur intention d’amener le pays à rejeter les résultats de l’élection.
Les groupes Stop the Steal et Patriot Party « ne mobilisaient pas directement le préjudice hors ligne, pas plus qu’ils ne promouvaient directement la militarisation », indique l’analyse. « Au contraire, ils amplifiaient et normalisaient la désinformation et la haine violente de manière à délégitimer une élection démocratique libre et équitable. Le préjudice existait au niveau du réseau : le discours d’un individu est protégé, mais en tant que mouvement, il a normalisé la délégitimation et la haine d’une manière qui a entraîné un préjudice hors ligne et un préjudice aux normes qui sous-tendent la démocratie. »
L’analyse note cependant qu’une fois que Facebook a vu les résultats de Stop the Steal le 6 janvier et a agi, il a pu déployer des mesures qui ont entravé la croissance des groupes Stop the Steal et Patriot Party.
Stone, de Facebook, a déclaré à CNN : « Facebook a pris des mesures extraordinaires pour lutter contre les contenus préjudiciables et nous continuerons à faire notre part. Nous avons également travaillé en étroite collaboration avec les forces de l’ordre, tant avant le 6 janvier que dans les jours et les semaines qui ont suivi, dans le but de garantir que les informations reliant les personnes responsables du 6 janvier à leurs crimes soient disponibles. »
Des leviers à actionner
Haugen a commencé à rassembler des preuves sur l’entreprise avant de finalement quitter le géant de la technologie en mai dernier. Pour réduire le risque de se faire prendre à faire des captures d’écran des systèmes internes de Facebook, elle a utilisé son téléphone pour prendre des photos de l’écran de son ordinateur.
Alors que l’insurrection était en cours à Washington et que Facebook tentait de maîtriser la situation, Haugen prenait des photos, documentant la réponse de l’entreprise.
L’un des documents qu’elle a capturé, intitulé « Capitol Protest BTG [Break the Glass] Response », était un tableau des mesures que Facebook pouvait prendre en réponse à l’attaque du 6 janvier. Le tableau semble avoir été préparé à l’avance ; au moment où Haugen l’a photographié, un peu moins de deux heures après la première atteinte au Capitole, la société avait mis en place certaines de ces mesures, tandis que d’autres étaient encore à l’étude. Parmi les actions potentielles énumérées dans le tableau figurait la rétrogradation du « contenu jugé susceptible de violer nos normes communautaires dans les domaines du discours de haine, de la violence graphique, et de la violence et de l’incitation. »
La page les qualifiait de « leviers US2020, précédemment annulés ».
Ces « leviers », comme Facebook les appelle, sont des mesures – des garde-fous – que la société a mis en place avant l’élection présidentielle de l’année dernière pour tenter de ralentir la propagation de la haine et de la désinformation sur la plateforme. Facebook n’a pas été clair dans ses déclarations publiques sur les mesures qu’il a annulées après l’élection et sur la raison pour laquelle il l’a fait à un moment de tumulte où le président en exercice remettait en question les résultats du vote.
Mais selon le document « Capitol Protest BTG response », les garde-fous que Facebook a réimplanté le 6 janvier comprenaient la réduction de la visibilité des publications susceptibles d’être signalées et le gel des « commentaires sur les publications dans les groupes qui commencent à avoir un taux élevé de discours haineux et de violence & ; commentaires d’incitation », entre autres.
Dans la divulgation de la SEC, Haugen allègue que ces leviers ont été rétablis » seulement après que l’insurrection ait éclaté. «
Interrogé sur les décisions de réduire les leviers et de les pousser à nouveau, Stone a déclaré : » En introduisant progressivement puis en ajustant des mesures supplémentaires avant, pendant et après l’élection, nous avons pris en compte des signaux spécifiques sur les plates-formes et des informations provenant de notre engagement continu et régulier avec les forces de l’ordre. Lorsque ces signaux ont changé, les mesures ont suivi. »
Une ligne traversante
Lorsque les dirigeants de Facebook ont publié des messages publics et internes condamnant l’émeute, certains employés ont répliqué, suggérant même que Facebook aurait pu avoir une certaine culpabilité.
« Des douzaines de groupes Stop the Steal étaient actifs jusqu’à hier, et je doute qu’ils aient mâché leurs mots sur leurs intentions « , a écrit un employé en réponse à un message de Mike Schroepfer, directeur de la technologie de Facebook3.
Un autre a écrit : » Avec tout le respect que je vous dois, mais n’avons-nous pas eu assez de temps pour trouver comment gérer le discours sans favoriser la violence ? Nous alimentons ce feu depuis longtemps et nous ne devrions pas être surpris qu’il soit maintenant hors de contrôle. «
D’autres employés de Facebook sont allés plus loin, affirmant que les décisions prises par les dirigeants de l’entreprise au fil des ans avaient contribué à créer les conditions qui ouvraient la voie à une attaque contre le Capitole américain.
En réponse au post de Schroepfer, un employé a écrit que « la direction passe outre les décisions politiques basées sur la recherche pour mieux servir des gens comme les groupes qui incitent à la violence aujourd’hui. Les travailleurs de la base ont fait leur part pour identifier les changements permettant d’améliorer nos plates-formes, mais ils ont été activement retenus. »
Un autre membre du personnel, faisant référence à des années de décisions controversées et discutables prises par la direction de Facebook concernant les discours politiques, a conclu que « l’histoire ne nous jugera pas avec bonté ».