Michael Null (à gauche) et William Null (à droite) lors d’un rassemblement pour exiger la réouverture des entreprises dans le Michigan, le 30 avril 2020. Les Nulls ont été inculpés pour leur rôle présumé dans le complot d’enlèvement du gouverneur de l’État. Photographie : Jeff Kowalsky/AFP/Getty Images
La plateforme fournit des outils pour la radicalisation et la violence coordonnée, et les critiques disent qu’il a été lent à interdire les groupes dangereux
Lois Beckett
@loisbeckett
The Guardian.
Traduction Antilla
En cette année d’escalade de la violence politique aux États-Unis, Facebook a servi d’outil d’organisation clé pour les extrémistes violents.
Un présumé complot visant à kidnapper le gouverneur du Michigan, Gretchen Whitmer, a été planifié en partie sur Facebook. Selon une déclaration sous serment du FBI, l’un des chefs de file du projet a diffusé une vidéo de ses frustrations avec Whitmer à un groupe privé sur Facebook, et les participants ont ensuite partagé des images de leurs exercices paramilitaires et de leur formation à la fabrication de bombes.
Révélé : Un consultant lié à des pages Facebook avertit que l’élection provoquera une guerre civile
Une milice du Michigan accusée de terrorisme a également utilisé Facebook pour recruter de nouveaux membres, selon la police de l’État du Michigan.
Avant le Michigan, il y avait la milice de Kenosha, dans le Wisconsin, qui utilisait un événement sur Facebook pour encourager des citoyens armés à descendre dans la rue, et le tueur de flics anti-gouvernemental “boogaloo” en Californie en mai dernier aurait rencontré son complice sur Facebook. Le rassemblement néo-nazi meurtrier de Charlottesville, en Virginie, en 2017, a été organisé à l’origine comme un événement Facebook.
Facebook s’est défendu en disant qu’il travaillait dur pour assurer la sécurité des utilisateurs et s’adapter aux nouvelles menaces sur sa plateforme, ainsi que pour coordonner étroitement avec les forces de l’ordre. Mais il est prouvé depuis des années que l’objectif de Mark Zuckerberg d’utiliser Facebook pour “rapprocher le monde” et “donner aux gens le pouvoir de créer une communauté” a également permis de créer des outils puissants de radicalisation et de violence coordonnée.
Un manifestant armé au Capitole du Michigan à Lansing, le 30 avril 2020. Les manifestants ont exigé que l’État ne prolonge pas l’ordonnance de maintien à domicile du gouverneur Gretchen Whitmer.
Un manifestant armé devant le Capitole du Michigan à Lansing, le 30 avril 2020. Les manifestants ont demandé que l’État ne prolonge pas le droit de résidence du gouverneur Gretchen Whitmer. Photographie : Bloomberg/Getty Images
Facebook a laissé entendre cette semaine que sa conduite dans l’affaire du Michigan avait été “proactive” et exemplaire, et qu’elle avait joué un rôle important en signalant les contenus extrémistes aux autorités chargées de l’application de la loi. Un porte-parole a déclaré que l’entreprise avait “activement tendu la main et coopéré avec le FBI” pour fournir des informations pour l’enquête du Michigan il y a plus de six mois.
“Nous supprimons les contenus, désactivons les comptes et signalons immédiatement aux autorités policières lorsqu’il existe une menace crédible de préjudice imminent pour les personnes ou la sécurité publique”, a déclaré un porte-parole de Facebook.
Le FBI a déclaré dans une déclaration sous serment que son enquête dans le Michigan a commencé lorsqu’il a “appris par les médias sociaux qu’un groupe d’individus discutait du renversement violent de certaines composantes du gouvernement et des forces de l’ordre” au début de 2020.
Matt Perault, un ancien directeur de la politique publique de Facebook qui dirige un centre de politique technologique à l’université de Duke, a soutenu que le cas du Michigan devrait être considéré comme un exemple de Facebook faisant partie de la solution pour faire face à la radicalisation extrémiste aux États-Unis.
“Les données sont assez claires dans cette affaire : la possibilité pour un informateur de rejoindre un groupe Facebook pour identifier le comportement, et le travail de Facebook avec les forces de l’ordre, semblent avoir été assez utiles”, a-t-il déclaré, aidant apparemment “à prévenir un événement horrible avant qu’il ne se produise”.
Mais les descriptions par les autorités fédérales d’un complot de droite visant à kidnapper un gouverneur démocrate, à le “juger” comme un tyran et à déclencher une guerre civile, ont également ravivé les questions de savoir si la stratégie actuelle de Facebook pour contrôler l’extrémisme sur sa plateforme est adéquate, ou si la société doit fondamentalement repenser son approche, en reconnaissant que ce qui est bon pour Facebook peut être mauvais pour la démocratie.
Alors que des groupes dangereux peuvent s’organiser et le font sur de nombreuses plateformes différentes, Facebook est “exceptionnellement dangereux” parce qu’il est conçu pour le “recrutement algorithmique”, a écrit Evan Greer, le directeur adjoint du groupe de défense des droits de l’homme numérique Fight for the Future, sur Twitter ce jeudi.
Un mémorial pour Heather Heyer. Le rassemblement néo-nazi mortel a été organisé à l’origine sur Facebook comme un événement Facebook. Photographie : Evelyn Hockstein/The Guardian
Facebook a souvent présenté les discussions sur la manière dont sa plateforme a été utilisée par des extrémistes violents comme une question de “liberté d’expression”, mais de nombreux critiques disent que cela passe à côté de la vraie question sur la manière dont l’entreprise utilise ses algorithmes pour recommander des contenus et des groupes extrémistes à ses utilisateurs.
“C’est une chose de fournir un forum où les gens peuvent dire ce qu’ils veulent, même si c’est controversé”, a déclaré Mme Greer au Guardian. “C’est une chose totalement différente que d’aider activement les fanatiques violents à recruter d’autres fanatiques violents dans leur groupe en utilisant la collecte de données et les recommandations algorithmiques”.
Lorsque les chercheurs du Network Contagion Research Institute ont commencé à cartographier la propagation de la rhétorique anti-gouvernementale “boogaloo” sur la plateforme au début de 2020, le co-fondateur Joel Finkelstein a déclaré que Facebook a commencé à offrir des publicités pour des achats en rapport avec leur intérêt pour une guerre civile à venir.
“Il a commencé à nous envoyer des publicités pour le boogaloo. Achetez un sac de boogaloo. Obtenez une inscription boogaloo AK-47 sur votre arme”, a déclaré Finkelstein. “C’était choquant.”
“Nous avons réalisé que les algorithmes de Facebook n’ont jamais rencontré une secte apocalyptique et militante qui tue des flics qu’elle n’aime pas et ne peut pas vendre.”
“La plateforme choisie du mouvement de la milice
Le complot d’enlèvement dans le Michigan et les accusations connexes contre les membres d’une milice anti-gouvernementale sont une nouvelle étude de cas sur le rôle joué par Facebook dans les nouvelles menaces extrémistes. Les autorités ont déclaré avoir arrêté 13 hommes en relation avec des complots violents contre des élus et des agents de la force publique.
Les premiers détails suggèrent qu’au moins certains des présumés comploteurs du Michigan se sont identifiés à l’idéologie du “boogaloo”, un mouvement de droite naissant obsédé par la guerre civile et l’insurrection, qui s’est rapidement répandu sur Facebook fin 2019 et début 2020. Les officiels ont décrit sept hommes accusés de terrorisme comme faisant partie d’une milice anti-gouvernementale, les Wolverine Watchmen, et ont déclaré que le “commandant” du groupe était connu en ligne sous le nom de “Boogaloo Bunyan”.
Les algorithmes de Facebook n’ont jamais rencontré une secte apocalyptique et militante qui tue des flics qu’elle n’aime pas et ne peut pas vendre
Joel Finkelstein
Facebook a mis à jour ses politiques relatives aux groupes extrémistes violents à plusieurs reprises cette année, notamment en démantelant un réseau de groupes de boogaloo en tant qu’organisation dangereuse en juin, puis en restreignant les milices fin août, dans le cadre d’une répression des groupes qui ne répondaient pas aux critères de l’entreprise pour être suffisamment dangereux pour être interdits, mais qui “ont démontré des risques importants pour la sécurité publique”.
Dans le cadre d’une “perturbation stratégique du réseau” des groupes de boogaloo le 30 juin, Facebook a supprimé un groupe pour les Wolverine Watchmen, a déclaré la société.
Alors que des entreprises comme Facebook subissent des pressions de la part de militants pour retirer du matériel provenant de groupes extrémistes, elles peuvent également jongler avec les demandes des forces de l’ordre “pour laisser du matériel que les procureurs pourraient utiliser pour poursuivre les gens”, a noté M. Perault. Les activités des médias sociaux “rendent visibles des informations qui ne le seraient pas autrement”, et peuvent être cruciales pour monter des affaires pénales.
“Les entreprises technologiques ne pourront pas résoudre le problème des gens qui font des choses terribles”, a déclaré M. Perault. “Les gens feront des choses terribles en utilisant n’importe quelle technologie de communication à laquelle ils ont accès, y compris les technologies plus traditionnelles comme le téléphone.
Mais certains analystes ont déclaré que l’action de Facebook pour s’attaquer à la fois aux groupes de “boogaloo” et aux milices qui se sont organisées cet été était tout à fait tardive.
Les milices armées aux États-Unis ont un passé de violence mortelle bien documenté qui remonte aux années 1990.
Un présumé complot visant à kidnapper le gouverneur du Michigan, Gretchen Whitmer, a été planifié en partie sur Facebook.
Un présumé complot visant à kidnapper le gouverneur du Michigan, Gretchen Whitmer, a été planifié en partie sur Facebook. Photographie : AP
“De 2008 à 2020, Facebook a été en quelque sorte la plateforme de médias sociaux choisie par le mouvement de la milice”, a déclaré Mark Pitcavage, chercheur principal au Centre sur l’extrémisme de la Ligue anti-diffamation. “C’est pendant 12 ans que le mouvement de milice a prospéré sur Facebook”.
L’action tardive de Facebook pour restreindre les groupes de miliciens fin août a eu un effet sur l’ensemble du mouvement : ils l’ont “atomisé”, avec de nombreux groupes et pages supprimés, a déclaré Pitcavage. “Ça a vraiment fait un gros cratère”.
“Il aurait été préférable qu’ils le fassent en 2008″, a déclaré M. Pitcavage, mais il a apprécié le fait qu’il était préférable que la société agisse maintenant plutôt qu'”en 2022 ou 2024”.
Parfois, Facebook a choisi de ne pas restreindre ou interdire de manière significative les groupes extrémistes sur sa plateforme jusqu’à ce qu’un membre du groupe ait tué quelqu’un, même lorsque des experts ont lancé des avertissements sur le groupe pendant des mois ou des années avant une attaque.
C’était le cas des groupes de boogaloo sur Facebook. Un rapport de février 2020 du Network Contagion Research Institute a mis en garde contre la croissance de la rhétorique du boogaloo sur Facebook, en précisant qu’elle comprenait des discours violents sur le meurtre des forces de l’ordre qui pourraient se traduire par des actions. Après la publication de ce rapport, Facebook a déclaré à NBC News qu’il surveillait les groupes pour détecter les menaces de violence, mais qu’il n’avait pas pris de mesures immédiates pour interdire les groupes de boogaloo, même en cas d’insurrection violente, et que le fait de tuer les forces de l’ordre était au cœur des discussions sur le boogaloo.
Notre pire cauchemar” : les milices vont-elles tenir compte de l’appel de Trump à regarder les sondages ?
La société a finalement annoncé l’interdiction d’un réseau de groupes de boogaloo le 30 juin, quatre mois après avoir clairement averti le public qu’une idéologie de tueur de flics se répandait sur Facebook, et près d’un mois après que deux officiers californiens aient déjà été abattus : l’agent de sécurité fédéral David Patrick Underwood, le 29 mai à Oakland, et l’adjoint du shérif californien Damon Gutzwiller, lors d’une embuscade ultérieure.
Les premiers détails en provenance du Michigan suggèrent que l’un des groupes liés au complot pourrait avoir été actif sur Facebook pendant huit mois avant que l’entreprise ne les désigne finalement comme faisant partie d’un réseau dangereux.
Un membre de la guérilla texane qui se fait appeler “Apex”, troisième à partir de la droite, et d’autres personnes portent des armes lors d’un rassemblement de Black Lives Matter à Austin, au Texas. Photographie : Nuri Vallbona/Reuters
Dans une déclaration sous serment, la police du Michigan a décrit les Wolverine Watchmen comme une milice qui “s’est engagée dans un entraînement aux armes à feu et des exercices tactiques pour se préparer au ‘boogaloo’, un terme qui fait référence à un violent soulèvement contre le gouvernement ou à une guerre civile imminente à motivation politique”, et a déclaré qu’ils avaient “recruté des membres en utilisant une plateforme de médias sociaux, Facebook, depuis novembre 2019”.
Facebook a démantelé le groupe des Watchmen le 30 juin 2020. Un porte-parole a déclaré que si le groupe des Watchmen de Wolverine avait été identifié comme une menace crédible plus tôt, il aurait été supprimé plus tôt.
Ce sont les “actes de violence du monde réel” commis par les adhérents du mouvement au printemps 2020 qui ont conduit Facebook à désigner un réseau de boogaloo comme une organisation dangereuse et à l’interdire de la plateforme, a déclaré un porte-parole de l’entreprise en juin, mais elle surveillait étroitement le mouvement depuis 2019. Facebook avait identifié des éléments du mouvement boogaloo “dès 2012”, a déclaré un porte-parole, et avait surveillé les débats au sein du mouvement sur “la question de savoir s’il faut déclencher un conflit violent ou être prêt à réagir lorsqu’il se produit” pendant des mois avant d’annoncer finalement une interdiction.
Certains militants font maintenant pression sur Facebook non seulement pour qu’il accélère le processus d’interdiction des groupes dangereux sur sa plateforme, mais aussi pour qu’il repense fondamentalement la manière dont il partage et promeut le contenu, et suggère des connexions entre les différents utilisateurs.
Finkelstein, le co-fondateur du Network Contagion Institute, a déclaré que Facebook n’était pas suffisamment incité à s’autoréguler actuellement, car les contenus extrémistes sont très engageants. “Ce n’est pas dans leur intérêt financier” de changer, a-t-il dit. “Ils créent des risques sociaux que nous ne pouvons pas contrôler”.
