Une lanceuse d’alerte révèle tout des préjudices en ligne de Facebook

Quelqu’un devait faire tomber les masques. Ultimement, c’est ce qu’a fait Frances Haugen, une scientifique spécialiste des données, âgée de 37 ans de l’Iowa, qui travaillait pour l’unité de l’intégrité civique, la version du service des affaires internes de Facebook.

Ce qu’elle a découvert chez Facebook n’aurait pas dû surprendre personne : son unité, en sous-effectif, était tout simplement incapable de faire face à l’afflux de contenus dangereux publiés sur Facebook et Instagram, notamment la vengeance pornographique, l’incitation au meurtre et à la violence politique, la polarisation politique et la désinformation sur la vaccination. Pendant ce temps, un protocole de liste blanche exemptait les célébrités et les politiciens élus des quelques règles de Facebook sur les publications préjudiciables.

Les hauts dirigeants de Facebook, y compris le PDG Mark Zuckerberg, ont écarté et supprimé les rapports de l’unité de l’intégrité, allant même jusqu’à tenir leur réputé conseil de surveillance dans l’ignorance. Ultérieurement, le PDG a dissous l’unité de Frances Haugen et réaffecté ses responsabilités d’autosurveillance aux divisions opérationnelles de l’entreprise.

Frances Haugen a été la source de milliers de documents internes lui donnant raison, des informations qui, une fois dévoilées, ont servi de base à des reportages d’enquête du Wall Street Journal et de l’émission 60 Minutes de CBS, et qui sont maintenant devenues les principales allégations d’une série de plaintes qu’elle a déposées auprès de la Securities and Exchange Commission des États-Unis. Afin de protéger les investisseurs d’une société cotée en bourse, la Commission et les sous-comités du Congrès sont sur le point de donner à Facebook des maux de tête politiques dont l’entreprise se serait bien passé.

Pour les journalistes et les adeptes de l’actualité politique, l’important chapitre de cette histoire porte sur la modification qu’a apportée Mark Zuckerberg en 2018 à l’algorithme du fil de nouvelles de Facebook.

Le PDG s’inquiétait de la croissance stagnante du temps passé par ses utilisateurs sur la plateforme, une situation ayant un impact direct sur les recettes publicitaires de cette entreprise de 1 billion de dollars. La modification de l’algorithme a réduit les contenus d’actualité moins sensationnalistes et augmenté le contenu de type « piège à clics » qui suscitent des mentions « J’aime », des commentaires et des partages, bref tout ce qui pouvait susciter une réaction émotive, explique Frances Haugen.

Comme les acteurs politiques et les éditeurs l’ont découvert peu après, la modification faite par Mark Zuckerberg a alimenté un appétit pour le téléchargement de contenu polarisant, en particulier sur les campagnes et les enjeux politiques. Selon la lanceuse d’alerte, les partis politiques ont prévenu Facebook que le nouvel algorithme les poussait à valoriser les contenus qui divisent et polarisent pour attirer l’attention des électeurs sur Facebook.

Frances Haugen a également honte du rôle qu’a joué Facebook dans les pays en développement où l’incitation à la violence et au génocide, ainsi que le recrutement ouvert d’assassins par les cartels de la drogue, n’est pas contrôlée, soit en raison d’un manque de personnel ou parce que les modérateurs ne comprennent pas la langue des publications.

Une autre de ses plaintes dénonce les pratiques de liste blanche de Facebook. Ces pratiques permettent aux modérateurs de signaler les publications problématiques dans leur programme de surveillance d’intelligence artificielle et d’accorder ensuite aux célébrités et aux politiciens au pouvoir un traitement préférentiel en matière de suppression et d’avertissement.

Les anecdotes scandaleuses liées au protocole de liste blanche ne manquent pas. Il y a eu un retard délibéré dans la suppression de la publication de vengeance pornographique de la vedette de soccer Neymar en représailles contre une accusatrice, permettant ainsi aux utilisateurs de partager ses images nues 54 millions de fois. Mark Zuckerberg a personnellement donné sa bénédiction à Donald Trump, accusé d’attiser les dissensions raciales, lorsque ce dernier a incité au meurtre dans une publication de 2020 en déclarant que « lorsque le pillage commence, la fusillade commence ».

Et Frances Haugen a trouvé le moyen de s’immiscer dans presque toutes les conversations des parents américains en révélant le plan du PDG de pallier le public vieillissant de Facebook en intégrant les jeunes filles à son application Instagram. L’unité de l’intégrité civique a averti Mark Zuckerberg que la culture de l’image corporelle parfaite des célébrités alimentait les troubles alimentaires et la dépression chez les adolescents. Il n’a rien fait.

Pour les Canadiens qui ont vécu le débat sur le projet de loi C-10 concernant Netflix au printemps dernier, une conclusion clé doit être tirée des révélations de la lanceuse d’alerte : c’est l’algorithme de Facebook qui décide du contenu qui est présenté, ou camouflé, sur ses plateformes, pour le meilleur ou pour le pire. La disposition décriée du projet de loi C-10 exigeant que Netflix modifie son algorithme en faveur du contenu canadien semble inoffensive en comparaison.

L’histoire de la lanceuse d’alerte est crédible et, au Canada, nous pouvons nous attendre à ce qu’elle se fraye un chemin dans le débat sur la législation en instance du gouvernement libéral pour réglementer les préjudices en ligne, promise d’ici Noël.

Les plaintes de Frances Haugen illustrent de manière évidente la prévalence des préjudices en ligne graves et le piètre travail de Facebook pour y remédier.

Mais elles soulèvent aussi d’importantes questions de politique publique sur la manière de réglementer une plateforme de communication mondiale ouverte à tous, où se côtoient le meilleur et le pire de ce que l’humanité a à offrir.

Nous en reparlerons dans notre prochain blogue.