Zoé Vilain, Avocate chez 1862 Avocats démêle dans Marianne les ramifications et implications des dernières révélations sur Facebook.

Propos recueillis par Jean-Loup Adenor

Publié dans Marianne le 22/10/2021 à 15:45

La lanceuse d'alerte Frances Haugen, une ancienne ingénieure de Facebook, a fait fuiter des documents internes qui ont entaché la réputation du groupe, déjà ternie par de nombreuses affaires. Marianne démêle les ramifications et implications de ces révélations avec Zoé Vilain, avocate et présidente de l'association Janus, qui promeut un monde numérique éthique et respectueux des libertés fondamentales.

Facebook a été mis en cause pour son rôle dans de nombreux scandales et drames, des fuites de données confidentielles ou des événements violents dans différents pays. Récemment, la lanceuse d'alerte Frances Haugen, une ancienne ingénieure de Facebook, a fait fuiter des documents internes qui ont entaché la réputation du groupe et relancé le débat sur la régulation du mastodonte américain des réseaux sociaux. Marianne s'est entretenu avec Zoé Vilain, avocate et présidente de l'association Janus, qui défend le respect de l'éthique et des libertés fondamentales par les entreprises phares du numérique.

Marianne : Le 5 octobre dernier, Frances Haugen, une ancienne employée de Facebook, a pris la parole devant le Congrès américain. Pourriez-vous nous résumer ce qu'elle y a révélé ?

Zoé Vilain : Frances Haugen travaillait dans un département de Facebook créé à la demande de Congrès américain, qui employait un mélange de différents profils, dont des juristes et des ingénieurs, pour vérifier l'intégrité des algorithmes utilisés par l'entreprise dans sa gestion des contenus politiques. L'idée, c'était de vérifier que Facebook n'interfère plus dans les élections. Or, l'entreprise a mis fin à ce département à la veille des élections américaines de 2020. Selon Frances Haugen, qui a quitté l'entreprise quelques mois plus tard avec des milliers de documents, l'insurrection du Capitole en janvier 2021 aurait pu être évitée si Facebook avait maintenu ce département.

Parmi les révélations qu'elle fait au Congrès, la lanceuse d'alerte expose notamment les cadres de Facebook, qui sont selon elle parfaitement avertis que leurs plateformes et particulièrement Instagram ont des effets addictifs sur les jeunes utilisateurs. Instagram les ciblerait d'ailleurs spécifiquement sur certains contenus, ce qui accroîtrait leur état dépressif. Selon Frances Haugen, plus les utilisateurs adolescents d'Instagram sont dépressifs et plus ils restent longtemps sur la plateforme. On peut donc en déduire que c'est dans l'intérêt commercial de Facebook de ne rien faire pour remédier à ce problème.

Il y a aussi d'autres faits alarmants, notamment relatifs à la situation des Rohingyas, la minorité musulmane birmane. L'algorithme de Facebook aurait favorisé les contenus appelant à la violence contre cette communauté. Des milliers de documents sont encore en train d'être décortiqués par les journalistes américains et Frances Haugen dit elle-même qu'elle n'a sûrement pas encore une vision complète des problèmes causés par les algorithmes utilisés par Facebook.

« Les contenus haineux, les contenus mensongers, les contenus violents génèrent beaucoup plus d'engagement. »

Comment expliquer que Facebook mette en valeur des contenus violents ?

Tout est une affaire d' « engagement ». L'engagement, c’est ce qui vous donne envie de rester ou de revenir sur une plateforme. On peut mesurer ce taux d’engagement et notamment le temps passé sur la plateforme. Toute plateforme a pour objectif d'acquérir de l'audience, mais aussi de garder cette audience. Or les contenus haineux, les contenus mensongers, les contenus violents génèrent beaucoup plus d'engagement. C'est cet engagement qui va créer de la monétisation et donc des bénéfices.

S'agit-il vraiment de révélations ?

Facebook est critiqué depuis très longtemps pour la façon dont ses algorithmes privilégient ces contenus-là. En ce sens, les informations de Frances Haugen ne sont pas des révélations. Ce qu'elle révèle en revanche, c'est le cynisme de l'entreprise, qui est parfaitement au courant des dangers qu'elle fait courir à ses utilisateurs. Ce qu’on découvre, c’est qu’il y a des employés de Facebook qui ont alerté là-dessus et qui ont préconisé l'utilisation d'un algorithme plus sécuritaire. Or, Facebook ne semble pas les avoir écoutés.

« Tant qu'une marque n'est pas publiquement interrogée sur les contenus auxquels ses produits sont associés, elle n'a aucune raison de réagir »

Comment a réagi l'entreprise ?

Mark Zuckerberg a répondu assez rapidement. Il a assuré que l'idée que Facebook privilégie des contenus violents ou haineux était aberrante, puisqu'aucun annonceur ne voudrait voir ses produits associés à ces contenus. Dans la réalité, on sait que cette réponse n'est pas tout à fait sincère, car tant qu'une marque n'est pas publiquement confrontée aux contenus auxquels ses produits sont associés, elle n'a aucune raison de réagir.

Et en France ?

Le patron de Facebook France a notamment donné une interview dans laquelle il a notamment annoncé le recrutement de 10 000 personnes en Europe pour créer un « metavers », une nouvelle plateforme de connexion en réalité virtuelle qui constituerait l'Internet de demain. C'est assez surréaliste de faire une annonce pareille alors que la société traverse un scandale au moins aussi important que celui du Cambridge Analytica, dans lequel l'entreprise américaine a admis avoir vendu les données personnelles de 87 millions d'utilisateurs à des fins de profilage politique. Ces données ont notamment servi à cibler des personnes afin d'orienter leurs votes en faveur de Donald Trump aux États-Unis ou pour le « oui » au référendum sur le Brexit en Grande-Bretagne.

Comment a réagi la société américaine à ces révélations ?

Il y a une coalition d’ONG aux États-Unis qui ont lancé une initiative il y a quelques jours afin d'arrêter Facebook. On sent qu'il y a une vraie volonté de dire que l'entreprise va trop loin, de dénoncer son modèle : le capitalisme de surveillance. Une partie de la société civile cherche à pousser une vraie politique de régulation des plateformes via une loi de régulation des données personnelles. Du côté des responsables politiques en revanche, on sent que ça traîne. Les législateurs et les juristes sont confrontés à la question complexe de la responsabilité juridique des algorithmes. C'est un sujet qui commence à être traité, mais on est encore au début de ce mouvement-là.

« Je m’inquiète beaucoup sur l’impact des algorithmes de Facebook sur nos élections à nous »

On a l'impression que la France et l'Europe sont plus interventionnistes sur cette question de la régulation des plateformes.

En un sens, c'est juste. La France est quand même assez dynamique sur les questions de modération des contenus haineux, mais plutôt que de judiciariser ces contenus, on insiste sur la responsabilité des plateformes de les modérer. À ma connaissance aujourd’hui, en France, on a la loi pour la confiance sur l'économie numérique de 2004, transposée depuis une directive européenne, qui prévoit la responsabilité en cascade : les hébergeurs qui ne sont pas responsables des contenus qu'ils hébergent, ont l'obligation de supprimer dans un délai raisonnable les contenus qu'on leur signale. On a aussi les RGPD et toutes les directives anciennes sur les données personnelles qui viennent augmenter considérablement la responsabilité des hébergeurs de contenus. Mais on ne peut pas dire que ces RGPD fonctionnent bien, il n'y a eu que quelques amendes tout au plus.

Un des problèmes les plus importants, c'est que l'autorité compétente, c'est l'autorité de protection des données irlandaise. C'est là où Facebook a son siège dans l'Union européenne. On sait qu'ils souffrent d'un manque de moyens considérables. Et ils ont aussi Twitter et Google dans leur juridiction.

À quelques mois de l'élection présidentielle, a-t-on des raisons de s'inquiéter en France ?

Je m’interroge beaucoup sur l’impact des algorithmes de Facebook sur nos élections à nous. Je dois dire que je suis assez inquiète de voir la montée de certains candidats, parce que ces algorithmes vont forcément les mettre en avant. En un sens, Facebook est aussi une fabrique à candidats, qui prennent des positions beaucoup plus clivantes et qui vont donc être mis en avant. Ceci dit, je crois qu'il faut prendre garde à ne pas aller à l'extrême inverse et bannir complètement ce type de contenus : il faut pouvoir s'y confronter, ne pas vivre dans une bulle aseptisée. Ce qui est anormal, c'est que les algorithmes les mettent trop en avant pour générer de l'engagement.