Facebook et le « cauchemar » de la responsabilité éditoriale

« J’ai l’expérience de plusieurs réseaux sociaux et ce que j’ai vu chez Facebook était bien pire qu’ailleurs. » Passée par Google, Pinterest ou encore Yelp, la lanceuse d’alerte Frances Haugen accuse le plus puissant des réseaux sociaux au monde de ne pas en faire assez contre les publications appelant à la haine et à la violence.

Au point qu’il serait devenu un danger pour la société et la démocratie. « Ses dirigeants font passer leurs immenses profits avant les intérêts du public », a-t-elle résumé, le 5 octobre dernier, devant le Sénat américain.

Avec 3,3 milliards d’utilisateurs mensuels (dont 2,8 milliards pour le site Facebook), soit près de la moitié de l’humanité, et 29,1 milliards de dollars de bénéfice en 2020, la courbe des résultats du groupe (rebaptisé Meta) est fabuleuse et dépend du nombre d’utilisateurs qui postent, likent ou commentent sur Facebook, Instagram, WhatsApp et Messenger.

« Nous générons la quasi-totalité de notre chiffre d’affaires en vendant des emplacements publicitaires aux commerçants. Nos publicités leur permettent de toucher le public en fonction de nombreux facteurs dont l’âge, le genre, le domicile, les intérêts et les comportements », expose Facebook dans son rapport annuel : 98 % des recettes proviennent de la publicité.

Selon Frances Haugen, qui était membre de la cellule chargée de veiller sur les contenus politiques de Facebook, le site a tendance à privilégier les plus clivants d’entre eux, car ils accroissent l’engagement des utilisateurs et leur disponibilité à absorber les publicités.

Facebook estime n’avoir qu’une responsabilité limitée quant aux contenus qui apparaissent sur le fil d’actualité, puisque les véritables auteurs en sont les utilisateurs. Il juge aussi ne pas pouvoir être comparé à un éditeur, qui est le responsable juridique des textes qu’il publie.

De part et d’autre de l’Atlantique, la loi est de son côté. Le site est exempté de toute responsabilité éditoriale pour les publications de tiers par la section 230 du Communications Decency Act, une loi américaine de 1996. En Europe, la directive de 2000 sur l’e-commerce prévoit la même exemption.

Si certaines publications manifestement criminelles lui sont signalées, Facebook doit les retirer. Pour le reste, c’est lui qui décide quels contenus peuvent rester en ligne, selon les règles de bonne conduite qu’il a lui-même fixées et dont il est le seul juge.

À peine 2 % des contenus haineux supprimés  

Sans ces exemptions, le modèle économique de Facebook serait remis en cause. La modération des contenus est exercée à 95 % par des outils d’intelligence artificielle. Le réseau social n’emploie que 15 000 modérateurs humains, un chiffre qui reste stable depuis plusieurs années.

Ce travail a toutefois un coût qui inquiète l’état-major de l’entreprise. En 2019, selon un document interne cité par le Wall Street Journal, il représentait 104 millions de dollars à l’année, une somme qu’un manager proposait de faire baisser. Par rapport au total des coûts d’exploitation – 53,3 milliards de dollars –, cela peut sembler insignifiant. Mais selon d’autres documents révélés par Frances Haugen, Facebook ne parvenait à supprimer que 2 % du total des contenus appelant à la haine. Pour faire mieux, il faudrait en réalité que le coût augmente fortement.

Lire aussi Avec la fuite de documents internes, Facebook « vit son moment Big Tobacco »

Afin que cette modération soit possible, il faudrait aussi que Facebook soit capable de repérer tous les contenus litigieux. Ce qui n’est pas le cas quand ils sont formulés dans certaines langues que l’intelligence artificielle maîtrise mal, comme l’arabe ou le pachtou, parlé en Afghanistan. Ce qui signifie que les États-Unis et l’Europe  – 24% des utilisateurs mensuels – sont beaucoup mieux modérés que l’Asie et le Pacifique – 42% des utilisateurs.

En 2018, un responsable de l’ONU avait accusé Facebook d’avoir laissé se propager des appels à la violence contre les Rohingyas de Birmanie. De nouveaux investissements semblent donc nécessaires pour renforcer l’intelligence artificielle et la modération humaine.

Des recettes générées surtout par les PME   

En résumé, la fortune de Facebook repose sur un flot de contenus que le réseau social est incapable – et peu désireux – de contrôler. Frances Haugen a confié les documents qu’elle a fait fuiter à la SEC, le gendarme financier des États-Unis, car elle estime que cela fait peser sur l’entreprise des risques sur lesquels les investisseurs n’ont pas été suffisamment alertés.

Devant le Congrès américain, elle a plaidé pour une révision de la section 230 qui rendrait Facebook juridiquement responsable de l’algorithme du fil d’actualité. « L’algorithme qui choisit les contenus n’est pas neutre. Les ingénieurs qui l’élaborent ont une politique éditoriale », souligne Guillaume Sire, professeur en sciences de l’information à l’université de Toulouse.

Il faudrait en effet que la loi change pour intimider Facebook. Une campagne de boycott publicitaire menée en 2020 par plusieurs grands annonceurs (Microsoft, Coca-Cola…) n’a pas fait plus d’effet qu’une piqûre de moustique. Ses recettes proviennent en effet à plus de 80 % de petites et moyennes entreprises.

En Europe également, le législateur veut serrer la vis. En 2019, l’Allemagne a condamné Facebook à une amende de deux millions d’euros pour ne pas avoir signalé à la justice tous les contenus illégaux qui lui étaient notifiés. La Commission européenne concocte une loi qui renforcerait les obligations en matière de modération. Autant de menaces qui ne semblent pas atteindre Mark Zuckerberg, enthousiasmé par son Meta. Sauf que dans cet univers virtuel, les problèmes de responsabilité qui se posent aujourd’hui à lui seront à l’avenir démultipliés.