Meta assure que son IA de modération se trompe moins que les humains, mais des dizaines de milliers de créateurs et petites entreprises se retrouvent bannis à tort, sans aucun moyen de joindre un humain pour faire appel.
Par Jérémy Collovray
Pas encore de commentaire. Lancez la discussion !
Depuis plusieurs mois, des dizaines de milliers d'utilisateurs de Facebook et Instagram découvrent sans prévenir que leur compte a disparu. Accusés à tort de partager du contenu pédopornographique, de vendre des produits interdits ou d'enfreindre des règles qu'ils n'ont jamais transgressées, ils se heurtent ensuite à un mur : impossible de parler à un humain. Meta a confié l'essentiel de sa modération à l'intelligence artificielle, et ce système, aussi précis soit-il sur le papier, est en train de briser des vies bien réelles.
Meta affirme que ses nouveaux outils de modération commettent 13% d'erreurs de moins que les équipes humaines et détectent 10% de violations supplémentaires. Sur le papier, la performance est réelle. Mais à l'échelle de milliards de comptes, même un système meilleur en moyenne que les humains continue de produire des dizaines de milliers de décisions individuelles erronées. Une maquilleuse suivie par 48 000 abonnés, une association célébrant le Juneteenth, une militante pour les droits des personnes handicapées : tous ont vu leur compte suspendu pour les motifs les plus graves que prévoit Meta, avant d'apprendre qu'il s'agissait d'une erreur.
Le plus troublant n'est pas l'erreur elle-même, c'est l'absence de recours. Les appels contre ces bannissements sont eux aussi souvent traités par une intelligence artificielle, ce qui ferme la boucle sans qu'aucun humain n'intervienne. Brittany Hamilton, bloquée depuis huit mois, résume la frustration de milliers d'utilisateurs : "Cette entreprise pèse des milliards de dollars et je ne peux même pas parler à quelqu'un." Plus de 60 000 personnes ont signé une pétition exigeant que Meta explique ses décisions et rétablisse un contrôle humain sur les appels. En juin, le propre conseil de surveillance de Meta, l'Oversight Board, a confirmé que ces bannissements manquaient de transparence et de procédure équitable.
Meta a par ailleurs reconnu, dans son rapport de modération de mars, une hausse de plus de 100% des faux positifs sur une courte période fin 2025, attribuée à un bug technique.
Cette affaire illustre une tension que l'on retrouvera de plus en plus souvent à mesure que l'IA prend en charge des décisions sensibles à grande échelle. Un système peut être statistiquement supérieur à l'humain tout en restant profondément injuste pour les individus qu'il touche, surtout lorsqu'aucune voie de recours humaine ne subsiste.
