Les outils d'écriture IA peuvent discrètement orienter l'opinion publique, selon une étude d'Oxford

Selon une nouvelle étude de l'Oxford Internet Institute et de l'institut allemand Hasso Plattner, relayée par The Guardian, les outils d'IA qui « améliorent » des publications sur les réseaux sociaux en modifient parfois discrètement le sens, et ces glissements peuvent se propager à grande échelle une fois multipliés par des millions d'utilisateurs.

Les chercheurs ont soumis à plusieurs grands modèles de langage des textes rédigés par des humains sur des sujets sensibles, en leur demandant de les reformuler pour en améliorer la qualité. Même lorsqu'on leur demandait explicitement de conserver le sens d'origine, les modèles déplaçaient systématiquement la position exprimée dans le message. Ce biais s'est révélé constant d'un système à l'autre : les IA testées poussaient les textes vers le contrôle des armes à feu, la légalisation du cannabis et le féminisme, et à l'inverse s'éloignaient de l'athéisme et de la peine de mort.

Une seule reformulation isolée ne pèse guère, mais les chercheurs rappellent que des millions d'utilisateurs y ont recours quotidiennement. En s'appuyant sur des données réelles issues des réseaux de X et de Facebook, l'équipe a simulé la manière dont ces micro-modifications se propagent au sein d'un graphe social : avec le temps, ces biais minimes s'accumulent et finissent par entraîner l'opinion d'une communauté entière dans une direction donnée.

Le modèle d'IA n'est pas seul en cause : les choix propres à chaque plateforme influencent également le résultat. En reconstituant la fonction « Expliquer ce post » de X et en l'appliquant à des publications sur l'avortement, l'équipe a observé que Grok penchait vers une position anti-avortement. Les chercheurs ont retracé l'origine de ce biais jusqu'à une seule consigne intégrée à ses instructions, invitant le système à contester les récits dominants lorsque nécessaire.

Cette dynamique importe d'autant plus que l'IA s'est désormais installée au cœur même des outils avec lesquels les internautes publient : LinkedIn peaufine les mises à jour de ses utilisateurs, Grok structure l'expérience de X, et Google intègre l'IA jusque dans son moteur de recherche, orientant discrètement ce que les internautes lisent et achètent. Chaque reformulation prise isolément semble anodine, mais l'ensemble forme un canal d'influence nouveau et largement invisible.

Sur le plan juridique, le cadre réglementaire n'a pas encore rattrapé ce phénomène. Plusieurs plateformes font déjà face à des procès concernant les préjudices causés par leurs algorithmes de recommandation, tandis que les régulateurs concentrent encore leurs efforts sur des enjeux plus anciens, comme le contrôle de l'âge des utilisateurs. En Europe, l'AI Act et le Digital Services Act ciblent les contenus nuisibles, les discriminations et les menaces envers les processus démocratiques, mais ne visent pas la reformulation silencieuse d'une phrase.

Selon l'autrice principale de l'étude, Sandra Wachter, ce travail met au jour une manière « nouvelle et plus subtile d'influencer les opinions », que la loi n'a pas encore rattrapée. La question qui reste ouverte, selon elle, est de savoir qui — ou quoi — oriente réellement la conversation publique, et si quiconque est en mesure de le percevoir.