Surnommé Operation « Shadow Play », le réseau comprend 30 chaînes YouTube avec un total de 730 000 abonnés et 4 500 vidéos qui ont recueilli 120 millions de vues. L'opération utilise l'IA générative pour produire et publier rapidement du contenu, en tirant parti du système de recommandation algorithmique de YouTube. Les chaînes font la promotion croisée du contenu de chacune pour augmenter la visibilité.
L’enquête suggère que l’opération est probablement orchestrée par une entité parlant le mandarin, potentiellement une entité commerciale bénéficiant d’un certain niveau de direction de l’État. Cette découverte met en évidence l’évolution rapide des opérations d’influence avancées et les défis qu’elles posent aux mesures défensives.
Semblable à d'autres campagnes d'influence, l'opération « Shadow Play » utilise des réseaux coordonnés de comptes et de pages de médias sociaux non authentiques pour amplifier son message. Cependant, la législation actuelle ne traite pas de manière adéquate les campagnes d’influence transfrontalières, la plupart des réglementations en matière de protection des consommateurs et de publicité se concentrant sur les parrainages commerciaux plutôt que sur les conflits d’intérêts géopolitiques.
Pour lutter contre les contenus trompeurs, les téléspectateurs avertis peuvent prendre en compte des facteurs tels que l'identité et les antécédents des créateurs, le ton et l'objectif du contenu, ainsi que les signaux de crédibilité provenant de sources établies. Cependant, à mesure que la technologie de l’IA progresse, la portée et la précision des opérations d’influence coordonnées pourraient augmenter de façon exponentielle si des garanties éthiques ne sont pas mises en œuvre.
Ces opérations pourraient aller au-delà de la formation de récits et d’opinions et être utilisées pour générer du contenu textuel, audio et image hyperréaliste visant à radicaliser les individus.
Sans un cadre éthique ou de surveillance de la modération des contenus et des algorithmes de recommandation, les plateformes sociales pourraient devenir des méga-amplificateurs de désinformation qui sapent la cohésion sociale, les élections et les institutions démocratiques. La mise en place d’une surveillance externe est cruciale pour garantir que les plateformes de médias sociaux servent le bien commun plutôt que le profit à court terme.