Quand l'IA sert à mettre en image la thèse du "grand remplacement"
Couverte de graffitis en arabe, Big Ben, la fameuse tour londonienne, émerge, fumante, au milieu d'un tas de déchets et d'une foule vêtue de robes musulmanes dans une vidéo dystopique générée par l'IA censée représenter la capitale britannique en 2050.
Ces clips, montrant des villes européennes imaginaires, radicalement transformées par une immigration massive, font le bonheur de dirigeants d'extrême droite qui les promeuvent sur les réseaux sociaux pour conforter la thèse complotiste du "grand remplacement".
De telles vidéos peuvent désormais être créées très rapidement en utilisant des chatbots populaires, malgré les garde-fous censés bloquer les contenus nuisibles, expliquent des experts à l'AFP.
"Les outils d'intelligence artificielle sont exploités pour mettre en images et diffuser des récits extrémistes", met ainsi en garde à l'AFP Imran Ahmed, du Centre de lutte contre la haine numérique.
Le dirigeant d'extrême droite britannique Tommy Robinson a ainsi republié en juin la vidéo de "Londres en 2050" sur X, récoltant plus d'un demi-million de vues.
Robinson — qui a publié des vidéos similaires générées par IA sur New York, Milan et Bruxelles — a organisé en septembre la plus grande marche d'extrême droite dans le centre de Londres depuis de nombreuses années, avec plus de 110.000 personnes manifestant contre l'immigration.
"Les systèmes de modération échouent systématiquement sur toutes les plateformes à empêcher la création et le partage de ces contenus", s'inquiète l'expert du Centre de lutte contre la haine numérique.
TikTok a pourtant interdit le compte créateur des vidéos postées par Robinson. La plateforme assure interdire les comptes qui promeuvent de manière répétée des idéologies haineuses, y compris des théories du complot.
'Stéréotypes nuisibles'
Mais cela n'a pas empêché de de telles vidéos, repostées aussi bien par le nationaliste radical autrichien Martin Sellner que par le parlementaire belge de droite Sam Van Rooy, d'accumuler des millions de vues sur les réseaux sociaux.
La députée européenne italienne Silvia Sardone, du parti populiste de droite Lega, a publié en avril une vidéo dystopique de Milan sur Facebook, demandant si "nous voulons vraiment de ce futur".
Le Parti pour la Liberté du leader d'extrême droite néerlandais Geert Wilders a diffusé une vidéo générée par IA de femmes portant des foulards musulmans pour les élections d'octobre intitulée "Pays-Bas en 2050".
Il a prédit que l'islam serait la première religion des Pays-Bas à cette date, bien que seulement six pour cent de la population s'identifient comme musulmans.
De telles vidéos amplifient "les stéréotypes nuisibles qui peuvent alimenter la violence", analyse pour l'AFP Beatriz Lopes Buarque, une universitaire de la London School of Economics qui mène des recherches sur la politique numérique et les théories du complot.
"La radicalisation massive facilitée par l'IA s'aggrave", estime-t-elle.
'Haine rentable'
"Le problème, c'est qu'aujourd'hui nous vivons dans une société où la haine est très rentable", prévient Beatriz Lopes Buarque.
Utilisant un pseudonyme, le créateur des vidéos repostées par Tommy Robinson propose des cours payants pour enseigner aux gens comment créer leurs propres clips IA, en suggérant que "les théories du complot" constituent un "excellent" sujet pour attirer des clics.
La thèse du "grand remplacement" supposé de la population européenne par une population immigrée avec la complicité des élites a été popularisée par l'écrivain français d'extrême droite Renaud Camus.
Pour tester les outils IA, des journalistes de l'AFP ont demandé à ChatGPT, GROK, Gemini et VEO 3 de montrer Londres et d'autres villes en 2050, et ont constaté que cela générait généralement des images plutôt positives.
Mais les experts interrogés par l'AFP ont souligné que les chatbots pouvaient être facilement guidés pour créer des images racistes.
Aucun ne dispose d'une modération "100 % précise", avertit Salvatore Romano, chef de la recherche chez AI Forensics.
"Cela laisse de l'espace aux acteurs malveillants pour exploiter les chatbots afin de produire des images comme celles sur les migrants", ajoute-t-il.
L'AFP, comme une centaine d'autres organisations de vérification des faits, est rémunérée par TikTok et Meta, la maison mère de Facebook, pour vérifier des vidéos susceptibles de contenir de fausses informations.
