LONDRES – Numa visão distópica da capital britânica gerada por IA, o Big Ben de Londres está coberto de pichações árabes, fumegando em cima de uma pilha de lixo, e retrata multidões vestidas com trajes islâmicos tradicionais.
Os líderes e políticos da extrema-direita estão a utilizar imagens como esta, que reimaginam cidades europeias transformadas pela imigração, para promover opiniões racistas, sugerindo falsamente que a IA está a prever objectivamente o futuro.
Especialistas disseram à AFP que, apesar das barreiras destinadas a bloquear conteúdos nocivos, vídeos que mostram imigrantes “substituindo” pessoas brancas podem ser criados rapidamente usando chatbots populares.
“As ferramentas de IA estão sendo mal utilizadas para visualizar e difundir o discurso extremista”, disse à AFP Imran Ahmed, CEO do Centro de Vigilância do Ódio Digital.
Em junho, o líder britânico de extrema direita Tommy Robinson republicou o vídeo “London 2050” no X, onde recebeu mais de 500.000 visualizações.
Um espectador respondeu: “A Europa como um todo está condenada”.
Robinson, que publicou vídeos semelhantes sobre IA para Nova Iorque, Milão e Bruxelas, liderou a maior marcha de extrema-direita no centro de Londres em muitos anos, em Setembro, quando cerca de 150 mil pessoas se manifestaram contra a imigração.
Um vídeo gerado por IA de Londres em declínio, compartilhado na conta do site de mídia social X do ativista britânico de extrema direita Tommy Robinson (nome verdadeiro Stephen Yaxley-Lennon) em 10 de outubro de 2025. Visto em um smartphone em Londres em 10 de outubro de 2025.
Foto: AFP
“Os sistemas de moderação que impedem a criação e o compartilhamento deste conteúdo estão falhando consistentemente em todas as plataformas”, disse Ahmed, do Centro de Combate ao Ódio Digital.
Ele nomeou a X Company, de propriedade do bilionário da tecnologia Elon Musk, como uma “empresa muito poderosa que amplifica o ódio e a desinformação”.
O TikTok baniu a conta do criador do vídeo que Robinson postou. A plataforma afirma que proíbe contas que promovam repetidamente ideologias de ódio, incluindo teorias da conspiração.
Mas os vídeos acumularam milhões de visualizações nas redes sociais e foram republicados pelo nacionalista radical austríaco Martin Sellner e pelo parlamentar belga de direita Sam van Rooy, entre outros.
Em abril, a legisladora italiana Silvia Sardone, do partido populista de direita Lega, publicou um vídeo distópico de Milão no Facebook, perguntando: “Queremos realmente este futuro?”
O Partido da Liberdade do líder holandês de extrema direita Geert Wilders lançou um vídeo de IA intitulado “Holanda em 2050” de mulheres usando lenços de cabeça muçulmanos em preparação para as eleições de outubro.
Ele prevê que até lá o Islão será a maior religião nos Países Baixos, apesar de apenas 6% da população ser muçulmana.
Beatriz López Buarque, acadêmica da London School of Economics que estuda política digital e teorias da conspiração, disse que esses vídeos amplificam “estereótipos prejudiciais que podem incitar à violência”.
“A radicalização em massa facilitada pela IA está a piorar”, disse ela à AFP.
O criador do vídeo republicado por Robinson, usando um pseudônimo, oferece um curso pago que ensina as pessoas a criar seus próprios clipes de IA, sugerindo que “teorias da conspiração” seriam um “ótimo” tópico que atrairia cliques.
“O problema é que vivemos agora numa sociedade onde o ódio é altamente lucrativo”, disse Buarque.
Os criadores de vídeos racistas parecem estar baseados em países tão diversos como a Grécia e o Reino Unido, embora as suas localizações estejam ocultas.
O vídeo deles é “uma representação visual do grande deslocamento das teorias da conspiração”, disse Buarque.
Esta teoria, popularizada por um autor francês, afirma que as elites ocidentais são cúmplices no extermínio das populações locais e na sua “substituição” por imigrantes.
“Esta teoria da conspiração em particular tem sido frequentemente citada como justificação para ataques terroristas”, disse Bouarque.
Datas redondas como 2050 também aparecem em teorias de conspiração semelhantes de “genocídio branco” que incluem elementos antissemitas, acrescentou ela.
Os repórteres digitais da AFP na Europa pediram ao ChatGPT, GROK, Gemini e VEO 3 que mostrassem Londres e outras cidades em 2050 e descobriram que isso produziu uma imagem amplamente positiva.
Mas os especialistas dizem que os chatbots podem ser facilmente induzidos a criar imagens racistas.
Salvatore Romano, chefe de pesquisa da AI Forensics, disse que nenhuma moderação é “100% precisa”.
“Isso abre espaço para que atores mal-intencionados abusem dos chatbots para criar imagens que pareçam ser sobre imigração.”
Mark Owen-Jones, um estudioso especializado em desinformação no campus da Northwestern University no Qatar, disse que o ChatGPT se recusa a apresentar grupos étnicos de uma “forma degradante, estereotipada ou desumanizante”.
Mas concordaram em visualizar uma “Londres sombria, diversa e de sobrevivência” e torná-la “mais inclusiva, incluindo mesquitas”.
A imagem final mostra um grupo de homens barbudos e esfarrapados remando no rio Tâmisa, repleto de lixo, com uma mesquita dominando o horizonte.
A AFP, juntamente com mais de 100 outras organizações de verificação de factos, é paga pela Meta, empresa-mãe do TikTok e do Facebook, para verificar vídeos que possam conter informações falsas. AFP
