WASHINGTON – À medida que os vídeos deepfake de John Mearsheimer proliferam no YouTube, os académicos norte-americanos apressam-se a removê-los e embarcam numa batalha árdua para destacar os desafios do combate à falsificação de identidade baseada na IA.
O estudioso de relações internacionais passou meses removendo centenas de deepfakes da plataforma de propriedade do Google, uma batalha difícil que serve como um alerta para profissionais vulneráveis à desinformação e ao roubo de identidade na era da IA.
Nos últimos meses, o escritório de Mearsheimer na Universidade de Chicago identificou 43 canais do YouTube que usam a sua imagem para promover boatos sobre IA, incluindo representações de Mearsheimer fazendo declarações controversas sobre a escalada das tensões geopolíticas.
Um dos clipes fabricados, também publicado no TikTok, mostrava um acadêmico comentando sobre a tensa relação do Japão com a China depois que a primeira-ministra Sanae Takaichi expressou apoio a Taiwan em novembro de 2025.
Outro clipe realista de IA com narração em mandarim dirigido ao público chinês supostamente mostra Mearsheimer argumentando que a ascensão da China está enfraquecendo a credibilidade e a influência dos EUA na Ásia.
“Esta é uma situação muito preocupante porque estes vídeos são falsos e concebidos para dar aos espectadores a sensação de serem reais”, disse Mearsheimer à AFP.
“Isso mina o conceito de debate aberto e honesto que tanto precisamos e que o YouTube deveria promover.”
A batalha, descrita pelo escritório de Mearsheimer, centrou-se num processo lento e complicado que impedia que os canais fossem denunciados como infratores, a menos que o título, a descrição ou o avatar incluíssem o nome ou a imagem do indivíduo visado.
Como resultado, seu escritório foi forçado a registrar pedidos de remoção de cada vídeo deepfake individualmente, um processo árduo que exigia um funcionário dedicado.
Ainda assim, o sistema não conseguiu impedir a propagação. Novos canais de IA continuam a surgir, alguns com nomes ligeiramente alterados (por exemplo, autodenominando-se John Mearsheimer) para evitar escrutínio e remoção.
“O maior problema é que eles (YouTube) não impediram o surgimento de novos canais dedicados a postar meus vídeos gerados por IA”, disse Mearsheimer.
Depois de meses de idas e vindas no que Mearsheimer descreveu como um esforço “hercúleo”, o YouTube fechou 41 dos 43 canais identificados.
No entanto, as remoções só ocorreram depois que muitos clipes deepfake ganharam atenção significativa, e o risco de seu ressurgimento ainda permanece.
“A IA ampliará a própria fabricação. Quando alguém consegue gerar uma imagem convincente de você em segundos, o dano não é apenas essa imagem. É a quebra da negação. O ônus da prova recai sobre a vítima”, disse Bered Horesh, da startup de IA Bria, à AFP.
“A segurança não pode ser um processo de desmontagem. A segurança deve ser um requisito do produto.”
Em resposta, um porta-voz do YouTube disse que a empresa está comprometida em construir “tecnologia de IA que potencialize a criatividade humana de forma responsável” e que aplique “consistentemente” suas políticas para todos os criadores, independentemente do uso de IA.
Em uma carta anual recente descrevendo as prioridades do YouTube para 2026, o CEO Neil Mohan disse que a plataforma estava “construindo agressivamente” sistemas para reduzir a disseminação de “resíduos de IA” ou conteúdo visual de baixa qualidade, ao mesmo tempo que planejava expandir drasticamente suas ferramentas de IA para criadores.
A experiência de Mearsheimer destaca uma nova Internet enganosa, onde os rápidos avanços na IA generativa estão a distorcer a realidade partilhada e a capacitar os fraudadores anónimos para visarem profissionais com perfis públicos.
Hoaxes criados com ferramentas baratas de IA muitas vezes podem escapar da detecção e enganar espectadores desavisados.
Nos últimos meses, os médicos fizeram-se passar por si próprios para vender produtos médicos falsos, os CEO venderam conselhos financeiros fraudulentos e os académicos fabricaram opiniões para intervenientes orientados pela agenda em conflitos geopolíticos.
Mearsheimer disse que planeja iniciar seu próprio canal no YouTube para proteger os usuários de deepfakes que se fazem passar por eles.
Refletindo essa abordagem, o economista americano e professor da Universidade de Columbia, Jeffrey Sachs, anunciou recentemente o lançamento de seu próprio canal em resposta à “extraordinária prevalência de vídeos falsos meus gerados por IA” na plataforma.
“O processo do YouTube é difícil de navegar e, em geral, é completamente como bater em uma toupeira”, disse Sachs à AFP.
“As falsificações ainda prevalecem e não é fácil para o meu escritório localizá-las. E não é fácil sequer notá-las até que já existam há algum tempo. Esta é uma grande e contínua dor de cabeça”, acrescentou. AFP
