WASHINGTON – Os vídeos são surpreendentemente realistas, com mulheres vestidas de biquíni conduzindo entrevistas de rua e provocando comentários obscenos – mas são totalmente falsos, gerados por inteligência artificial (AI) Ferramentas cada vez mais usadas para inundar a mídia social com conteúdo sexista.
Tais AI Slop-Conteúdo produzido em massa criado por ferramentas de inteligência artificial baratas que transformam texto simples solicita visuais hiper-realistas-está frequentemente abalando postagens autênticas e embaçando a linha entre ficção e realidade.
A tendência gerou uma indústria caseira de influenciadores de IA produzindo grandes volumes de sexualizada Clipes com esforço mínimo, geralmente conduzido por incentivo da plataforma programas Isso recompensa financeiramente o conteúdo viral.
Hordas de clipes de AI, carregados de vestiário humorpretendendo mostrar as entrevistadoras com pouca roupa nas ruas da Índia ou do Reino Unido – provocando preocupação com o dano que esse conteúdo sintético pode representar para as mulheres.
Os verificadores de fatos da AFP rastrearam centenas desses vídeos no Instagram, muitos em hindi, que supostamente mostram os entrevistados masculinos, entregando casualmente punção misógina e sexualizada Comentários – Às vezes até agarrando as mulheres – enquanto multidões de homens olham ou riem no fundo.
Muitos vídeos acumularam dezenas de milhões de visualizações – e outros mais monetizado Essa tração promovendo um aplicativo de bate -papo adulto para “fazer novas amigas”.
Os clipes fabricados eram tão realistas que alguns usuários nos comentários questionaram se as mulheres em destaque eram reais.
Uma amostra desses vídeos analisado Pela empresa de segurança cibernética dos EUA, GetReal Security mostrou que eles foram criados usando o gerador AI VEO 3 do Google, conhecido por visuais hiper-realistas.
“A misoginia que geralmente ficava escondida em bate -papos e grupos no vestiário agora está sendo vestida como visual da IA”. disse o psicólogo cibernético Nirali Bhatia, com sede na Índia, para a AFP.
“Isso faz parte dos danos de gênero mediado pela IA”, disse ela, acrescentando que a tendência era “abastecimento sexismo ”.
A tendência oferece uma janela para um cenário da Internet agora cada vez mais inundado com memes, vídeos e imagens gerados pela IA que estão competindo por atenção com-e cada vez mais eclipsando-conteúdo autêntico.
“Ai Slop e qualquer tipo de não marcado O conteúdo gerado pela IA se afasta lentamente com a pequena confiança que permanece em conteúdo visual ”, disse Emmanuelle Saliba, da GetReal Security, à AFP.
O conteúdo misógino mais viral geralmente se baseia no valor de choque-incluindo clipes do Instagram e Tiktok que a revista Wired disse que foram gerados usando o VEO 3 e retratam as mulheres negras como primatas de pé grande.
Os vídeos em uma conta popular da Tiktok listam zombeteiras do que os chamados “Girls Gone Wild”, que não caíram em ouro.
As mulheres também são forrageiras para angustiar o clickbait, com os verificadores de fatos da AFP, rastreando vídeos virais de um treinador marinho falso chamado “Jessica Radcliffe” sendo fatalmente atacada por uma orca durante um show ao vivo em um parque aquático.
As imagens fabricadas se espalharam rapidamente por plataformas, incluindo Tiktok, Facebook e X, provocando indignação global de usuários que acreditavam que a mulher era real.
Em 2024Assim, Senhor Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Segurança da Cornell Tech, encontrou 900 contas do Instagram dos prováveis “modelos” gerados pela IA-predominantemente femininos e normalmente vestidos.
Esses precedentes de sede acumularam cumulativamente 13 milhões de seguidores e publicaram mais de 200.000 imagens, normalmente monetização Seu alcance redirecionando seu público para plataformas comerciais de compartilhamento de conteúdo.
Com a falsificação de IA proliferando on -line, “os números agora são, sem dúvida, muito maiores”. Senhor Mantzarlis disse à AFP.
“Espere mais conteúdo sem sentido, alavancando os padrões corporais que não são apenas irrealistas, mas literalmente irreais”, acrescentou.
Financeiramente incentivado A Slop está se tornando cada vez mais desafiadora para a polícia como criadores de conteúdo-incluindo estudantes e pais que ficam em casa em todo o mundo-recorrem à produção de vídeo da IA como trabalho de show.
Muitos criadores do YouTube e Tiktok oferecem cursos pagos sobre como monetise Material gerado por IA viral em plataformas, muitas das quais reduziram sua dependência de verificadores de fatos humanos e moderação de conteúdo reduzido.
Algumas plataformas procuraram reprimir as contas promovendo Slop, com o YouTube dizendo recentemente que criadores de “inautênticos” e “produzido em massa”O conteúdo seria inelegível para monetização.
“A IA não inventa a misoginia – ela apenas reflete e amplia o que já está lá”, disse o consultor da IA Divyendra Jadoun à AFP.
“Se o público recompensar esse tipo de conteúdo com milhões de curtidas, os algoritmos e os criadores da IA continuarão produzindo. A luta maior não é apenas tecnológica – é social e cultural”Ele acrescentou. AFP
