O secretário de tecnologia do Reino Unido disse que uma onda de imagens de mulheres e crianças com roupas despojadas digitalmente foi gerada por Elon Musk Grok IA “Horrível e inaceitável numa sociedade civilizada”.
Depois que milhares de deepfakes íntimos circularam online, Liz Kendall Plataforma de mídia social de Musk
“Não podemos e não permitiremos a propagação destas imagens degradantes e humilhantes, que são desproporcionalmente dirigidas a mulheres e raparigas”, disse ela. “Não se engane, o Reino Unido não tolerará a propagação interminável de conteúdo odioso e ofensivo online. Devemos todos nos unir para acabar com isso.”
Os seus comentários surgiram no meio de avisos de que a Lei de Segurança Online, que visa combater os danos online e proteger as crianças, precisa de ser urgentemente reforçada, apesar da pressão da administração Trump.
Um especialista criticou o “jogo de tênis” entre plataformas como x E os reguladores do Reino Unido consideraram a resposta do governo “preocupantemente lenta” quando surgiram problemas.
A sobrevivente de abuso sexual infantil, Jessalyn Kane, chamou a resposta do governo de “covarde” e disse ao Guardian que na manhã de terça-feira o chatbot ainda estava acompanhando pedidos para manipular uma imagem dela como uma menina de três anos para fazê-la parecer estar usando um biquíni. Pedidos semelhantes que ele fez ao ChatGPT e ao Gemini foram rejeitados.
“Outras plataformas possuem essas medidas de segurança, então por que Grok permite a criação dessas imagens?” Ele disse. “As imagens que vi são nojentas e ultrajantes. O governo tem sido muito reativo. Estas ferramentas de IA precisam de melhor regulamentação.”
Na segunda-feira, o Ofcom disse estar ciente das sérias preocupações levantadas sobre a produção de fotos de pessoas nuas e imagens sexualmente explícitas de crianças por Grok. Afirmou que contactou X e XAI “para compreender quais as medidas que tomaram para cumprir os seus deveres legais de proteção dos utilizadores no Reino Unido” e que avaliaria a necessidade de uma investigação com base na resposta da empresa.
A pressão sobre os ministros para adoptarem uma postura dura está a aumentar. O colega do Crossbench e ativista de proteção infantil online, Beebon Kidron, instou o governo a “mostrar alguma coragem” e pediu que o regime da Lei de Proteção Online fosse “reavaliado para que seja mais rápido e tenha mais força”.
Falando sobre X, ele disse: “Se qualquer outro produto de consumo tivesse causado esse nível de dano, já teria sido retirado”.
Ele disse que o Ofcom precisava agir “em dias, não em anos” e apelou aos usuários para “ficarem longe de produtos que não demonstrem nenhuma intenção séria de prevenir danos às crianças, às mulheres e à democracia”.
A Ofcom tem o poder de multar plataformas de tecnologia em até £ 18 milhões ou 10% de sua receita global elegível, o que for maior. A maior multa já imposta foi no mês passado, quando um fornecedor de pornografia não realizou verificações obrigatórias de idade Multado em £ 1 milhão,
No mês passado, os ministros prometeram novas leis para proibir ferramentas de “nudificação”, que utilizam IA generativa para transformar imagens de pessoas reais em fotos e vídeos falsos de nudez sem a sua permissão. Não está claro quando essa proibição será implementada.
Sarah Smith, líder de inovação da Lucy Faithfull Foundation, uma instituição de caridade que trabalha para prevenir o abuso infantil, apelou a X para desativar imediatamente os recursos de edição de imagens de Grok “a menos que sejam implementadas salvaguardas mais fortes para evitar que isso aconteça novamente”.
Axe não respondeu a um pedido de comentário sobre os comentários de Kendall. A empresa disse na segunda-feira: “Tomamos medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual infantil, removendo-o, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário”.
Jake Moore, consultor global de segurança cibernética da empresa de software de segurança ESET, criticou o “jogo de tênis” entre plataformas como X e os reguladores do Reino Unido e chamou a resposta do governo de “preocupantemente lenta”.
Ele disse que à medida que a IA permite cada vez mais que imagens falsas sejam apresentadas como vídeos longos, as consequências na vida das pessoas serão ainda piores.
“É incrível que isso seja capaz de acontecer em 2026”, disse ele. “Temos que avançar com uma regulamentação excessiva. Quaisquer áreas cinzentas que introduzirmos serão alvo de abusos. O governo não está a compreender o panorama geral aqui.”
Já é ilegal criar ou compartilhar fotos íntimas não consensuais ou material de abuso sexual infantil, incluindo deepfakes sexuais criados com IA. Imagens falsas de pessoas de biquíni podem ser qualificadas como imagens íntimas Definição A lei abrange uma pessoa cujos seios, nádegas ou órgãos genitais estão nus ou cujas partes do corpo estão cobertas apenas por roupa interior. imagens indecentes incluir Que retratam crianças em poses sensuais sem atividade sexual.
Lady Kidron disse que fotos de crianças de biquíni geradas por IA podem não ser material de abuso sexual infantil, mas são desrespeitosas à privacidade e à agência das crianças.
“Não podemos viver num mundo onde uma criança não possa publicar uma fotografia de vitória numa corrida, a menos que esteja disposta a ser explorada sexualmente e humilhada”, disse ela.
