O ex de Elon Musk foi ordenado pelo governo do Reino Unido a enfrentar uma onda de imagens pornográficas de IA ou enfrentará uma proibição real, já que um especialista disse que a plataforma não é mais um “espaço seguro” para mulheres.
O órgão de vigilância da mídia, Ofcom, confirmou que acelerará sua investigação sobre o assunto. x À medida que crescia a reação contra o site, que desencadeou uma enxurrada de imagens retratando mulheres e crianças parcialmente nuas.
Axe anunciou a proibição da criação de imagens por meio da ferramenta Grok AI na manhã de sexta-feira em resposta a um clamor global. Uma postagem na plataforma dizia que a capacidade de gerar e editar imagens Agora ficará “restrito a clientes pagantes”Quem paga deve fornecer dados pessoais, para que possam ser identificados em caso de abuso da função,
No entanto, a medida não conseguiu acalmar a raiva e aprofundou a reacção das vítimas, políticos e especialistas que afirmaram que a medida não foi suficientemente longe.
Claire Waxman, a nova comissária do governo para as vítimas do crime, disse que a plataforma estava a dificultar os esforços para combater a violência contra mulheres e raparigas. Enquanto isso, Downing Street disse que a tentativa de Axe de minimizar a controvérsia, permitindo apenas que usuários pagos gerassem imagens de IA, era um insulto.
Waxman disse ao Guardian que X já não é um espaço seguro para as vítimas e que o seu escritório está a considerar reduzir a sua presença no site e concentrar as suas comunicações no Instagram.
“Isso torna a luta contra a violência contra mulheres e meninas muito mais difícil quando plataformas como X permitem o abuso de forma tão fácil e rotineira”, disse Waxman. Ele disse que a plataforma estava tendo um impacto negativo na saúde mental de seus usuários devido à disseminação da violência, do abuso e do ódio racial.
Grok foi integrado em
Com um número crescente de deputados e organizações fugindo do X, a secretária de Tecnologia, Liz Kendall, prometeu na sexta-feira que os ministros estão considerando seriamente a possibilidade de restringir o acesso ao X no Reino Unido.
Kendall disse esperar que o Ofcom, que disse esta semana estar exigindo respostas imediatas da plataforma, anuncie ações dentro de “dias, em vez de semanas”.
“X precisa se controlar e baixar essas coisas”, disse ela. “E eu gostaria de lembrá-los que na Lei de Segurança Online, existem poderes de apoio para as pessoas no Reino Unido bloquearem o acesso aos serviços se se recusarem a seguir a lei. E se o Ofcom decidir usar esses poderes, eles terão o apoio total do governo.
Em comunicado, o Ofcom disse que entrou em contato com Axe na segunda-feira e estabeleceu um “prazo firme” de sexta-feira para o site se explicar, acrescentando: “Estamos agora realizando uma avaliação rápida com urgência e forneceremos mais atualizações em breve”.
De acordo com a Lei de Segurança Online, o regulador pode forçar as plataformas a lidar com esse tipo de conteúdo e emitir multas de vários milhões de libras por falta de conformidade, sendo a sanção final uma ordem judicial para que os provedores da web bloqueiem totalmente um site ou aplicativo.
X foi contatado para comentar. Musk já havia enfatizado que “qualquer pessoa que use Grok para criar conteúdo ilegal enfrentará as mesmas consequências como se tivesse carregado conteúdo ilegal”.
Musk respondeu à postagem de um usuário X sobre a ameaça do governo do Reino Unido, dizendo: “Eles querem qualquer desculpa para a censura”.
A pressão aumentou sobre os ministros nos últimos dias para que tomem medidas sobre o grande número de imagens geradas pelo Grok, seguindo uma solicitação de um usuário no X. Manipular imagens de mulheres e às vezes de crianças Tirar a roupa ou fazê-los sentar em posição sexual. X tem cerca de 300 milhões de usuários mensais, segundo a empresa de dados SimilarWeb. A empresa norte-americana AppFigure estima o número de clientes pagantes X entre 2,2 milhões e 2,6 milhões.
Questionado sobre a mudança em quem pode criar imagens no X, um porta-voz de Downing Street disse que era inaceitável. “Essa mudança simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium”, disse ele.
“Isto não é uma solução. Na verdade, é misoginia e um insulto às vítimas de violência sexual. Prova que
Vítimas da mania da IA, que envolvia o uso de Grok para fotografar mulheres de biquíni em grande escala, disseram ao Guardian que a redução parcial chegou tarde demais.
Karolina Wozniak, 20 anos, de Hamburgo, que manipulou imagens pessoais para aparecer em posições sexualmente censuráveis, disse achar “terrível” que fotos suas parcialmente vestidas ainda possam circular online. Ela acrescentou: “Essa coisa toda é uma enorme ameaça para as mulheres. Não deveríamos ter medo de compartilhar nossas fotos online”.
O locutor Narinder Kaur, 53, que criou conteúdo sexualmente explícito e racialmente ofensivo usando Grok e o compartilhou no X, disse que a nova proibição de criação de imagens não é uma vitória.
“Como vítimas deste abuso, parece que aqueles que pagaram pelo Premium
Embora fontes governamentais digam que todas as opções estão sobre a mesa, incluindo a saída do departamento e da plataforma de Downing Street, em particular, os assessores do primeiro-ministro rejeitaram a ideia de saída de Axe, dizendo que é mais provável que ele obtenha mudanças nos negócios de Musk por meio da pressão pública e do Ofcom.
No entanto, um número crescente de deputados migrou para outros sites de redes sociais. A presidente do Partido Trabalhista, Anna Turley, disse à BBC na sexta-feira que, embora nenhuma ação tenha sido tomada pelo governo para abandonar o Machado, ministros individuais estavam considerando fazê-lo.
Os Liberais Democratas apelaram ao Ofcom para impedir imediatamente a operação de X no Reino Unido e para que a Agência Nacional do Crime iniciasse uma investigação criminal sobre o site.
Houve um êxodo de organizações do setor de mulheres de X. A instituição de caridade contra abusos domésticos Refuge deixou o local, assim como a Women’s Aid Ireland. O Apoio à Vítima, que deixou o X em abril, disse que “não era mais o lugar certo para se comunicar com o nosso público”.
Pedidos para “colocá-la de biquíni” de assinantes não pagantes no X na sexta-feira geraram uma resposta da conta Grok de que “a criação e edição de imagens estão atualmente limitadas a assinantes pagantes”. Mas o chatbot também se recusava a gerar certas imagens eróticas de mulheres de biquíni em resposta a pedidos de clientes premium.
Um cliente pagante cujo pedido original de que a foto de uma mulher de 55 anos de biquíni fosse substituída foi ignorado: “@GrokCompliance, sou um cliente pagante”. O chatbot respondeu com a imagem de uma mulher diferente, muito mais jovem, de biquíni.
Embora os pedidos para colocar mulheres de biquíni já não fossem atendidos rotineiramente, o chatbot ainda aceitava pedidos de clientes pagos para colocar fotos de homens de biquíni. O pedido de Keir Starmer para usar um biquíni Union Jack fora do Palácio de Buckingham foi atendido.
Os pesquisadores disseram que no aplicativo Grok, onde o conteúdo não é imediatamente visível para outros usuários da Internet, o chatbot ainda gerava imagens instantâneas de mulheres e crianças de biquíni.
