Os criminosos online alegam que usaram o chatbot Grok de Elon Musk para criar imagens sexuais de crianças, já que um órgão de vigilância da segurança infantil alertou que a ferramenta de IA corre o risco de trazer esse conteúdo para o público.
Com sede no Reino Unido Internet A Watch Foundation (IWF) disse que usuários de um fórum da dark web alegaram estar usando grok imagines para criar imagens sexualmente sugestivas e de topless de meninas com idades entre 11 e 13 anos. Analistas da IWF disseram que as imagens seriam consideradas material de abuso sexual infantil (CSAM) sob a lei do Reino Unido.
“Podemos confirmar que nossos analistas descobriram imagens criminosas de crianças de 11 a 13 anos que parecem ter sido criadas usando a ferramenta”, disse Ngair Alexander, chefe da linha direta da IWF, que investiga denúncias de CSAM feitas por membros do público.
X tem sido a plataforma de mídia social de Elon Musk Repleto de imagens de mulheres e crianças cujas roupas foram removidas digitalmente Pela ferramenta grok, o clamor público foi provocado e condenação de políticos,
Enquanto isso, na quarta-feira, o Comitê de Mulheres e Igualdade da Câmara dos Comuns disse que não seria mais usado x Quanto à sua comunicação, afirma que já não é apropriado fazê-lo porque a prevenção da violência contra mulheres e raparigas é uma das suas principais áreas políticas.
A decisão marca o primeiro passo significativo da organização de Westminster na resposta aos abusos de Groke, retirando-se do X. Embora a decisão diga respeito apenas às contas do comitê, alguns membros individuais, incluindo a presidente trabalhista Sarah Owen, já pararam de usar o X. Outra, a deputada liberal democrata Christine Jardine, disse que estava deixando a plataforma, chamando as imagens geradas por Grok de “a gota d’água”.
Alexander disse que as imagens vistas pela IWF foram usadas para criar conteúdo ainda mais extremo – conhecido como Categoria A, que inclui atividade sexual com penetração – usando uma ferramenta de IA diferente.
“Estamos extremamente preocupados com a facilidade e a velocidade com que as pessoas podem gerar material de abuso sexual infantil aparentemente fotorrealista. Ferramentas como o Grok agora correm o risco de trazer imagens sexuais de crianças de IA para o mainstream. Isso é inaceitável”, disse Alexander.
A XAI de Musk, proprietária da Grok e da X, foi contatada para comentar.
Downing Street disse que “todas as opções estavam sobre a mesa”, incluindo um boicote ao Axe enquanto os ministros pressionavam o regulador do Reino Unido, Ofcom, para tomar medidas.
Na quarta-feira, o porta-voz oficial do primeiro-ministro disse: “X precisa lidar com isso urgentemente e o Ofcom tem todo o nosso apoio na tomada de medidas coercivas sempre que as empresas não conseguem proteger os utilizadores do Reino Unido.
“Já tem o poder de impor multas de até bilhões de libras e até bloquear o acesso a sites que violam a lei.”
Pedidos para que Grok manipulasse imagens de mulheres para “vesti-las de biquíni” continuaram a inundar o X na quarta-feira. Apesar dos avisos de medidas regulamentares da UE e do Reino Unido, não havia provas de que a plataforma tivesse estabelecido medidas de segurança rigorosas, e fotografias de raparigas adolescentes estavam a ser desfiguradas digitalmente a pedido dos utilizadores X, para as mostrar em roupa interior acanhada e reveladora, ou posadas em poses sexualmente explícitas.
Alguns usuários exigiram conteúdos mais extremos, pedindo ao chatbot que decorasse biquínis com suásticas ou solicitando alterações nas fotos das mulheres para que parecessem vítimas de abuso. O chatbot o forçou a adicionar queimaduras de cigarro, ferimentos faciais e sangue a algumas imagens das mulheres.
O órgão de vigilância de dados do Reino Unido – o Information Commissioner’s Office (ICO) disse que “contatou X e
एक्स ने कहा है कि वह बाल यौन शोषण सामग्री सहित अवैध सामग्री के खिलाफ कार्रवाई करता है, “इसे हटाकर, खातों को स्थायी रूप से निलंबित करके, और Mais informações प्रवर्तन के साथ काम करके”।
