A startup de inteligência artificial de Elon Musk, xAI, sob investigação O procurador-geral da Califórnia, Rob Bonter, está atrás do chatbot Grok é usado para gerar Milhares de imagens sexuais de crianças e mulheres sem o seu consentimento.
Bonta anunciou a investigação na quarta-feira, chamando de “chocante” a recente onda de material questionável e sexualmente explícito produzido por Grock.
“Este material, que retrata mulheres e crianças nuas e em posições sexualmente explícitas, tem sido usado para assediar pessoas na Internet.“Bonta disse em um comunicado. “Exorto a xAI a tomar medidas imediatas para que isso não aconteça novamente. Temos tolerância zero para a criação e promoção de imagens íntimas não consensuais baseadas em IA ou conteúdo de abuso sexual infantil.”
Enquanto isso vem a investigação Monte Fúria A produção de Grok, especialmente sobre representações sexuais de mulheres e crianças de sua geração. Em alguns casos, os chatbots permitem aos utilizadores despir virtualmente menores, De acordo com pesquisas Pela Internet Watch Foundation.
Escritório florestal Ele apontou para o relatório mostra que Grok pode tirar fotos comuns de mulheres e crianças encontradas online e, quando solicitado, alterá-las usando roupas íntimas ou biquínis, posando sugestivamente ou retratando-as envolvidas em atividades sexuais. Nenhuma das pessoas na foto deu consentimento.
Relacionado | A equipe Trump emitiu ameaças malucas contra o Reino Unido por causa da terrível IA de Elon Musk
Bonta diz que o sistema de geração de imagens de Grok possui um “modo picante” projetado para produzir conteúdo explícito e promovido por xAI – o que contribui para o dilúvio de conteúdo sexual.
Uma análise citada por seu escritório descobriu que Grok criou mais de 10 mil imagens entre o Natal e o Ano Novo mostrando pessoas com roupas mínimas, algumas das quais pareciam ser crianças.
Governador da Califórnia, Gavin Newsom apoiado publicamente Na investigação, Musk’s X escreveu que “a decisão da xAI de criar e hospedar um terreno fértil para professores espalharem deepfakes sexualizados não consensuais de IA, incluindo imagens que despem crianças digitalmente, é abominável”.
A ação contra a xAI ocorre no momento em que a empresa enfrenta um escrutínio crescente no exterior. Autoridades na Índia, Malásia, Indonésia, Irlanda e Austrália Ação tomada, Com a Malásia e a Indonésia Já suspenso Use Grok até que o problema seja resolvido.
Comissão Europeia Há também abriu sua própria investigaçãoe o regulador de comunicações da Grã-Bretanha, Ofcom, Confirmado que está investigando Grok sobre preocupações semelhantes.
Enquanto isso, a administração Trump sinalizou que poderia tomar medidas em nome de Musk, com um funcionário do Departamento de Estado alertando na terça-feira que “nada está fora de questão” se o Reino Unido proibir X por violar as leis de segurança online do país.
Musk, por sua vez, negou as acusações. Quando a notícia da investigação na Califórnia foi divulgada, ele Postado em X que ele “não tinha conhecimento de nenhuma imagem menor de nudez produzida por Grok. Literalmente zero”.
“Quando solicitado a criar uma imagem, ele se recusará a criar qualquer coisa ilegal, pois a política operacional da Grok é cumprir as leis de qualquer país ou estado”, acrescentou.
O resultado é uma conta crescente para o chatbot de Musk – não apenas no exterior, mas também em casa
