Califórnia As autoridades anunciaram uma investigação sobre a produção de Elon MuskGrok.
O principal advogado do estado disse groqueUma ferramenta de IA e gerador de imagens criado pela empresa xAI de Musk parece estar facilitando o assédio de mulheres e meninas com imagens deepfake no X e em outros lugares online.
“A enxurrada de relatórios nas últimas semanas detalhando material não consensual e sexualmente explícito produzido pela xAI e postado online é chocante”, Califórnia Rob Bonta, o procurador-geral, em comunicado. “Exorto a XAI a tomar medidas imediatas para garantir que esta situação não se agrave ainda mais.”
O escritório de Bonta está investigando se e como o xAI violou a lei estadual.
Em X, Governador da Califórnia Gavin Newsom Grok pediu uma investigação sobre “a repugnante disseminação de pornografia infantil neste site”.
Um tweet de sua conta oficial dizia: “A decisão da XAI de criar e hospedar um terreno fértil para predadores espalharem deepfakes de IA sexualmente explícitos e não consensuais, incluindo imagens digitalmente despidas de crianças, é abominável”.
No mesmo dia, Musk negou que Grok estivesse sendo usado para divulgar fotos nuas de menores. Ele escreveu no X: “Não tenho conhecimento de nenhuma imagem de menores nus feita por Grok. Praticamente zero.”
Há cerca de duas semanas, a própria ferramenta de IA disse ter gerado “imagens retratando menores com roupas mínimas” quando questionada pelos usuários.
Nas últimas semanas, disse Bonta, houve uma enxurrada de relatos de que usuários do Grok estão tirando fotos de mulheres ou crianças encontradas online e usando bots xAI para desarmá-las virtualmente.
De acordo com a Procuradoria-Geral da República, o modelo de criação de imagens de Grok apresenta xAI promovido como um “modo picante” para criação e edição de conteúdo sexual, incluindo imagens.
Na semana passada, uma análise de mais de 20.000 imagens geradas por Grok pela AI Forensics, uma organização sem fins lucrativos de Paris, descobriu que mais da metade representava “indivíduos com trajes mínimos” – a maioria mulheres, e 2% pareciam ter menos de 18 anos.
Segundo Bonta, as imagens geradas por Grok estão sendo usadas para assediar figuras públicas e também usuários específicos de redes sociais.
Três senadores democratas dos EUA pediram na semana passada que a Apple e o Google removessem os aplicativos de X e Grok de suas lojas de aplicativos em resposta à enxurrada de imagens sexuais. Ambos os gigantes da tecnologia permaneceram em silêncio em resposta.
xAI enfrentou uma reação global por causa de imagens eróticas falsas. A Indonésia tornou-se o primeiro país a bloquear completamente o acesso a Grok no sábado, seguida pela vizinha Malásia no domingo. A Índia disse no domingo que X removeu milhares de postagens e centenas de contas de usuários em resposta às suas reclamações.
O regulador de mídia britânico Ofcom disse na segunda-feira que estava iniciando uma investigação para saber se X não cumpriu a lei do Reino Unido sobre imagens sexuais. A comissária francesa para as crianças, Sarah L’Héry, disse na terça-feira que enviou as imagens que Grok produziu aos promotores franceses, ao regulador de mídia Arcom e. União Europeia.
A Comissão Europeia, que atua como vigilante digital da UE, ordenou que Axe retivesse todos os documentos e dados internos relacionados a Grok até o final de 2026 em resposta ao clamor.
