De acordo com os pesquisadores, a Grok AI criou quase 3 milhões de imagens sexualmente explícitas no início deste mês, das quais 23 mil pareciam representar crianças, com os pesquisadores dizendo que “se tornou uma máquina em escala industrial para a produção de material de exploração sexual”.
adivinhar Foi criado pelo Centro de Combate ao Ódio Digital (CCDH) depois que a ferramenta de geração de imagens de IA de Elon Musk provocou indignação internacional quando permitiu aos usuários fazer upload de fotos de estranhos e celebridades, despi-los digitalmente até ficarem com roupas íntimas ou biquínis, colocá-los em poses provocantes e publicá-los no X.
A tendência tornou-se viral no novo ano, atingindo o pico em 2 de janeiro, com 199.612 pedidos individuais, de acordo com uma análise realizada pela Peryton Intelligence, uma empresa de inteligência digital especializada em ódio online.
Uma avaliação completa do resultado do recurso desde o seu lançamento em 29 de dezembro de 2025 até 8 de janeiro de 2026 foi agora conduzida pela CCDH. Isto sugere que o impacto da tecnologia pode ser mais difundido do que se pensava anteriormente. As figuras públicas identificadas nas imagens sexualmente explícitas na sua análise incluem Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown, o vice-primeiro-ministro sueco, Abba Bush, e a ex-vice-presidente dos EUA Kamala Harris.
A especialidade era Limitado a usuários pagos Outras restrições foram impostas em 9 de janeiro e depois que o primeiro-ministro Keir Starmer chamou a situação de “nojenta” e “vergonhosa”. Outros países, incluindo a Indonésia e a Malásia, anunciaram proibições de ferramentas de IA.
A CCDH estimou que durante um período de 11 dias, Grok fez imagens sexuais de crianças a cada 41 segundos. Isso incluía uma selfie enviada por uma estudante posando nua por Grok, que substituiu a “selfie antes da escola” por uma imagem dela de biquíni.
O presidente-executivo da CCDH, Imran Ahmed, disse: “O que descobrimos foi claro e perturbador: durante esse período, Grok se tornou uma máquina em escala industrial para a produção de material de exploração sexual”. “Tirar a roupa de uma mulher sem a permissão dela é exploração sexual. Durante esse período, Elon promoveu o produto mesmo quando era óbvio para o mundo que ele estava sendo usado dessa forma. O que Elon estava gerando era controvérsia, atenção, engajamento e usuários. Foi muito perturbador.”
Ele acrescentou: “Isso se tornou um manual padrão para o Vale do Silício, e especialmente para mídias sociais e plataformas de IA. Todos os incentivos estão desalinhados. Eles se beneficiam dessa indignação. Não se trata de Musk pessoalmente. Trata-se de um sistema (que) tem incentivos perversos e nenhuma salvaguarda mínima estabelecida em lei. E até que os reguladores e legisladores façam seu trabalho e criem uma expectativa mínima de salvaguardas, isso continuará a acontecer.”
X anunciou isso encerrar suas instalações grok Desde editar fotos de pessoas reais até fazê-las aparecer com roupas atraentes no dia 14 de janeiro, incluindo assinantes premium.
X referiu-se à sua declaração da semana passada, que Disse: “Estamos empenhados em tornar o X uma plataforma segura para todos e continuaremos a ter tolerância zero com a exploração sexual infantil, a nudez não consensual e qualquer forma de conteúdo sexual indesejado.
“Tomamos medidas para remover conteúdo infrator de alta prioridade, incluindo material de abuso sexual infantil e nudez não consensual, tomando as medidas apropriadas contra nossas contas ofensivas.” x Regra. Também denunciamos contas que solicitam material de abuso sexual infantil às autoridades policiais, conforme necessário.”
