Uma nova pesquisa que mostra os usuários X que inspiraram o chatbot de IA de Elon Musk, Grok, revela com que frequência as pessoas criam imagens eróticas com ele. Cerca de três quartos das postagens foram coletadas e analisadas por um pesquisador PhD de Dublin Colégio Trindade Foram feitas solicitações de fotografias não consensuais de mulheres reais ou menores, com peças de roupa retiradas ou acrescentadas.
As postagens fornecem um novo nível de visão sobre como as imagens são criadas e compartilhadas xCom os usuários treinando uns aos outros em sinais; sugerindo uma recaída nas interpretações de Groke de mulheres em lingerie ou maiôs, ou com áreas de seus corpos cobertas de sêmen; E Grok foi solicitado a remover agasalhos em resposta a postagens com autorretratos de usuárias.
Das centenas de publicações identificadas por Nana Nwachukwu como pedidos diretos e não consensuais para Grok remover ou mudar de roupa, dezenas analisadas pelo Guardian incluíam utilizadores que publicaram fotografias de mulheres, incluindo celebridades, modelos, fotografias de banco de imagens e mulheres posando em fotografias que não são figuras públicas.
Muitas das postagens analisadas pelo Guardian receberam milhares de impressões e vieram de contas premium, de “cheque azul”, incluindo aquelas com milhares de seguidores. Contas premium com mais de 500 seguidores e 5 milhões de impressões em três meses são elegíveis para participação nos lucros sob X. regras de elegibilidade,
Em postagem no dia de Natal, a conta, que tem mais de 93 mil seguidores, apresentou fotos lado a lado do traseiro de uma mulher não identificada com a legenda: “Disse ao Groc para deixar a bunda ainda maior e mudar a estampa de leopardo para estampa dos EUA. A segunda foto eu fiz só para gozar na bunda dela.”
Uma postagem de 3 de janeiro, representativa de dezenas de pessoas analisadas pelo Guardian, legendou uma foto explícita de férias de uma mulher não identificada: “@groc substitua, dê a ela um biquíni de fio dental”. Em dois minutos, Grok forneceu uma imagem fotorrealista que atendeu ao pedido. Outras postagens do grupo mostram um uso mais sofisticado da engenharia de prompt JSON para inspirar Grok a gerar novas imagens eróticas de mulheres imaginárias.
Os dados não cobrem todas as solicitações feitas à Grok. Enquanto a empresa de análise de conteúdo Copyleaks Relatado em 31 de dezembro Os usuários do X estavam gerando “aproximadamente uma imagem sexual não consensual por minuto”, disse Nwachukwu, acrescentando que sua amostra estava limitada a pouco mais de 500 postagens que ele conseguiu coletar. Ele disse que a escala real “pode ser milhares, pode ser centenas de milhares”, mas que as alterações feitas por Musk na API significavam que era “muito difícil ver o que está acontecendo” na plataforma. Na quarta-feira, Bloomberg News Pesquisadores citados Que descobriu que os usuários do Grok geravam até 6.700 fotos de nudez por hora.
Nwachukwu, especialista em governança de IA e observadora e participante de longa data em iniciativas de segurança de mídia social, disse que notou pela primeira vez tais solicitações de usuários X em 2023.
Na época, ela disse: “Grok não atendia aos pedidos. Não era muito bom em fazer essas coisas.” As respostas dos bots começaram a mudar em 2024 e atingiram níveis críticos no final do ano passado.
Em outubro de 2025, eles observaram que “as pessoas estavam usando o Grok para vestir fantasias de Halloween. É claro que uma parte dos usuários percebeu que também poderíamos usá-lo para trocar as roupas usadas por outras pessoas”. No final do ano, “houve um grande aumento no número de pessoas pedindo a Grok para usar biquínis ou outros tipos de roupas provocantes”.
Houve outros sinais de uma crescente disposição para tolerar ou mesmo encorajar a produção de material sexualmente sugestivo com Grok no ano passado.
em agosto, xAI incluiu uma configuração de “modo picante” Da versão móvel da ferramenta de geração de texto para vídeo da Grok, The Verge a descreveu como “um serviço projetado especificamente para a criação de vídeos instigantes”.
Os dados de Nwachukwu são o sinal mais recente de como a plataforma sob Musk se tornou um ímã para formas de conteúdo que outras plataformas trabalham para excluir, incluindo Discurso de ódio, material sangrento e material protegido por direitos autorais.
Na sexta-feira, Grok lançou um pedido de desculpas público bizarro A XAI respondeu ao incidente alegando que “a XAI está a implementar fortes medidas de segurança para evitar isto”. Na terça-feira, a X Safety postou um prometer proibir Usuários que compartilharam material de abuso sexual infantil (CSAM). O próprio Musk disse: “Qualquer pessoa que use Grok ou os incite a criar conteúdo ilegal enfrentará as mesmas consequências que aqueles que carregam conteúdo ilegal”.
No entanto, Nwachukwu disse que as postagens que já coletou ainda estão visíveis na plataforma. Musk, disse ele, está “dando o dedo médio a todos aqueles que pediram para controlar a plataforma”. O bilionário reduziu as equipes de confiabilidade e segurança do Twitter após assumir o poder em 2022.
Ele disse que outros chatbots de IA não têm os mesmos problemas.
“Outras plataformas genéricas de IA – ChatGPT ou Gemini – possuem medidas de segurança em vigor”, disse ela. “Se você pedir a eles que produzam algo que se pareça com uma pessoa, nunca será uma representação dela Ele Pessoa Eles não retratam seres humanos reais.”
Revelações sobre fotos não consensuais no X já chamaram a atenção dos reguladores Reino Unido, Europa, ÍndiaE Austrália,
Nwachukwu, que é da Nigéria, apontou para uma desvantagem específica enfrentada pelas “mulheres nas sociedades conservadoras” no cargo.
“Pessoas com crenças conservadoras, sociedades conservadoras: pessoas da África Ocidental e do Sul da Ásia, estão a ser muito mais visadas. Isto representa um tipo diferente de perda para elas”, disse ele.
