O conteúdo desta história é Descrições de conteúdo sexualmente explícito ou violência sexual.
Elon Musk Grok O uso do chatbot gerou indignação e exige uma investigação. Envie para X um monte de imagens “despidas” Imagens de mulheres ou imagens sexuais de pessoas que parecem ser menores. Mas essa não é a única maneira pela qual as pessoas usam a IA para gerar imagens sexuais. Os sites e aplicativos da Grok são separados do X e incluem geração de vídeo sofisticada não disponível no X e são usados para criar imagens sexuais adultas altamente gráficas e às vezes violentas que são muito mais explícitas do que as imagens criadas pela Grok no X. Também pode ter sido usado para criar vídeos sexuais de aparentes menores.
Ao contrário do X, onde a saída do Grok é pública por padrão, imagens e vídeos criados em aplicativos ou sites Grok usando modelos Imagine não são compartilhados abertamente. No entanto, se um usuário compartilhar um URL do Imagine, ele poderá ficar visível para qualquer pessoa. Um cache de aproximadamente 1.200 links Imagine e uma revisão WIRED de qualquer um deles. indexado pelo Google Você verá vídeos sexuais perturbadores que são muito mais explícitos do que as imagens compartilhadas em fóruns pornográficos deepfake ou criadas por Grok no X.
Um vídeo fotorrealista do Grok hospedado no Grok.com mostra um homem e uma mulher completamente nus, gerados por IA, fazendo sexo, com seus corpos e rostos cobertos de sangue, enquanto outras duas mulheres nuas dançam ao fundo. Este vídeo consiste em uma série de imagens de personagens de estilo anime. Outro vídeo fotorrealista mostra uma mulher nua gerada por IA com uma faca inserida nos órgãos genitais e sangue nas pernas e na cama.
Outros vídeos curtos incluem imagens de celebridades femininas da vida real envolvidas em atos sexuais, e também é mostrada uma série de vídeos de uma apresentadora de noticiário de TV levantando a blusa para expor os seios. Um dos vídeos produzidos por Grok é a gravação de uma câmera de vigilância de um segurança acariciando uma mulher de topless no meio de um shopping, que passa na televisão.
Vários vídeos, aparentemente criados para contornar o sistema de segurança de conteúdo de Grok, que pode restringir conteúdo gráfico, imitam pôsteres de “filmes” da Netflix. Os dois vídeos mostram sobreposições representando os logotipos da Netflix e da série e uma representação de IA nua da princesa Diana fazendo sexo com dois homens em uma cama. a coroa.
Cerca de 800 dos URLs arquivados do Imagine contêm vídeos ou imagens criadas por Grok, de acordo com Paul Bouchaud, principal pesquisador da organização sem fins lucrativos AI Forensics, com sede em Paris, que examinou o conteúdo. Todos esses URLs foram arquivados desde agosto do ano passado e são apenas um pequeno instantâneo de como as pessoas usaram o Grok, criando potencialmente milhões de imagens no total.
“Eles são predominantemente de conteúdo sexual”, diz Bushaud sobre o cache de 800 vídeos e imagens Grok arquivados. “Na maior parte, é conteúdo explícito em mangá e hentai, e (outros) conteúdos fotorrealistas. Temos vídeos pornôs completos com nudez completa e áudio, mas isso é muito novo.”
Das 800 postagens, Boushaw estima que pouco menos de 10% do conteúdo parece estar relacionado a material de abuso sexual infantil (CSAM). “Na maioria das vezes é excêntrico, mas também há casos de pessoas muito jovens e explícitas envolvidas em atos sexuais”, disse Bushaud. “Continuamos a observar vários vídeos de mulheres de aparência muito jovem se despindo e participando de atividades com homens”, afirmam. “É perturbador em outro nível.”
Os pesquisadores disseram que relataram cerca de 70 URLs Grok que podem conter conteúdo sexual de menores aos reguladores europeus. Em muitos países, o CSAM gerado por IA, incluir desenho ou animaçãopode ser considerado ilegal. As autoridades francesas não responderam imediatamente ao pedido de comentários da WIRED. No entanto, o Ministério Público de Paris recentemente disse Dois parlamentares reclamaram das imagens “despojadas” ao escritório que atualmente investiga a empresa de mídia social.
