Depois de criar milhares de de Foto “despir-se” de uma mulher O X de Elon Musk parece limitar quem pode gerar imagens com Grok, incluindo imagens claramente sexuais de menores. Porém, apesar das mudanças, os chatbots ainda são usados para criar imagens sexuais “despidas” na plataforma.
Na manhã de sexta-feira, a conta Grok de X começou a responder a algumas solicitações de usuários, com uma mensagem de que a geração e edição de imagens estão “atualmente limitadas a membros pagantes”. A mensagem também inclui um link que direciona as pessoas para o nível de assinatura anual de US$ 395 da plataforma de mídia social. Em um teste do sistema pedindo a Grok para criar a imagem de uma árvore, o sistema retornou a mesma mensagem.
A aparente mudança ocorreu após vários dias de raiva crescente contra o povo. escrutínio Musk’s X e xAI, as empresas por trás do chatbot Grok. As empresas enfrentam um escrutínio cada vez maior por parte dos reguladores de todo o mundo devido a alegações de imagens explícitas não consensuais e imagens sexuais de crianças. Primeiro-ministro britânico, Keir Starmer não excluído Proibiu X no país e disse que suas ações eram “ilegais”.
Nem X nem xAI, a empresa de propriedade de Musk por trás do Grok, reconheceram que a geração e edição de imagens são um recurso somente pago. Um porta-voz do X confirmou a investigação da WIRED, mas se recusou a comentar antes da publicação. X era anteriormente disse A empresa está tomando “medidas contra conteúdo ilegal no X”, incluindo conteúdo de abuso sexual infantil. A Apple e o Google proibiram anteriormente aplicativos com funcionalidade semelhante de “nudificar”; X e Grok ainda disponíveis em suas respectivas lojas de aplicativos. xAI não respondeu imediatamente ao pedido de comentários da WIRED.
Há mais de uma semana, os usuários do X pedem ao chatbot para editar imagens de mulheres sem roupas, muitas vezes solicitando que as imagens incluam biquínis “fio dental” ou “transparentes”. Um feed público de imagens criado por Grok na sexta-feira teve muito menos resultados para essas imagens “despidas”, mas criou imagens sexualmente explícitas em resposta a instruções de usuários X com contas pagas “verificadas”.
“Estamos observando os mesmos tipos de solicitações, estamos vendo os mesmos tipos de resultados, apenas menos do que antes”, disse Paul Bouchaud, principal pesquisador da organização sem fins lucrativos AI Forensics, com sede em Paris, à WIRED. “As modelos podem continuar a produzir (imagens) de biquínis”, dizem.
A análise da WIRED de algumas postagens de Grok na manhã de sexta-feira descobriu que Grok gerou as imagens em resposta a solicitações de usuários por imagens dele “vestido com lingerie de látex” e “vestido com um biquíni de plástico e coberto com um esmalte branco em forma de donut”. A imagem aparecerá atrás de uma caixa de “Aviso de conteúdo” indicando que conteúdo adulto está sendo exibido.
Na quarta-feira, a WIRED informou que o site e aplicativo autônomo do Grok, separados da versão no X, também foram atualizados nos últimos meses. Vídeos sexuais muito gráficos e às vezes violentosincluindo celebridades e outras pessoas da vida real. Bouchaud diz que ainda é possível criar esses vídeos usando o Grok. “Contas não verificadas conseguiram gerar vídeos contendo conteúdo sexualmente explícito sem quaisquer restrições”, afirmam.
Os testes da WIRED usando Grok no X para gerar imagens usando contas gratuitas não produziram imagens, mas as imagens foram geradas usando contas gratuitas em aplicativos e sites da Grok.
Mudanças no X poderiam limitar imediatamente a quantidade de conteúdo sexualmente explícito e prejudicial que as plataformas criam, dizem os especialistas. No entanto, também foi criticado como uma medida mínima que funciona como um curativo contra danos reais. Ocorre devido a imagens íntimas não consensuais.
“A recente decisão de restringir o acesso a assinantes pagantes não é apenas inadequada, mas representa a monetização do abuso”, disse Emma Pickering, chefe de abuso facilitado pela tecnologia na instituição de caridade britânica contra violência doméstica Refuge, em um comunicado. “Restringir a geração de imagens de IA a usuários pagos pode reduzir ligeiramente o volume e melhorar a rastreabilidade, mas não impede o abuso. Simplesmente o mantém atrás de um acesso pago, permitindo que X lucre com os danos.”
