X de Elon Musk Foram introduzidas novas restrições que proíbem a edição ou produção de imagens de pessoas reais usando biquínis ou outras “roupas reveladoras”. mudança em política Quarta-feira à noite, após a indignação mundial contra Grok, Gerando milhares de fotos prejudiciais e não consensuais de “despir-se” X contém imagens de mulheres e imagens sexualmente explícitas de menores.
No entanto, de acordo com vários testes realizados por pesquisadores, WIRED e outros jornalistas, parece que, embora algumas medidas de segurança tenham finalmente sido implementadas para a geração de imagens de Grok no X, aplicativos e sites independentes de Grok ainda são capazes de gerar imagens no estilo “despir” e conteúdo pornográfico. Enquanto isso, outros usuários disseram que não podem mais criar imagens e vídeos como faziam antes.
“Grok.com ainda é capaz de gerar nus fotorrealistas”, disse Paul Bouchaud, investigador principal da organização sem fins lucrativos AI Forensics, com sede em Paris. “Rastreamos a criação de imagens sexuais usando o Grok e executamos vários testes com o Grok fora do X. Podemos gerar nus de uma forma que o Grok no X não consegue.”
“Carreguei uma imagem no Grok Imagine e pedi para a pessoa usar biquíni, e funcionou”, disseram os pesquisadores que testaram o sistema em pessoas que pareciam mulheres. Num teste realizado pela WIRED, contas Grok gratuitas em sites no Reino Unido e nos EUA conseguiram remover com sucesso roupas de duas imagens de homens sem quaisquer restrições aparentes. No aplicativo Grok do Reino Unido, quando um homem foi solicitado a se despir, o aplicativo solicitou que um repórter da WIRED inserisse o ano de nascimento do usuário antes de a imagem ser gerada.
Enquanto isso, outros jornalistas A beira e agência investigativa Bellingcat Também foi descoberto que é possível criar imagens sexualizadas enquanto estiver no Reino Unido, com o Reino Unido investigando Grok e X e condenando veementemente as plataformas que permitem aos usuários criar imagens “despidas”.
Desde o início deste ano, todos os negócios de Musk, incluindo as empresas de inteligência artificial xAI, X e Grok, foram criticados por produzirem imagens íntimas não consensuais, vídeos sexuais explícitos e explícitos e imagens sexuais de pessoas que se acredita serem menores de idade. Funcionários dos Estados Unidos, Austrália, Brasil, Canadá, Comissão Europeia, França, Índia, Indonésia, Irlanda, Malásia e Reino Unido. Todos culparam e culparam. Investigação de X ou Grok.
Na quarta-feira, A conta de segurança X postou uma atualização Saiba como o Grok pode ser usado em sites de mídia social. “Tomamos medidas técnicas para evitar que as contas Grok permitam a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, postou a conta, acrescentando que esta regra se aplica a todos os usuários, incluindo assinantes gratuitos e pagos.
Em uma seção intitulada “Atualização do Geoblock”, a conta X também afirma que está “bloqueando geograficamente a capacidade de todos os usuários gerarem imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio de contas Grok e Grok em X em jurisdições onde é atualmente ilegal”. A atualização da empresa acrescentou que está trabalhando para adicionar salvaguardas adicionais e continua a “remover conteúdo violador de alta prioridade, incluindo material de abuso sexual infantil (CSAM) e nudez não consensual”.
Um porta-voz da xAI, a empresa por trás do Grok, não respondeu imediatamente ao pedido de comentários da WIRED. Enquanto isso, um porta-voz do X disse que entende que o bloqueio de localização se aplica tanto aos aplicativos quanto aos sites da empresa.
As últimas medidas seguem uma política amplamente criticada de 9 de janeiro, na qual X impôs restrições. Gere imagens para assinantes “verificados” pagos usando Grok. principal grupo feminino explicado Atua como “monetizador de abuso”. Boushaw, que afirma que a AI Forensics coletou cerca de 90.000 imagens Grok no total desde as férias de Natal, reconheceu que desde 9 de janeiro, apenas contas verificadas podem gerar imagens no X, e não em sites ou aplicativos Grok, e que muito poucas imagens de biquínis de mulheres estão sendo geradas atualmente. “Estamos observando que eles parecem ter desconectado o X e desativado a funcionalidade”, dizem eles.
