Autoridades francesas e malaias estão investigando Grok por supostamente produzir deepfakes sexuais

Nos últimos dias, a França e a Malásia juntaram-se à Índia nas acusações de Grok de criar deepfakes sexuais de mulheres e menores.

O chatbot foi construído pela startup de IA de Elon Musk, xAI, e é apresentado em sua plataforma de mídia social X. postou um pedido de desculpas “Lamentamos profundamente o incidente de 28 de dezembro de 2025, no qual, com base na solicitação de um usuário, geramos e compartilhamos uma imagem de IA de duas meninas (idade estimada entre 12 e 16 anos) vestidas com trajes sexuais”, escreveu o relato no início desta semana.

A declaração continuou: “Isso violou os padrões éticos e poderia ter violado a lei dos EUA em relação a[conteúdo de abuso sexual infantil]. Isso foi uma falha nas salvaguardas e pedimos desculpas pelos danos causados. A xAI está revisando isso para evitar problemas futuros.”

Não está claro quem está realmente se desculpando ou aceitando a responsabilidade na declaração acima. O desertor Albert Burneko apontou: Ele acredita que o pedido de desculpas será “totalmente vazio” porque Grok “não sou realmente ‘eu’” e “Grok não pode ser responsabilizado de forma significativa por transformar o Twitter em uma fábrica de CSAM sob demanda”.

Além de produzirem imagens pornográficas não consensuais, os futuristas também Grok também é usado Gerar imagens de mulheres sendo agredidas ou abusadas sexualmente.

“Aqueles que usam o Grok para criar conteúdo ilegal sofrerão as mesmas consequências como se tivessem carregado conteúdo ilegal.” Musk postou no sábado.

Alguns governos tomaram nota disto; O Ministério de TI da Índia emitiu a ordem na sexta-feira. X disse que Grok deve tomar medidas para impedi-lo de produzir conteúdo “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido por lei”. A ordem afirma que X deve responder dentro de 72 horas ou corre o risco de perder suas proteções de “porto seguro” que o protegem de responsabilidade legal por conteúdo gerado pelo usuário.

As autoridades francesas também afirmaram que estavam a tomar medidas, com o Ministério Público de Paris a dizer ao Politico: Investigando a prevalência de deepfakes sexualmente explícitos em X. A Agência de Assuntos Digitais da França disse que três ministros relataram “conteúdo claramente ilegal” ao Ministério Público e à plataforma de monitoramento online do governo “para remoção imediata”.

Comissão de Comunicações e Multimídia da Malásia postou uma declaração “Notamos com grande preocupação as reclamações do público sobre o uso indevido de ferramentas de inteligência artificial (IA) na Plataforma X, particularmente a manipulação digital de imagens de mulheres e menores para criar conteúdo obsceno, grosseiramente ofensivo e de outra forma prejudicial”.

O comitê acrescentou: “Estamos atualmente investigando os danos online causados ​​por X”.