Indonésia e Malásia bloqueiam Grok por deepfakes sexuais não consensuais

Autoridades da Indonésia e da Malásia disseram que bloquearam temporariamente o acesso ao chatbot Grok da xAI.

Estas são as medidas mais agressivas já tomadas por funcionários do governo Respondendo à enxurrada de imagens sexuais geradas por IA — Muitas vezes retrata mulheres e menores reais, às vezes representação de violência — Postado por Grok em resposta a uma solicitação de um usuário da rede social X (X e xAI fazem parte da mesma empresa).

em Uma declaração compartilhada com o Guardian no sábado “O governo vê a prática de deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse Meutia Hafid, Ministra das Comunicações e Digital da Indonésia, noutra publicação.

O ministério também teria convocado o funcionário X para discutir o assunto.

O jornal New York Times disse: O governo da Malásia também anunciou uma proibição semelhante. no domingo.

Várias respostas do governo na semana passada incluem: Pedido do Ministério de TI da Índia A xAI será obrigada a tomar medidas para impedir a Grok de produzir conteúdo obsceno, e a Comissão Europeia ordenará que a empresa preserve todos os documentos relacionados à Grok em preparação para uma investigação.

No Reino Unido, o regulador de comunicações Ofcom disse que iria “realizar uma avaliação rápida para determinar se existem potenciais problemas de conformidade que valem a pena investigar”. O primeiro-ministro Keir Starmer disse em uma entrevista que o Ofcom tinha “total apoio para agir”.

E enquanto nos EUA, a administração Trump parece silenciar sobre o assunto (o CEO da xAI, Elon Musk, é um grande doador do presidente Trump, liderou o polêmico Ministério de Eficiência Governamental do governo ano passado), senadores democratas Chamado Apple e Google Remova o X da app store.

xAI respondeu inicialmente: Poste um pedido de desculpas que à primeira vista pareça estar na primeira pessoa postou em sua conta Grok, reconhecendo que postagens sobre abuso sexual infantil “violam os padrões éticos e podem violar a lei dos Estados Unidos”. isso é mais tarde A função de geração de imagens AI foi restrita No entanto, essa restrição não pareceu afetar o aplicativo Grok em si, que ainda permitia que qualquer pessoa gerasse imagens.

Em resposta a uma postagem perguntando por que o governo do Reino Unido não tomou medidas contra outras ferramentas de geração de imagens de IA: O senhor Musk escreveu“Eles querem uma desculpa para censurar.”

Esta postagem foi atualizada para refletir a proibição do Grok na Malásia.