Indonésia bloqueia Grok por deepfakes sexuais não consensuais

As autoridades indonésias anunciaram no sábado que estavam bloqueando temporariamente o acesso ao chatbot Grok da xAI.

Este é um dos movimentos mais agressivos já feitos por funcionários do governo Respondendo à enxurrada de imagens sexuais geradas por IA — Muitas vezes retrata mulheres e menores reais, às vezes Mostrando agressão e abuso — Postado por Grok em resposta a uma solicitação de um usuário da rede social X (X e xAI fazem parte da mesma empresa).

em Declaração compartilhada com o Guardian “O governo vê a prática de deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse Meutia Hafid, Ministra das Comunicações e Digital da Indonésia, noutra publicação.

O ministério também teria convocado o funcionário X para discutir o assunto.

Várias respostas do governo na semana passada incluem: Pedido do Ministério de TI da Índia Além de exigir que a xAI tome medidas para impedir a Grok de produzir conteúdo obsceno, a Comissão Europeia ordenou que a empresa preservasse todos os documentos relacionados à Grok, o que poderia desencadear uma investigação.

No Reino Unido, o regulador de comunicações Ofcom disse que iria “realizar uma avaliação rápida para determinar se existem potenciais problemas de conformidade que valem a pena investigar”. O primeiro-ministro Keir Starmer disse em uma entrevista que o Ofcom tinha “total apoio para agir”.

E enquanto nos EUA, a administração Trump parece silenciar sobre o assunto (o CEO da xAI, Elon Musk, é um grande doador do presidente Trump, liderou o polêmico Ministério de Eficiência Governamental do governo ano passado), senadores democratas Chamado Apple e Google Remova o X da app store.

xAI respondeu inicialmente: Poste um pedido de desculpas que à primeira vista pareça estar na primeira pessoa postou em sua conta Grok, reconhecendo que postagens sobre abuso sexual infantil “violam os padrões éticos e podem violar a lei dos Estados Unidos”. isso é mais tarde A função de geração de imagens AI foi restrita No entanto, essa restrição não pareceu afetar o aplicativo Grok em si, que ainda permitia que qualquer pessoa gerasse imagens.

Em resposta a uma postagem perguntando por que o governo do Reino Unido não tomou medidas contra outras ferramentas de geração de imagens de IA: O senhor Musk escreveu“Eles querem uma desculpa para censurar.”