A Malásia se tornou o segundo país a bloquear temporariamente o acesso ao Grok de Elon Musk, após protestos globais sobre a ferramenta de IA e sua capacidade de criar imagens falsas e sexualmente explícitas.
Um dia depois, a Malásia disse que restringiria o acesso a Grok até que medidas de segurança eficazes fossem implementadas A Indonésia também tomou medidas semelhantes.
Vários governos e reguladores reprimiram a ferramenta de imagem da Grok, que está incorporada no site de mídia social X e causou indignação porque permite aos usuários Manipular imagens de mulheres e crianças Tirando suas roupas e colocando-as em posições sexuais.
Grok, empresa liderada por Musk que desenvolve XAI, anunciou na semana passada a capacidade de gerar e editar imagens Será “limitado a clientes pagantes” Em X. Esses usuários forneceram dados pessoais à empresa e podem ser identificados se a função for utilizada indevidamente.
No entanto, a mudança não acalmou a raiva em relação a Grok. A Comissão de Comunicações e Multimídia da Malásia (MCMC) disse no domingo que restringiria o acesso ao Grok devido à capacidade da ferramenta de IA de “gerar imagens manipuladas obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores”.
Grok também opera por meio de um site e aplicativo separados. Não estava claro se as sanções da Malásia e da Indonésia seriam aplicadas a Grok. xSite e aplicativo Grok, ou ambos. O Guardian recebeu relatos da Indonésia de que as pessoas ainda conseguiam usar o Grok por meio do aplicativo e do X, embora um deles tenha relatado que o aplicativo era muito lento.
MCMC disse que emitiu avisos para X e XAI este mês exigindo a implementação de salvaguardas técnicas e de moderação eficazes. No entanto, as respostas recebidas basearam-se principalmente em mecanismos de relatórios iniciados pelos utilizadores e não abordaram os riscos subjacentes apresentados pela Grok, disse o MCMC, que considerou inadequados para evitar perdas ou garantir a conformidade legal.
No sábado, a Indonésia também bloqueou temporariamente o chatbot, com o ministro das comunicações e digital do país, Meutya Hafid, a dizer que o governo “vê a prática de deepfakes sexuais sem consentimento como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos na esfera digital”.
A Grã-Bretanha também expressou a possibilidade de uma proibição Se medidas não forem tomadas No sábado, o primeiro-ministro da Austrália, Anthony Albanese, descreveu o uso de IA genérica para explorar ou explorar sexualmente pessoas sem o seu consentimento como “nojento”.
Em toda a Europa, reguladores e políticos também emitiram alertas nas últimas semanas.
Wolfram Weimer, ministro da Cultura e da Comunicação Social da Alemanha, apelou à Comissão Europeia para que tomasse medidas legais, alertando para a “industrialização do assédio sexual”.
A autoridade italiana de protecção de dados afirmou que a utilização de ferramentas de IA para criar imagens explícitas de pessoas sem consentimento pode constituir uma violação grave da privacidade e, em alguns casos, um crime.
Na França, os ministros do governo disseram este mês que encaminharam material sexualmente explícito gerado por Grok, transmitido no X, aos promotores e alertaram o regulador de mídia francês, Arcom.
O Ministério de TI e Eletrônica da Índia enviou uma notificação formal a X em 2 de janeiro sobre as imagens explícitas supostamente criadas por meio de Grok, exigindo a remoção do conteúdo e um relatório sobre as ações tomadas em 72 horas.
