Índia ordena que Mr. X de Musk modifique Grok por causa de conteúdo ‘obsceno’ de IA

Índia encomendou Elon Musk’s

O Ministério de TI da Índia emitiu na sexta-feira uma ordem orientando o X de Musk a tomar medidas corretivas contra Grok, incluindo restringi-lo de produzir conteúdo contendo “nudez, conteúdo sexual, conteúdo sexualmente explícito ou de outra forma ilegal”. O ministério também deu às plataformas de redes sociais 72 horas para apresentarem relatórios de ação detalhando as medidas tomadas para impedir a hospedagem ou distribuição de conteúdo considerado “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou proibido por lei”.

A ordem, vista pelo TechCrunch, alerta que o não cumprimento pode comprometer as proteções de “porto seguro” da Empresa X ou a imunidade legal para conteúdo gerado pelo usuário sob a lei indiana.

A ação da Índia segue preocupações levantadas por usuários que compartilharam casos em que Grok foi encorajado a alterar imagens de indivíduos, principalmente mulheres, para parecerem estar usando biquínis. reclamação formal De Priyanka Chaturvedi, membro do Parlamento Indiano. Além disso, relatórios recentes sinalizaram casos em que chatbots de IA estão sendo usados. Imagens sexuais geradas contendo menoresproblema X reconhecido O acidente na manhã de sexta-feira foi causado pelo não cumprimento das medidas de segurança. Essas imagens foram removidas posteriormente.

No entanto, o TechCrunch descobriu que uma imagem alterada por IA gerada usando Grok que parecia mostrar uma mulher de biquíni permanecia acessível no X no momento da publicação.

Esta última ordem ocorre dias depois de o Ministério de TI da Índia emitir um comunicado abrangente na segunda-feira às plataformas de mídia social, que também foi revisado pelo TechCrunch, lembrando-lhes que o cumprimento das leis locais que regem conteúdo obsceno e sexualmente explícito é um pré-requisito para manter a imunidade legal para material gerado pelo usuário. O comunicado instou as empresas a reforçarem as medidas de segurança interna e alertou que o não cumprimento desta medida poderia levar a ações legais ao abrigo do Código Penal e de TI da Índia.

“Reiteramos que qualquer violação dos requisitos acima será considerada gravemente e poderá, sem aviso prévio, resultar em graves consequências jurídicas para a plataforma, seus responsáveis ​​e os usuários da plataforma que violarem a lei”, alerta o despacho.

O governo indiano disse que qualquer violação poderia levar a uma ação contra X de acordo com a Lei de TI e o Código Penal da Índia.

A Índia, um dos maiores mercados digitais do mundo, emergiu como um caso de teste fundamental para determinar até que ponto os governos estão dispostos a manter as plataformas responsáveis ​​pelos conteúdos gerados pela IA. Um aumento da repressão interna poderá ter um efeito cascata nas empresas globais de tecnologia que operam em múltiplas jurisdições.

A ordem chega no momento em que o X mascarado continua a desafiar o perfil social da Índia. Regras de regulação de conteúdo em tribunalargumentou que mesmo que as plataformas cumpram a maioria das diretivas de bloqueio, os poderes de remoção do governo federal correm o risco de serem exagerados. Ao mesmo tempo, o Grok é cada vez mais utilizado pelos usuários do X. Verificação de fatos em tempo real Também inclui comentários sobre eventos noticiosos, tornando os seus resultados mais visíveis e politicamente sensíveis do que ferramentas de IA autónomas.

X e xAI não responderam imediatamente aos pedidos de comentários sobre a ordem do governo indiano.