Índia ordena que plataformas de mídia social removam rapidamente deepfakes

A Índia ordenou que as plataformas de mídia social intensificassem a aplicação de deepfakes e outras falsificações geradas por IA, ao mesmo tempo que reduziam significativamente o tempo necessário para cumprir as ordens de remoção. É uma medida que poderá remodelar a forma como as empresas globais de tecnologia gerem conteúdos num dos maiores e mais rápidos mercados de serviços de Internet do mundo.

A mudança é publicado (PDF) como correção na terça-feira. Regras de TI da Índia 2021traz os deepfakes sob uma estrutura regulatória formal, exigindo rotulagem e rastreabilidade de conteúdo sintético de áudio e vídeo, ao mesmo tempo que encurta os prazos de conformidade para as plataformas, incluindo um prazo de três horas para ordens formais de remoção e uma janela de duas horas para certas reclamações urgentes dos usuários.

A importância da Índia como mercado digital amplificará o impacto das novas regras. Com mais de mil milhões de utilizadores da Internet e uma população predominantemente jovem, o país do Sul da Ásia tornou-se um mercado-chave para plataformas como Meta e YouTube, e as medidas de conformidade adotadas na Índia provavelmente influenciarão produtos e práticas de moderação em todo o mundo.

De acordo com as regras revistas, as plataformas de redes sociais que permitem aos utilizadores carregar ou partilhar conteúdos audiovisuais terão de exigir a divulgação de se o material é gerado sinteticamente, implementar ferramentas para verificar essas alegações e garantir que os deepfakes sejam claramente rotulados e incorporados com dados de proveniência rastreáveis.

Certas categorias de conteúdo sintético (como falsificação de identidade enganosa, imagens íntimas não consensuais e material relacionado a crimes graves) são completamente proibidas pelas regras. O incumprimento, especialmente se sinalizado pelas autoridades ou pelos utilizadores, pode pôr em risco as proteções do porto seguro ao abrigo da legislação indiana e expor as empresas a uma maior responsabilidade legal.

As regras dependem fortemente de sistemas automatizados para cumprir estas obrigações. Espera-se que as plataformas implementem ferramentas tecnológicas para verificar as divulgações dos utilizadores, identificar e rotular deepfakes e impedir a criação e partilha de conteúdo sintético, o que é proibido em primeiro lugar.

“As regras de TI revisadas sinalizam uma abordagem mais personalizada para regular os deepfakes gerados por IA”, disse Rohit Kumar, sócio fundador da empresa de consultoria política com sede em Nova Delhi, Quantum Hub. “Reduções significativas nos prazos de resolução de reclamações, como janelas de resposta de duas a três horas, aumentam significativamente os encargos de conformidade e merecem um exame mais minucioso, especialmente tendo em conta que o incumprimento pode levar à perda da proteção do porto seguro.”

Arajita Rana, sócia do principal escritório de advocacia corporativa da Índia, AZB & Partners, disse que as regras atualmente se concentram em conteúdo audiovisual gerado por IA, e não em todas as informações on-line, ao mesmo tempo que abrem exceções para usos rotineiros, superficiais ou relacionados à eficiência da IA. No entanto, alertou que a exigência de que os intermediários removam o conteúdo no prazo de três horas após terem conhecimento do mesmo afasta-se dos princípios estabelecidos de liberdade de expressão.

“No entanto, a lei ainda exige que os intermediários removam conteúdo ao aprenderem ou receberem conhecimento real, mesmo dentro de três horas”, disse Rana, acrescentando que os requisitos de rotulagem se aplicam a todos os formatos para conter a propagação de material de abuso sexual infantil e conteúdo enganoso.

Grupo de defesa digital com sede em Nova Delhi, Internet Freedom Foundation disse Esta regra corre o risco de acelerar a censura ao reduzir drasticamente os cronogramas de remoção, deixando pouco espaço para revisão humana e empurrando as plataformas para remoções excessivas automatizadas. Em comunicado publicado em

“Estes prazos impossivelmente curtos impedem uma revisão humana significativa”, disse o grupo, alertando que as mudanças podem minar as proteções à liberdade de expressão e o devido processo.

Duas fontes da indústria disseram ao TechCrunch que as mudanças passaram por um processo de consulta limitado, com apenas um pequeno número de sugestões refletidas na regra final. Embora o governo indiano pareça ter aceitado uma proposta para restringir o âmbito da informação abrangida (centrando-se nos conteúdos audiovisuais gerados pela IA e não em todo o material online), outras recomendações não foram adotadas. Dada a escala das mudanças entre o projecto e os regulamentos finais, foi necessária outra ronda de consultas para fornecer às empresas uma orientação clara sobre as expectativas de conformidade, disseram as autoridades.

O governo já tem autoridade de remoção. emitir Na Índia. As plataformas de redes sociais e grupos da sociedade civil há muito que o criticam. Amplitude e opacidade dos pedidos de remoção de conteúdoe até mesmo o X de Elon Musk contestado em um tribunal em Nova Delhi. Isso é tudo Diretivas para bloquear ou excluir postagensargumentou que representavam um exagero e careciam de salvaguardas adequadas.

Meta, Google, Snap, X e o Ministério de TI da Índia não responderam aos pedidos de comentários.

As últimas mudanças ocorreram poucos meses depois do governo indiano, em outubro de 2025. diminuiu Número de funcionários autorizados a ordenar a remoção de conteúdo da Internet em resposta a acusações. Desafio legal por X No que diz respeito ao âmbito e à transparência da autoridade de eliminação.

As regras revistas entrarão em vigor em 20 de fevereiro, dando às plataformas pouco tempo para ajustarem os seus sistemas de conformidade. Este desenvolvimento na Índia Cimeira de Impacto da IA ​​em Nova Deli O sorteio está previsto para 16 a 20 de fevereiro Executivo Sênior de Tecnologia Global e decisores políticos nacionais.