Nus deepfake e “pornografia de vingança” devem ser removidos da Internet dentro de 48 horas ou as empresas de tecnologia correm o risco de serem bloqueadas no Reino Unido. Keir Starmer Chamando isso de “emergência nacional” que o governo deve enfrentar.
Se as empresas permitirem que as imagens sejam divulgadas ou republicadas depois que as vítimas as notificarem, elas poderão ser multadas em milhões ou até mesmo totalmente bloqueadas.
Serão também introduzidas alterações à Lei Criminal e Policial para regular os chatbots de IA, como o X-Groc, que geram imagens não consensuais de mulheres de biquíni ou em posições comprometedoras. Governo ameaça ação contra empresa de Elon Musk.
Escrevendo para o Guardian, Starmer disse: “O fardo de lidar com o abuso não deveria mais recair sobre as vítimas. Deve recair sobre os perpetradores e as empresas que causam danos”.
O primeiro-ministro disse que a misoginia institucionalizada está “entretecida no tecido das nossas instituições”, o que significa que o problema não é levado suficientemente a sério. “Muitas vezes, a misoginia é desculpada, minimizada ou ignorada. Os argumentos das mulheres são rejeitados como exagerados ou ‘unilaterais’. Essa cultura gera permissão”, escreveu Starmer.
Fontes governamentais disseram esperar que o Ofcom receba novos poderes para fazer cumprir até o verão e que as empresas sejam legalmente obrigadas a remover o conteúdo no máximo 48 horas após serem sinalizadas.
As empresas e plataformas de redes sociais, incluindo sites de pornografia, que não tomem medidas poderão enfrentar multas de até 10% das suas receitas mundiais elegíveis ou ter os seus serviços bloqueados no Reino Unido.
De acordo com o Departamento de Ciência, Inovação e Tecnologia, as vítimas poderão sinalizar as imagens diretamente com as empresas de tecnologia ou com o Ofcom – o que irá acionar alertas em múltiplas plataformas.
O Ofcom será responsável por impor restrições às imagens, com o objetivo de eliminar a responsabilidade das vítimas de denunciarem a mesma imagem, potencialmente milhares de vezes, à medida que ela é continuamente republicada.
O regulador da mídia será solicitado a explorar formas de colocar uma marca d’água digital em imagens de “pornografia de vingança”, para que possam ser marcadas automaticamente sempre que forem republicadas.
Os provedores de Internet também receberão novas orientações sobre como bloquear a hospedagem de sites nocivos especializados em hospedar conteúdo real não consensual ou explícito gerado por IA.
Dispositivo de “nudificação” Grok que causou alvoroço no início de janeiro, com ministros ameaçando bani-lo x Se não agiu. Segundo análise realizada para o Guardian, cerca de 6 mil biquínis eram solicitados no chatbot a cada hora, sendo feitos muitos pedidos para criar imagens de mulheres curvadas ou usando apenas fio dental.
Mas, nos últimos anos, também tem havido um aumento no número de imagens não consensuais, reais ou profundamente falsas, utilizadas para chantagear mulheres e homens jovens. Quais instituições de caridade foram associadas a vários suicídios.
Starmer disse que as histórias de terror de mulheres e meninas que viram fotos íntimas espalhadas na Internet eram “o tipo de história que, como pai, toca o coração”.
“Muitas vezes, essas vítimas são deixadas a lutar sozinhas – perseguindo a repressão de site em site, denunciando o mesmo conteúdo repetidamente, apenas para vê-lo novamente horas depois em outro lugar”, disse o primeiro-ministro. “Isto não é justiça. Isto é um fracasso. E está a enviar uma mensagem à juventude deste país de que as mulheres e as meninas são objetos a serem usados e partilhados.”
A criação ou partilha de imagens íntimas não consensuais também se tornaria um “crime prioritário” ao abrigo da Lei de Segurança Online, conferindo-lhe a mesma gravidade que imagens de abuso infantil ou terrorismo. A lei não exige que as plataformas identifiquem de forma independente imagens íntimas não consensuais, mas apenas removam essas imagens se forem sinalizadas.
Google, Meta e, embora o prazo de 48 horas seja curto, a Índia recentemente Obrigatório Que as empresas de mídia social removam algum conteúdo deepfake em três horas.
“Para ser honesta, penso que 48 horas são definitivamente possíveis”, disse Anne Crennan, que investiga misoginia online no Instituto para o Diálogo Estratégico.
“O problema é que isso pode não encorajar necessariamente uma taxa de resposta rápida por parte das empresas. Mas outros tipos de conteúdo, como o conteúdo terrorista na UE, têm um prazo mais longo de 48 horas para remoção.”
Crannan disse que estes já existem Iniciativa Usando correspondência de hash para proteger vítimas de abuso íntimo; No entanto, pode ser um desafio coordenar diferentes plataformas tecnológicas para que, por exemplo, um vídeo ofensivo carregado no Facebook possa ser automaticamente detectado no Reddit.
A correspondência de hash não é uma técnica ideal, enfatizou Crennan, e pode ser evitada. Por exemplo, os grupos terroristas muitas vezes adicionam emojis ou pequenas variações a vídeos já codificados como conteúdo terrorista, tornando-os irreconhecíveis pelos sistemas de correspondência de hash.
Este problema vai piorar com o advento de ferramentas de IA e deepfakes de IA, permitindo que imagens íntimas não consensuais e outros conteúdos sejam rapidamente alterados e espalhados pela Internet, disse Crennan, ignorando os esforços para detectá-los imediatamente com ferramentas como correspondência de hash. Num momento como a crise da biquinificação de Groke em janeiro, alguns abusos podem ser impossíveis de controlar.
Embora a lei pareça aplicar-se a todas as plataformas tecnológicas, incluindo “websites fraudulentos”, que estão fora do alcance da Lei de Segurança Online, existem questões sobre como poderá aplicar-se a serviços de mensagens encriptadas, como WhatsApp E sinal.
No seu artigo, Starmer disse que também estava empenhada em desafiar a misoginia no governo e na política, após várias semanas em que o primeiro-ministro enfrentou críticas pela nomeação de Peter Mandelson como embaixador dos EUA. Apesar de saber de sua amizade com o desgraçado financista e o agressor sexual infantil Jeffrey Epstein. Mendelson foi demitido após novas revelações sobre a proximidade de sua amizade.
O Primeiro-Ministro também enfrenta controvérsia sobre a nomeação da nova Secretária de Gabinete, Antonia Romo. Possibilidade de se tornar secretário permanente do Home OfficeQue foi inocentado das acusações de intimidação há nove anos, mas continua sendo uma figura polêmica no serviço público. Alguns dos seus defensores disseram que as críticas a Romo se baseiam em padrões duplos de género.
Starmer sugeriu que queria nomear mais mulheres para cargos de liderança sênior no governo e disse que estava determinada a “mudar a cultura do governo: desafiar as estruturas que ainda marginalizam as vozes das mulheres”.
“E é por isso que acredito que apenas contar quantas mulheres ocupam cargos seniores não é suficiente”, disse ela. “O que importa é se suas ideias são importantes e levam à mudança.”
