As autoridades eleitorais estão trabalhando “rapidamente” com o Ministério do Interior em um projeto piloto para combater o uso de deepfakes para atingir os candidatos que concorrem às eleições escocesas e galesas deste ano.
funcionários da comissão eleitoral Escócia Ele disse que ele e o Ministério do Interior esperam ter um software capaz de detectar vídeos e imagens deepfake gerados por IA em funcionamento antes do início da campanha eleitoral, no final de março.
Sarah McKee, chefe da comissão na Escócia, disse que se o software detectar um vídeo ou imagem falsa, as autoridades entrarão em contato com a polícia, o candidato em questão e informarão o público, embora ela reconheça que nem sempre pode fornecer 100% de certeza.
Ele disse que depois disso eles vão solicitar à plataforma de mídia social a remoção do conteúdo. No entanto, como tal acção é actualmente voluntária, a Comissão também pretende poderes de “remoção” legalmente executáveis que exigiriam que as plataformas de comunicação social removessem conteúdos falsos.
Ele disse que a Comissão instou o governo do Reino Unido a considerar a introdução de tais poderes.
“O que não temos neste momento, e o que gostaríamos de ter, são os chamados poderes de remoção – onde contactamos empresas de redes sociais e exigimos que algo seja removido”, disse McKee.
Não há casos conhecidos de deepfakes emergentes durante as campanhas eleitorais no Reino Unido, mas a sua utilização aumentou em eleições no estrangeiro, uma tendência que se acelerou dramaticamente com a proliferação de ferramentas gratuitas de geração de imagens de IA.
As eleições e referendos britânicos têm sido repetidamente alvo de contas falsas nas redes sociais patrocinadas pelo Estado De países como Rússia, Irã e Coreia do NorteGeralmente projetado para semear divergências ou aumentar a controvérsia.
Falando num briefing pré-eleitoral para jornalistas em Edimburgo, Mackie disse que a comissão também estava a trabalhar com o Parlamento escocês e a polícia num projecto de “segurança e confiança” para apoiar mulheres e candidatos negros, asiáticos e de minorias étnicas que sofrem abusos ou assédio com base no género ou na raça.
Ela disse que um estudo de 2022 descobriu que quase metade de todas as candidatas eleitorais sofreram abusos, com muitas dizendo que não se candidatariam novamente. Candidatos de minorias étnicas também disseram que o abuso os intimidou de se candidatarem novamente, reduzindo a diversidade em Holyrood.
Mackie disse que houve um aumento na tecnologia de “despir” pornográfica e alimentada por IA. Gerado especificamente pela plataforma Grok AI de Elon MuskSe for utilizado durante as eleições, cairá nessa categoria e será denunciado à polícia.
As plataformas X e Grok de Musk foram criticadas por não conseguirem remover conteúdo falso, obsceno e prejudicial, com políticos seniores de Westminster exigindo ação imediata do governo e do regulador de mídia Ofcom.
Mackie disse que não havia um papel legal claro para a Comissão Eleitoral ou outras agências regularem os deepfakes durante as eleições, mas que tanto a Comissão como o Ministério do Interior precisavam examinar que ações poderiam tomar.
Ele disse que se este projeto piloto for bem-sucedido, poderá ser iniciado em todas as eleições na Grã-Bretanha.
Ela disse: “Não controlamos as campanhas eleitorais, mas há um vácuo aqui onde existem muitas regras à volta do ringue.
“Então o que estamos fazendo é pular para o centro do ringue e dizer: OK, vamos ver o que aprendemos com isso e depois compartilhar com outras pessoas”.
Um porta-voz do Ministério do Interior disse que, de acordo com a Lei de Segurança Online do Reino Unido, as empresas de mídia social são obrigadas a remover conteúdo ilegal e impedir a disseminação de informações falsas que possam causar danos psicológicos ou físicos.
Acrescentou: “Proteger as eleições da ameaça de deepfakes sofisticados é fundamental para manter a confiança do público no nosso sistema democrático.
“Este piloto ajudará a detectar e combater conteúdo deepfake e a proteger o público da influência da desinformação.”
