Em alguns cantos da Internet, em feeds de notícias e algoritmos específicos, uma estudante britânica gerada por IA emergiu como um fenómeno cultural.
O nome dela é Amelia, uma “garota gótica” de cabelos roxos que carrega orgulhosamente uma mini bandeira da União onde quer que vá e parece ter uma propensão ao racismo.
Se você não conhece Amelia, é provável que em breve veja um meme viral ou outros memes inspirados nela no Facebook ou no X, onde sua reputação está crescendo.
Os vídeos de Amelia costumam mostrá-la andando por Londres ou pela Câmara dos Comuns, declarando seu amor pela Inglaterra e alertando sobre os perigos dos “muçulmanos militantes” ou “imigrantes do terceiro mundo”. Em um clipe, ele está sendo repreendido por comer linguiça de porco por um homem barbudo vestindo trajes islâmicos.
A mensagem é bem lida nas redes sociais em todo o mundo, mas foi a invenção da IA de Amelia que a tornou extremamente adaptável, criando uma tendência viral na Internet na qual qualquer pessoa com acesso aos chatbots convencionais pode participar.
Pelo menos pode-se dizer que a origem do personagem é irônica. A iteração inicial de Amelia começou em um videogame antiextremismo financiado pelo Ministério do Interior do Reino Unido e criado para evitar que jovens de 13 a 18 anos fossem atraídos pelo extremismo de extrema direita em Yorkshire.
Maneiras: Navegando na Internet e Extremismo É um jogo simples de formato de múltipla escolha com animação básica. Seus jogadores são levados em uma jornada como personagens até uma faculdade. Eles são convidados a tomar decisões em cenários que incluem o download de conteúdo potencialmente extremista ou a adesão à personagem Amelia num comício organizado por “um pequeno grupo político” contra as mudanças na sociedade e “o declínio dos valores britânicos”.
Algumas opções resultam num encaminhamento ao abrigo do programa antiterrorista do Governo britânico.
No entanto, é uma subversão da personagem Amelia que se espalhou pelas redes sociais de tal forma que até os criadores do jogo original ficam surpresos.
A infinidade de iterações cada vez mais sofisticadas geradas por IA inclui uma Amelia estilo mangá, uma versão de Wallace e Gromit e encontros de “vida real” gerados por IA entre ela e personagens do Padre Ted ou Harry Potter, com linguagem racista e mensagens de extrema direita.
A análise fornecida ao Guardian pela Logically, uma empresa do Reino Unido que rastreia a desinformação, indica que uma conta anónima conhecida por disseminar eficazmente mensagens de extrema-direita iniciou o meme Amelia com uma publicação no X em 9 de janeiro, que desde então foi vista 1,4 milhões de vezes.
O volume de “ameliaposting” aumentou em média 500 por dia desde que aquela conta se apresentou ao mundo, a partir de 15 de janeiro, quando atingiu um público internacional. Houve 11.137 postagens somente no X na quarta-feira.
Numa das reviravoltas mais surreais, surgiu uma criptomoeda Amelia, com utilizadores das redes sociais a tentar alavancar o seu valor no perfil crescente do meme. Na quarta-feira, Elon Musk retuitou uma conta X promovendo o token da criptomoeda Amelia.
“O que estamos vendo é a monetização do ódio”, disse Matteo Bergamini, fundador e CEO da Shout Out UK, a empresa de treinamento em alfabetização política e midiática que criou o jogo original.
“Vimos grupos do Telegram enviando mensagens entre si em chinês sobre a moeda meme e falando sobre como inflar artificialmente seu valor, então muito dinheiro está sendo ganho.”
A própria empresa tem sido alvo de uma enxurrada de mensagens de ódio, incluindo ameaças de morte, que agora foram denunciadas à polícia.
Bergamini explica que a iniciativa original nunca foi concebida para ser um jogo independente. Em vez disso, destinava-se a ser utilizado em salas de aula com um conjunto de recursos de ensino, um facto que, segundo ele, foi ignorado pela cobertura e pelos comentários.
“Infelizmente houve muita deturpação”, disse ele. Por exemplo, o jogo não sugere que questionar a migração em massa seja inerentemente errado.
Outros sugeriram que o tiro saiu pela culatra, pelo menos em parte ao apresentar uma “garota gótica fofa” como uma personagem negativa, fazendo com que ela inadvertidamente se tornasse o foco de admiração. Mas Bergamini disse que o jogo – que utilizou o feedback de grupos focais com jovens antes da produção – continuou a ser usado e o feedback das escolas e de outros foi positivo.
Ainda assim, a velocidade e sofisticação da criação online de memes supostamente subversivos de Amelia a pegou de surpresa.
“Isso nos deu uma pausa para pensar sobre segurança, mas também demonstrou os riscos reais inerentes a esta tecnologia emergente de IA para a democracia, a desinformação e outras áreas”, disse ele.
Siddhartha Venkataramakrishnan, analista do Instituto para o Diálogo Estratégico (ISD), disse: “Vimos o meme ganhar força significativa e espalhar-se entre a extrema direita e mais além, mas o que também é digno de nota é o quão internacional se tornou agora.
“De certa forma, isso atinge o cerne do que poderíamos chamar de ‘dissidente’ de extrema direita – indivíduos que se encontram fora do cenário político dominante – sejam os ‘faladores’ que estão apenas provocando, outros que gostam de memes twee. Todo um ecossistema o abraçou. Obviamente, as imagens eróticas também são fundamentais para isso. O público-alvo é quase exclusivamente homens jovens.”
