cmover inteligência artificial há um salto segmentos emergentes da indústria musicalOs bots geradores de voz também estão a tornar-se uma bênção para outro canto improvável da Internet: os movimentos extremistas que os utilizam para recriar as vozes e os discursos de figuras proeminentes no seu ambiente, e os especialistas dizem que isso os está a ajudar a crescer.
“A adoção da tradução habilitada por IA por terroristas e extremistas marca uma evolução significativa nas estratégias de propaganda digital”, disse Lucas Weber, analista sênior de inteligência de ameaças da Tech Against Terrorism e pesquisador do Soufan Center. Weber é especialista em monitorar ferramentas online de grupos terroristas e extremistas em todo o mundo.
“Os métodos anteriores dependiam de tradutores humanos ou de tradução automática rudimentar, muitas vezes limitada pela fidelidade linguística e nuances estilísticas”, disse ele. “Agora, com o surgimento de ferramentas avançadas de IA generativa, esses grupos são capazes de produzir traduções perfeitas e contextualmente precisas que preservam o tom, a emoção e a intensidade conceitual em vários idiomas.”
Entre a extrema-direita neonazi, a adopção de software de clonagem de voz com IA já se tornou particularmente predominante, com várias versões em inglês dos discursos de Adolf Hitler a acumularem milhões de transmissões no X, Instagram, TikTok e outras aplicações.
de acordo com um Postagens de pesquisa recentes De acordo com a Rede Global sobre Extremismo e Tecnologia (GENET), os criadores de conteúdos extremistas recorreram a serviços de clonagem de voz, nomeadamente o ElevenLabs, e alimentaram-nos com discursos de arquivo da era do Terceiro Reich, que são depois processados para imitar Hitler em inglês.
aceleracionista neonazistaAqueles que planeiam actos terroristas contra os governos ocidentais, a fim de incitar o colapso social, também recorreram a estas ferramentas para difundir versões mais actualizadas da sua mensagem ultraviolenta. Por exemplo, Siege, um manual de insurreição escrito por um neonazista americano terrorista banido james pedreiro Tornou-se a Bíblia de fato para organizações como a Base e a agora extinta Divisão Atomwaffen, sendo transformada em audiolivro no final de novembro.
“Nos últimos meses estive envolvido na criação de um audiolivro de Siege, de James Mason”, disse um proeminente influenciador neonazista com forte presença no X e no Telegram, que montou o audiolivro com a ajuda de uma ferramenta de IA.
“Usando um modelo de voz personalizado de Mason, recriei cada boletim informativo e a maioria dos recortes de jornais que os acompanham para se parecerem com os boletins informativos originais publicados.”
O influenciador apreciou o poder da escrita de Mason desde a “América pré-Internet” e a transformou em uma voz moderna.
“Mas ouvir a surpreendente precisão das previsões feitas no início dos anos 80 marca realmente um marco no caminho e mudou a minha visão do nosso propósito comum a um nível fundamental”, disse ele.
No seu auge, em 2020, a base organizou um clube do livro sobre o cerco, que teve um impacto significativo em muitos membros, que discutiram os seus benefícios numa hipotética guerra contra o governo dos EUA. Uma investigação nacional de contraterrorismo do FBI acabou por implicar mais de uma dúzia dos seus membros em várias acusações relacionadas com o terrorismo no mesmo ano.
Joshua Fisher-Birch, analista de terrorismo do Counter Extremism Project, disse: “Os criadores de audiolivros lançaram conteúdo de IA semelhante antes; no entanto, a história de Siege é mais notória”, devido ao seu status de culto entre alguns membros da extrema direita online, sua promoção da violência de um ator solitário e sua leitura obrigatória por muitos grupos neonazistas que apoiam abertamente o terrorismo e cujos membros cometeram atos criminosos violentos.
Weber diz que os meios de comunicação pró-Estado Islâmico em redes criptografadas estão atualmente e ativamente “usando IA para criar representações de texto para fala de conteúdo ideológico de publicações oficiais”, “para turbinar a propagação de sua mensagem, convertendo propaganda baseada em texto em narrativas multimídia envolventes”.
Grupos terroristas jihadistas encontraram utilidade na IA para traduzir ensinamentos extremistas do árabe em conteúdo multilíngue de fácil digestão. No passado, o American-Imam tornou-se o operador da Al-Qaeda Anwar al-AwlakiA promoção de recrutamento na Anglosfera exige aulas presenciais de inglês. A CIA e o FBI têm Impacto frequentemente citado A voz de Al-Awlaki é um grande contágio na difusão da mensagem da Al-Qaeda.
No Rocket.Chat – a plataforma de comunicação preferida do Estado Islâmico, que utiliza para comunicar com os seus seguidores e recrutas – um utilizador publicou em Outubro um videoclip com gráficos atraentes e legendas em japonês, comentando as dificuldades de o fazer sem o advento da IA.
“O japonês será uma língua extremamente difícil de traduzir para o inglês a partir do seu estado original, mantendo ao mesmo tempo a sua eloquência”, disse um utilizador pró-Estado Islâmico. “É preciso saber que não utilizo inteligência artificial para nenhuma mídia relacionada, com algumas exceções em relação ao áudio.”
Até agora, não só o Estado Islâmico, mas vários grupos ideológicos começaram a utilizar aplicações gratuitas de IA, nomeadamente o chatbot da OpenAI, ChatGPT, para melhorar as suas actividades globais. Os grupos de base e adjacentes utilizaram-no para produzir imagens, ao mesmo tempo que reconheceram o uso destas ferramentas para agilizar o planeamento e a investigação já em 2023.
As autoridades antiterroristas sempre consideraram a Internet e os avanços tecnológicos como um jogo constante para acompanhar os grupos terroristas que os exploram. A Base, o Estado Islâmico e outros extremistas já aproveitaram as tecnologias emergentes Crypto para arrecadar dinheiro anonimamente E compartilhe arquivos de armas de fogo impressas em 3D.
