Neste verão, os hackers russos tiveram uma nova reviravolta na barragem do e -mail de pesca enviada aos ucranianos.
Os hackers incluem um anexo de uma inteligência artificial programada. Se instalado, ele procurará automaticamente os computadores das vítimas para obter arquivos sensíveis a serem enviados de volta para Moscou.
Detalhes do relatório técnico de julho a esta campanha Governo ucraniano E vários Agências de cibercireçãoAs agências de inteligência russa são o primeiro exemplo conhecido da criação de códigos contaminados, incluindo grandes modelos de idiomas (LLM), o tipo de AI Chatbots se tornou onipresente na cultura corporativa.
Esses espiões russos não estão sozinhos. Nos últimos meses, aparentemente cada faixa – criminosos cibernéticos, espiões, pesquisadores e defensores corporativos hackers começaram a incluir equipamentos de IA em seu trabalho.
LLM, como Chatzipi, ainda é propenso a erros. No entanto, eles se tornaram significativamente proficientes no processamento de instruções da linguagem e traduzindo -as em linguagem simples ou identificando e informar documentos.
A tecnologia ainda não se tornou uma revolução em hackers, transformando os recém -casados em especialistas, nem permitiu que os cibertistas fechassem a grade eletrônica. No entanto, está tornando os hackers qualificados melhor e mais rápidos. As empresas e pesquisadores da CyberCamements agora estão usando hackers de Ai-Appetite que encontram defeitos de software e alimentavam um jogo em crescimento de gatos e camundongos entre os defensores que primeiro tentam corrigi-los.
“Este é o começo do início”, disse Heather Adkins, vice -presidente de engenharia de segurança do Google.
Em 2024, a equipe de Adkins lançou um projeto para procurar o LLM, GEMI, importantes fraquezas ou insetos do software no Google, antes que os hackers criminais os encontrassem. No início deste mês, Adkins anunciou que sua equipe ainda havia descoberto Pelo menos 20 importantes, ignorando bugs Geralmente usavam as empresas de software e alerta para que possam corrigi -las. Esse processo está em andamento.
Ele disse que nenhuma das fraquezas ficou chocada ou não só poderia descobrir nenhuma máquina, disse ele. No entanto, o processo é mais rápido, com apenas uma IA. “Eu não encontrei ninguém romance”, disse ele. “Como podemos fazer isso já sabem o que é fazer apenas para fazê -lo, mas vai seguir em frente”
Adam Meyers, vice -presidente sênior da empresa de segurança cibernética, disse que sua empresa não estava usando a IA para ajudar as pessoas que não estão apenas usando a IA, mas também veem a crescente evidência de seu uso de hackers chineses, russos, irãs e criminais.
“Os oponentes mais avançados estão usando -o para seu benefício”, disse ele. “Estamos vendo mais de um dia”, disse ele à NBC News.
A mudança acabou de começar a capturar o hype que envolve a cibercuidade e a IA Industries ao longo dos anos, especialmente desde que o ChatGPT foi introduzido às pessoas em 2022, que essas ferramentas nem sempre foram comprovadas para serem eficazes, e alguns pesquisadores da cybercuity reclamavam de ler hackers. Pesquisa de enfraquecimento da malha gerada com IAO
Scammer e engenheiros sociais – hackers abre as pessoas que fingem ser outra pessoa ou aqueles que escrevem os e -mails visíveis de phishing – LLM tem sido usado para ser mais visível desde pelo menos 2024O
No entanto, o uso da IA para hackear objetivos diretos acaba de começar, por Will Pierce, CEO da DreadNode, um punhado de novas agências de segurança especializadas em hackers usando LLMS.
Ele disse que o motivo é simples: a tecnologia finalmente começou a captar as expectativas.
“Tecnologia e modelos são realmente bons no momento”, disse ele.
Menos de dois anos atrás, o equipamento automatizado de hackers de IA exigiria um ajuste significativo para fazer seu trabalho corretamente, mas agora eles são muito mais proficientes, disse à Pierce NBC News.
Outra startup construída para invadir a história do XBO, tornando -se a primeira IA no topo da tabela de classificação dos EUA, um placar ao vivo em todo o mundo, que identificou as fraquezas mais importantes dos hackers de 2016 e manteve o orgulho. Na semana passada, Hackron Adicionado a uma nova categoria Equipamento de hackers de IA para grupos distinguir automaticamente de pesquisadores humanos individuais. XBO ainda lidera isso.
Hackers e profissionais de cyberquacia não se decidiram se a IA finalizará os atacantes ou defensores na final. No entanto, neste momento, a defesa parece vencer.
Alexei Bulagel, diretora cibernética sênior do Conselho de Segurança Nacional da Casa Branca, disse em um painel na Conferência de Hacker Con Las Vegas na semana passada que essa tendência seria pelo menos o menos enquanto as agências de tecnologia mais avançadas do mundo.
“Acredito firmemente que a IA seria mais conveniente para os defensores do que o crime”, disse Bulagel.
Ele mencionou que os hackers encontram falhas extremamente disruptivas em uma grande organização de tecnologia dos EUA, e os criminosos geralmente encontram falhas pequenas e negligenciadas em pequenas empresas e entram no computador onde não há equipe de ciberquaca de elite. Ele disse que a IA foi especialmente útil para descobrir esses insetos antes de fazer criminosos de IA, disse ele.
Bulagel disse: “A IA é melhor em coisas que são melhores – para identificar fraquezas a um baixo custo, da maneira mais simples – o fato de que o acesso à informação de fraqueza é democrática”, disse Bulagel.
A tecnologia não pode manter essa tendência à medida que se desenvolveu. Uma razão é que não há livre para uso da IA para ter equipamentos de hackers automáticos ou examinador de intrusão. Esses equipamentos nacionais já estão amplamente disponíveis on -line, como um programa nominal que testa defeitos de prática usados por hackers criminais.
Se alguém incluir um LLM avançado e ele ficar disponível gratuitamente, provavelmente significará a temporada aberta em programas de pequenas empresas, disse Adkins, do Google.
“Acho que também é razoável levá -lo a alguém que uma vez que se revele (como uma ferramenta)”, disse ele. “É isso que eu acho que se torna um pouco perigoso”.
Myers, da Crowdstrike, disse que a ascensão do agente AI – o equipamento que conduz tarefas mais complexas, como escrever e enviar ou executar programas – pode provar o risco de um cibercópio maior.
“O agente AI é realmente ai que pode agir em seu nome, não é? Ele se tornará a próxima ameaça subjacente, porque esses agentes implantaram IA, eles não têm construído -para impedi -lo de abusar”, disse ele.
