WASHINGTON – O presidente dos EUA, Joe Biden, assinou em 24 de outubro o primeiro memorando de segurança nacional detalhando como o Pentágono, as agências de inteligência e outras instituições de segurança nacional devem usar e proteger a tecnologia de inteligência artificial, colocando “proteções” sobre como essas ferramentas são empregadas em decisões que variam de armas nucleares à concessão de asilo.
O novo documento é o mais recente de uma série emitida por Biden que enfrenta os desafios da utilização de ferramentas de IA para acelerar as operações governamentais – seja na detecção de ataques cibernéticos ou na previsão de condições meteorológicas extremas – ao mesmo tempo que limita as possibilidades mais distópicas, incluindo o desenvolvimento de armas autónomas.
Mas a maior parte dos prazos que o despacho estabelece para as agências realizarem estudos sobre a aplicação ou regulamentação das ferramentas entrarão em pleno vigor depois que Biden deixar o cargo, deixando em aberto a questão de saber se o próximo governo os cumprirá.
Embora a maioria dos memorandos de segurança nacional sejam adoptados ou alterados à margem por sucessivos presidentes, está longe de ser claro como o antigo Presidente Donald Trump abordaria a questão se fosse eleito em Novembro.
A nova directiva foi anunciada em 24 de Outubro no National War College, em Washington, pelo Sr. Jake Sullivan, o conselheiro de segurança nacional, que impulsionou muitos dos esforços para examinar as utilizações e ameaças das novas ferramentas.
Reconheceu que um desafio é que o governo dos EUA financia ou possui muito poucas das principais tecnologias de IA – e que evoluem tão rapidamente que muitas vezes desafiam a regulamentação.
“O nosso governo desempenhou um papel inicial e crítico na definição dos desenvolvimentos – desde a física nuclear e a exploração espacial até à computação pessoal e à Internet”, disse Sullivan.
“Esse não foi o caso na maior parte da revolução da IA. Embora o Departamento de Defesa e outras agências tenham financiado uma grande parte do trabalho de IA no século XX, o sector privado impulsionou grande parte do progresso da última década.”
Os assessores de Biden afirmaram, no entanto, que a ausência de directrizes sobre como a IA pode ser utilizada pelo Pentágono, pela CIA ou mesmo pelo Departamento de Justiça tem impedido o desenvolvimento, uma vez que as empresas se preocupam com quais aplicações poderiam ser legais.
“A IA, se utilizada de forma adequada e para os fins pretendidos, pode oferecer grandes benefícios”, concluiu o novo memorando.
“Se for mal utilizada, a IA poderá ameaçar a segurança nacional dos Estados Unidos, reforçar o autoritarismo em todo o mundo, minar instituições e processos democráticos, facilitar violações dos direitos humanos” e muito mais.
Tais conclusões tornaram-se avisos comuns agora.
Mas são um lembrete de como será muito mais difícil estabelecer regras para a IA do que criar, por exemplo, acordos de controlo de armas na era nuclear.
Tal como as armas cibernéticas, as ferramentas de IA não podem ser contadas ou inventariadas, e as utilizações quotidianas podem, como deixa claro o memorando, dar errado “mesmo sem intenção maliciosa”.
Esse foi o tema que a vice-presidente Kamala Harris apresentou quando falou pelos Estados Unidos em 2024 em conferências internacionais destinadas a reunir algum consenso sobre as regras sobre como a tecnologia seria utilizada.
Mas embora Harris, agora candidata presidencial democrata, tenha sido designada por Biden para liderar o esforço, foi notável que ela não tenha estado publicamente envolvida no anúncio de 24 de outubro.
O novo memorando contém cerca de 38 páginas na sua versão não classificada, com um apêndice confidencial.
Algumas das suas conclusões são óbvias: exclui, por exemplo, a possibilidade de permitir que os sistemas de IA decidam quando lançar armas nucleares; isso cabe ao presidente como comandante-chefe.
Embora pareça claro que ninguém gostaria que o destino de milhões dependesse da escolha de um algoritmo, a declaração explícita faz parte de um esforço para atrair a China para negociações mais profundas sobre os limites das aplicações de IA de alto risco.
Uma conversa inicial com a China sobre o tema, realizada na Europa na Primavera passada, não registou quaisquer progressos reais.
“Isto chama a atenção para a questão de como estas ferramentas afectam as decisões mais críticas que os governos tomam”, disse o Dr. Herbert Lin, um académico da Universidade de Stanford que passou anos a examinar a intersecção entre a IA e a tomada de decisões nucleares.
“Obviamente, ninguém dará os códigos nucleares ao ChatGPT”, disse o Dr. Lin. “Mas resta uma questão sobre quanta informação o presidente recebe é processada e filtrada através de sistemas de IA – e se isso é uma coisa má.”
O memorando exige um relatório anual ao presidente, elaborado pelo Departamento de Energia, sobre o “risco radiológico e nuclear” dos modelos “fronteiriços” de IA que podem facilitar a montagem ou o teste de armas nucleares.
Existem prazos semelhantes para avaliações classificadas regulares sobre como os modelos de IA poderiam tornar possível “gerar ou exacerbar ameaças químicas e biológicas deliberadas”.
As novas barreiras também proibiriam permitir que ferramentas de IA tomassem decisões sobre a concessão de asilo.
E proibiriam rastrear alguém com base na etnia ou religião, ou classificar alguém como um “terrorista conhecido” sem a participação de um humano.
Talvez a parte mais intrigante da ordem seja o facto de tratar os avanços do sector privado na IA como activos nacionais que precisam de ser protegidos contra espionagem ou roubo por adversários estrangeiros, tal como o eram as primeiras armas nucleares.
A ordem apela às agências de inteligência para que comecem a proteger o trabalho em grandes modelos de linguagem ou nos chips utilizados para impulsionar o seu desenvolvimento como tesouros nacionais, e que forneçam aos desenvolvedores do setor privado informações atualizadas ao minuto para salvaguardar as suas invenções.
Ele capacita uma organização nova e ainda obscura, o Instituto de Segurança de IA, sediado no Instituto Nacional de Padrões e Tecnologia, para ajudar a inspecionar ferramentas de IA antes de serem lançadas para garantir que não possam ajudar um grupo terrorista na construção de armas biológicas ou ajudar um uma nação hostil como a Coreia do Norte melhore a precisão dos seus mísseis.
E descreve detalhadamente os esforços para trazer os melhores especialistas em IA de todo o mundo para os Estados Unidos, tal como o país procurou atrair cientistas nucleares e militares após a Segunda Guerra Mundial, em vez de arriscar que trabalhassem para um rival como a Rússia. NYTIMES
