Quantum Systems é cliente do Business Reporter
No meio da guerra da Rússia contra a Ucrânia, uma ideia ganhou força significativa: os drones totalmente autónomos representam o futuro da defesa. Menos pessoas, mais máquinas, resultados mais rápidos. A autonomia, nesta narrativa, é considerada uma proxy do progresso e, muitas vezes, até da inteligência.
Este é um equívoco perigoso.
A resistência contínua da Ucrânia à Rússia mostrou ao mundo, com toda a probabilidade, quão profundamente a guerra moderna mudou. Sistemas grandes, caros e de adaptação lenta não são mais o fator determinante. Em vez disso, pequenos sistemas não tripulados definidos por software dominam o campo de batalha porque são rapidamente adaptáveis, económicos e integrados num amplo ecossistema de informação.
O que aprendemos com a Ucrânia é que o que mais importa não é se um sistema pode funcionar sem intervenção humana durante o maior tempo possível. O que importa é se pode ajudar as pessoas a ver, compreender e tomar decisões mais rapidamente do que os seus homólogos.
A realidade do campo de batalha moderno
Em nenhum outro lugar ficou mais claro como as condições do mundo real são implacáveis para a tecnologia. Os sistemas operam em ambientes desafiadores e imprevisíveis. O sinal GPS desaparece. A comunicação é interrompida. Os dados estão incompletos, desatualizados ou contraditórios. Esses não são mais casos extremos; Eles são a linha de base.
Sistemas totalmente autônomos podem ter um desempenho impressionante em ambientes controlados, mas, na realidade, quando as condições mudam inesperadamente, o risco de falha aumenta drasticamente. A inteligência não consiste em operar no vácuo, mas em gerir a ambiguidade, o contexto e a incerteza – áreas onde os seres humanos são essenciais.
É por isso que a autonomia é muitas vezes confundida com inteligência. Presumimos que remover humanos do circuito automaticamente melhora o sistema. Na prática, muitas vezes remove o elemento que permite que os sistemas se adaptem à complexidade.
Em que a IA é realmente boa
A inteligência artificial tornou-se indispensável nos sistemas não tripulados modernos, não porque substitua o julgamento humano, mas porque resolve um problema muito real: a sobrecarga cognitiva.
Os conflitos modernos geram grandes quantidades de informação: feeds de vídeo, dados de sensores, mapas, alertas e sinais chegam simultaneamente. Nenhum ser humano consegue processar tudo isto em tempo real. A IA é excelente na filtragem de ruídos, na priorização de sinais relevantes, no reconhecimento de padrões e na preparação de informações para os tomadores de decisão.
Neste sentido, o papel mais significativo da IA hoje é o de assistência. Encurta o caminho da observação à compreensão, reduz o potencial de erro humano em situações de alto estresse e permite decisões rápidas e bem informadas. Mas a responsabilidade final cabe ao povo.
O controle humano significativo não é um freio à inovação
As novas tecnologias estão a transformar a guerra, ao mesmo tempo que levantam questões éticas desconfortáveis. Quem é responsável quando as máquinas tomam decisões de vida ou morte? Como podemos garantir o cumprimento do direito internacional? Como é que as sociedades democráticas competem com adversários que ignoram completamente as fronteiras morais?
A resposta não pode ser estática. A velocidade é importante, e aqueles que ignoram as regras não farão uma pausa para um debate moral. Da mesma forma, a responsabilidade de resposta das sociedades democráticas não pode ser abdicada.
O controle humano significativo é crucial. Isso não significa que os humanos tenham que lidar com todas as funções manualmente – a automação cuida da velocidade, da repetição e do processamento de dados. As pessoas fornecem contexto, julgamento e responsabilidade moral quando necessário, especialmente em situações complexas ou ambíguas. Temos de continuar a investir e a inovar – manter uma vantagem tecnológica significa que este imperativo moral pode continuar a ser a nossa força e não uma desvantagem no campo de batalha.
A autonomia em sistemas de armas não é nova – desde sistemas automatizados de defesa aérea até mísseis do tipo “dispare e esqueça”. O que a IA faz é acelerar e ampliar as formas existentes de automação. O factor determinante não é, portanto, se existe autonomia, mas como, sob que regras e sob que transparência a supervisão é assegurada quando os sistemas enfrentam situações ambíguas.
Os regulamentos devem acompanhar a realidade
O controle é essencial na tecnologia de defesa. Devem ser traçadas linhas vermelhas claras no que diz respeito à ética, ao comportamento responsável e ao direito internacional. Ao mesmo tempo, os quadros regulamentares têm de ser suficientemente ágeis e adaptáveis para reflectir as realidades de segurança actuais.
Em toda a Europa, são necessárias regras mais claras e mais ágeis, em vez de sufocar a inovação responsável. Se a regulação ficar muito atrás dos desenvolvimentos tecnológicos e geopolíticos, os Estados democráticos correm o risco de perder a sua capacidade de proteger o seu povo, a sua soberania e os seus valores.
O debate é importante não só para a Ucrânia, mas também para a própria segurança da Europa – desde os Estados Bálticos situados na extremidade oriental da NATO até à protecção de infra-estruturas críticas a nível interno.
O futuro será sem homens – mas não desumano
Alguns argumentam que a IA inevitavelmente tornará a guerra mais rápida e perigosa. A verdade é mais matizada. A IA pode reduzir erros, melhorar a consciência situacional e ajudar a salvar vidas se for utilizada de forma responsável.
O progresso não será definido pela remoção total dos seres humanos da equação. Será definido pela forma como os sistemas apoiam as pessoas sob pressão, pela transparência com que comunicam os seus limites e pela intensidade com que os decisores humanos são responsabilizados.
O futuro da defesa será, de facto, cada vez mais não tripulado. Mas a inteligência não é medida apenas pela autonomia. E se errarmos, corremos o risco de criar sistemas rápidos, mas cegos – poderosos, mas ignorantes de situações complexas.
Para uma sociedade democrática, este é um risco que não podemos permitir.
