A corrida para trazer a inteligência artificial para o mercado aumenta o risco de um desastre ao estilo de Hindenburg, que abala a confiança global na tecnologia, alertou um importante investigador.
Michael Wooldridge, professor de IA na Universidade de Oxford, disse que a ameaça decorre da imensa pressão comercial sobre as empresas de tecnologia para lançarem novas ferramentas de IA, com empresas desesperadas para conquistar clientes antes de compreenderem totalmente as capacidades dos produtos e potenciais falhas.
Há um aumento nos chatbots de IA de proteção facilmente marginalizado Ele disse que isso mostrou como os incentivos comerciais foram priorizados em vez de um desenvolvimento e testes de segurança mais cautelosos.
“É o cenário clássico da tecnologia”, disse ele. “Você tem uma tecnologia que é muito promissora, mas não foi testada tão rigorosamente quanto você gostaria, e a pressão comercial por trás dela é insuportável”.
Wooldridge, que proferirá a palestra do Prêmio Michael Faraday da Royal Society na noite de quarta-feira, intitulada “Esta não é a IA que nos foi prometida”, disse que o momento Hindenburg foi “muito louvável”, à medida que as empresas correm para implantar ferramentas de IA mais avançadas.
O Hindenburg, um dirigível de 245 metros que cruzava o Atlântico, preparava-se para pousar em Nova Jersey em 1937 quando pegou fogo, matando 36 tripulantes, passageiros e pessoal de terra. O inferno foi causado por uma faísca que acendeu os 200 mil metros cúbicos de hidrogênio que mantinham a aeronave no ar.
Wooldridge disse: “O desastre de Hindenburg destruiu o interesse global em aeronaves; naquela época era uma tecnologia morta, e um momento semelhante é um risco real para a IA.” Como a IA está incorporada em tantos sistemas, um incidente grave pode atingir quase todos os setores.
Os cenários que Wooldridge imagina incluem uma atualização de software mortal para carros autônomos, um hack baseado em IA que fecha companhias aéreas globais ou um colapso de uma grande empresa ao estilo do Barings Bank, desencadeado por uma IA fazendo algo estúpido. “Esses são cenários muito, muito plausíveis”, disse ele. “Há muitas maneiras pelas quais a IA pode dar errado em público”.
Apesar das preocupações, Wooldridge disse que não pretendia atacar a IA moderna. O seu ponto de partida é a lacuna entre o que os investigadores esperam e o que surgiu. Muitos especialistas antecipam a IA que calcula soluções para problemas e fornece respostas concretas e completas. Ele disse: “A IA contemporânea não é concreta nem perfeita: é muito, muito previsível”.
Isso acontece porque os grandes modelos de linguagem que sustentam os chatbots de IA atuais respondem prevendo a próxima palavra, ou parte de uma palavra, com base em uma distribuição de probabilidade aprendida no treinamento. Isso leva à IA Capacidades irregulares: Incrivelmente eficaz em algumas tarefas, mas terrível em outras.
O problema, disse Wooldridge, era que os chatbots de IA falhavam de maneiras inesperadas e não percebiam quando estavam errados, mas foram projetados para fornecer respostas confiáveis de qualquer maneira. Ele disse que, quando recebem respostas humanas e lisonjeiras, as respostas podem facilmente enganar as pessoas. O risco é que as pessoas comecem a tratar a IA como se fossem humanos. um em Pesquisa de 2025 De acordo com o Centro para Democracia e Tecnologia, cerca de um terço dos estudantes relataram que eles ou um amigo tiveram um relacionamento romântico com uma IA.
“As empresas querem abordar a IA de uma forma muito humana, mas acho que esse é um caminho muito perigoso”, disse Wooldridge. “Precisamos entender que estas são apenas planilhas glorificadas, são ferramentas e nada mais.”
Wooldridge vê pontos positivos no tipo de IA retratado nos primeiros anos de Star Trek. Em um episódio de 1968, O Dia da Pomba, o Sr. Spock interroga o computador da Enterprise, mas é informado por uma voz distintamente não humana o que ele contém. Dados insuficientes para responder. Ele disse: “Não é isso que obtemos. Temos uma IA excessivamente confiante que diz: Sim, aqui está a resposta”. “Talvez precisemos de uma IA para falar conosco pela voz de um computador de Star Trek. Você nunca acreditaria que era um humano.”
