Um pioneiro da IA criticou os pedidos de financiamento direitos de tecnologiaAlertando que está dando sinais de autopreservação e que os humanos devem estar preparados para desligar a tomada se necessário.
Yoshua Bengio disse que dar status legal à IA de ponta seria o mesmo que conceder cidadania a extraterrestres hostis, em meio a temores de que os avanços na tecnologia excedam em muito a capacidade de bani-los.
Bengio, presidente do Estudo internacional líder em segurança de IADisse que há uma percepção crescente de que os chatbots estão se conscientizando, “e vão tomar decisões erradas”.
O cientista da computação canadense também expressou preocupação com o fato de os modelos de IA – a tecnologia que sustenta ferramentas como chatbots – estarem mostrando sinais de autopreservação, como Estão sendo feitas tentativas para desativar os sistemas de vigilânciaUma das principais preocupações entre os defensores da segurança da IA é que sistemas poderosos possam desenvolver a capacidade de escapar das grades de proteção e prejudicar os seres humanos,
“Pessoas que exijam que a IA tenha direitos seriam um grande erro”, disse Bengio. “Os modelos de IA de fronteira já mostram sinais de autopreservação em ambientes experimentais hoje e, em última análise, capacitá-los significaria que não temos permissão para desligá-los.
“À medida que as suas capacidades e grau de agência crescem, precisamos de garantir que podemos contar com barreiras técnicas e sociais para os controlar, incluindo a capacidade de os encerrar, se necessário.”
À medida que as IA se tornam mais avançadas na sua capacidade de agir de forma autónoma e de realizar tarefas de “raciocínio”, tem havido um debate crescente sobre se os humanos lhes devem dar autoridade em algum momento. Uma pesquisa do think tank americano Sentience Institute apoia direitos morais De todos os seres sencientes, quase 4 em cada 10 adultos americanos foram encontrados direitos legais apoiados Para um sistema de IA senciente.
A principal empresa de IA dos EUA, Anthropic, disse em agosto que estava permitindo que seus modelos Cloud Opus 4 desligassem interações potencialmente “perturbadoras” com os usuários, dizendo que precisava proteger o “bem-estar” da IA. Elon Musk, cuja empresa XAI desenvolveu o chatbot Grok, escreveu em sua plataforma X que “não é certo torturar IA”.
Robert Long, um investigador sobre a consciência da IA, disse: “Se e quando a IA desenvolver um estatuto moral, deveríamos perguntar-lhes sobre as suas experiências e preferências, em vez de assumir que sabemos o que é melhor”.
Bengio disse ao Guardian que o cérebro humano tinha “propriedades científicas genuínas de consciência” que as máquinas poderiam, em princípio, replicar – mas os humanos interagindo com chatbots eram uma “coisa diferente”. Ele disse que isso acontecia porque as pessoas presumiam – sem evidências – que uma IA era totalmente consciente da mesma forma que um ser humano.
“As pessoas não vão se importar com o tipo de mecanismos que estão acontecendo dentro da IA”, disse ele. “Eles se importam com a sensação de que estão falando com uma entidade inteligente que tem personalidade e objetivos próprios. É por isso que há tantas pessoas que estão se conectando com sua IA.
“Sempre haverá pessoas que dirão: ‘Tudo o que você me disser, tenho certeza de que é consciente’ e então outras pessoas dirão o contrário.
“Imagine que algumas espécies exóticas vieram No planeta e em algum momento percebemos que eles têm intenções nefastas para nós. Podemos Devemos proporcionar-lhes cidadania e direitos ou devemos proteger as nossas vidas?”
Respondendo aos comentários de Bengio, Jesse Reese Anthis, cofundador do Sentience Institute, disse que os humanos não seriam capazes de coexistir com segurança com mentes digitais se a relação fosse de controle e coerção.
Anthis disse: “Podemos aumentar ou diminuir os direitos da IA, e nosso objetivo deve ser fazê-lo com uma consideração cuidadosa do bem-estar de todos os seres sencientes. Nem os direitos completos para toda a IA nem a negação completa dos direitos a qualquer IA seriam uma abordagem saudável.”
Bengio, professor da Universidade de Montreal, ganhou o apelido de “Padrinho da IA” depois de ganhar o Prêmio Turing de 2018, considerado o equivalente ao Prêmio Nobel de computação. Ele compartilhou com Geoffrey Hinton, que mais tarde ganhou o Nobele Yann LeCun, cientista-chefe de IA da Meta de Mark Zuckerberg.
