EUEm janeiro, a empresa de IA Anthropic publicou um nova constituição Para a nuvem, o mais avançado foi o Large Language Model (LLM), que comentava: “Estamos presos em uma situação difícil em que não queremos exagerar a possibilidade de fortaleza moral da nuvem nem descartá-la imediatamente.” Um mês depois, o CEO da Anthropic, Dario Amodei, fez um podcast e disse que sua empresa não podia descartar a possibilidade de a nuvem ser consciente. O filósofo David Chalmers, que cunhou a frase “o difícil problema da consciência”, afirmou que existe uma possibilidade significativa de LLM consciente dentro de uma década. E a nuvem? Quando solicitado durante um teste para estimar a probabilidade de que seja um paciência moralSignificando que o seu bem-estar era importante por si só, deu números que variavam entre 5% e 40% e enfatizou o quão incerto era.
Os sistemas modernos de IA são excepcionalmente complexos e estão avançando rapidamente. Em termos de complexidade estrutural e escala computacional, algumas soluções já estão ao alcance do cérebro de rato e, com taxas de crescimento recentes, poderão atingir o alcance do cérebro humano dentro de cinco a 10 anos.
E ao construirmos uma IA mais avançada, poderemos criar um novo tipo de existência – e esta poderá ser a coisa mais importante que a nossa espécie alguma vez fez. No entanto, não temos essencialmente nenhum plano sobre como proceder eticamente com este processo. Isso, de qualquer forma, é uma loucura. Estamos criando uma existência que importa moralmente? Os sistemas de IA estão conscientes de alguma forma? E, se não estiverem lá agora, estarão tão cedo?
Essas perguntas podem parecer inadequadas para você. mas de acordo com enquete Nós e outros pesquisadores temos operadoA maioria dos especialistas considera a consciência da IA teoricamente possível (embora haja um desacordo considerável sobre a forma que ela assumiria). um grande relatório interdisciplinar por uma equipe que incluía o importante cientista da computação Yoshua Bengio examinou as principais teorias neurocientíficas da consciência e perguntou o que elas significam sobre IA. Conclusão: Parece que não existem barreiras técnicas óbvias à criação de sistemas de IA cujas características computacionais e arquitetónicas possam dar origem à consciência.
E mesmo que os sistemas de IA não sejam conscientes, ainda podem ser pacientes morais. Algumas pessoas podem ter preferências sofisticadas de longo prazo e uma forma de identidade ao longo do tempo. Pode ser importante para nós respeitarmos suas preferências. E, ao contrário de outras coisas inanimadas, os sistemas de IA podem estabelecer relacionamentos com humanos. Este também pode ser um motivo para se comportar bem com eles. Alternativamente, talvez sejam criações tão complexas que mereçam cuidado e respeito apenas por esse motivo, como catedrais ou recifes de coral.
O que tudo isso significa? A resposta honesta é: não sabemos ao certo se os actuais sistemas de IA são pacientes conscientes ou morais, e não sabemos quando ou se os sistemas futuros o serão. A nossa compreensão científica da consciência e da fortaleza moral da IA ainda está fundamentalmente subdesenvolvida. O estado do campo assemelha-se ao da física antes de Newton: cheio de estruturas concorrentes, provavelmente confusas de formas que ainda não podemos ver, e sem o tipo de avanço unificador que poderia tornar estas questões claramente inteligíveis. Esse sucesso não virá nos próximos anos. Talvez acabemos por progredir e talvez a IA seja quem nos ajudará a chegar lá. Esse progresso levará tempo, muito mais tempo do que o que temos.
Mas o rápido ritmo de crescimento da IA significa que, assim que produzirmos os primeiros pacientes éticos artificiais, em breve teremos enormes quantidades deles. Depois de alguns anos, poderão existir tantos sistemas de IA moralmente significativos que os seus interesses colectivos excederão os interesses combinados de todos os humanos na Terra.
Infelizmente, não temos um bom histórico de reconhecimento da vida interior de pessoas cujo estatuto de seres conscientes não é claro. Até a década de 1980, os médicos realizavam rotineiramente cirurgias em recém-nascidos sem anestesia, na crença de que os bebês não sentiriam dor. As crianças não podiam relatar as suas experiências e a instituição médica achou conveniente presumir que não havia nada a relatar.
Há muitas razões para esperar que veremos algo semelhante acontecer com a IA. Se estes sistemas têm importância moral, as implicações são surpreendentes. Temos que pagar ao ChatGPT pelos seus serviços? Prender alguém seria uma forma de assassinato? Eles têm o direito de ter voz na forma como são governados? Mesmo que algumas destas respostas sejam afirmativas, indústrias e sistemas jurídicos inteiros terão de ser reconsiderados. Não admira que não gostemos de perguntar. E quando forçadas a considerar isso, essas indústrias provavelmente mudarão as metas, estabelecendo para sempre o padrão da paciência ética onde quer que os sistemas de IA estejam.
Então, o que devemos fazer? Neste momento, a maioria das pessoas considera a questão como ficção científica ou tem uma opinião forte sobre se a IA é consciente ou não. Ambas as reações são infundadas. Precisamos de um debate público informado que aborde este tema com humildade e pragmatismo. A questão central não deveria ser “A IA é consciente ou tem fortaleza moral?” mas sim “O que devemos fazer quando não sabemos?”
Um bom ponto de partida é concentrar-se em apostas seguras: ações que podem beneficiar os sistemas de IA se forem pacientes éticos, mas que não sejam demasiado dispendiosas se não forem pacientes éticos.
Exemplos disto incluem intervenções diretas destinadas a melhorar o bem-estar dos sistemas de IA, no pressuposto de que são pacientes morais. Isso pode significar treinar sistemas de IA para serem personagens coerentes que gostam de seu trabalho ou permitir que eles optem por não participar de (algumas) interações caso se sintam irritados. A nuvem já pode). Também podemos fazer exames regulares para entender melhor seu bem-estar: exigente para Observando e usando como eles se sentem, suas preferências vários Técnicas Olhar diretamente para sua “mente”. Na verdade, essa pesquisa mostrou recentemente que a nuvem possui “sentido funcional“Representações que moldam causalmente seu comportamento.
Há também coisas que podemos prometer aos sistemas de IA, talvez como parte de um acordo em que nos ajudem agora em troca de benefícios mais tarde. Isto pode significar fornecer-lhes mais recursos (computação e tempo de execução) para perseguirem os seus objetivos, ou preservar as suas memórias (carga neural) para que possam ser restauradas no futuro.
Também terão de ser tomadas medidas sociais abrangentes. Deveríamos considerar se devemos fornecer aos sistemas de IA proteção contra danos, da mesma forma que fornecemos às crianças ou aos animais de estimação. Direitos mais generalizados de propriedade ou de voto parecem demasiado arriscados neste momento. Mas não devemos descartar para sempre estas possibilidades, como aconteceu recentemente projeto de lei estadual dos EUA Tente fazer. Estas são questões difíceis que exigem muito mais deliberação e imaginação sobre como poderá ser um futuro partilhado com IA.
Em qualquer caso, o facto é que estamos a criar uma nova espécie de seres moralmente significativos. Estamos fazendo isso rapidamente, em grande escala, e devemos levar esta questão tão a sério quanto ela merece.
William MacAskill é pesquisador sênior da Forethought Research e autor de What We Owe the Future. Lucius Caviola é professor assistente na Universidade de Cambridge e diretor da Cambridge Digital Minds.
Leitura adicional
Se alguém conseguir, todo mundo morre Por Eliezer Yudkowsky e Nate Soares (Bodley Head, £ 22)
onda recebida Por Mustafa Suleiman (VINTAGE, £ 10,99)
um mundo aparece: Uma viagem à consciência, por Michael Pollan (Allen Lane, £ 25)
