O chefe da startup líder em IA, Anthropic, disse que a humanidade está entrando em uma fase de desenvolvimento de inteligência artificial que irá “testar quem somos como espécie”, argumentando que o mundo precisa “acordar” para os riscos.
O cofundador e presidente-executivo da empresa, Dario Amodei, está por trás acesse a nuvem do chatbotexpressou seus medos em um ensaio de 19.000 palavras intitulado “adolescência da tecnologia“.
Descrevendo o advento de sistemas de IA extremamente poderosos como potencialmente iminente, ele escreveu: “Acredito que estamos entrando em um ritual ao mesmo tempo perturbador e inevitável, que testará quem somos como espécie”.
Amodei disse: “A humanidade está prestes a receber um poder quase inimaginável e não está profundamente claro se os nossos sistemas sociais, políticos e tecnológicos têm maturidade para exercê-lo”.
Empreendedor tecnológico, cuja empresa Supostamente valendo US$ 350 bilhões (£ 255 bilhões) disse que seu ensaio foi uma tentativa de “sacudir as pessoas”, pois o mundo precisa “acordar” para a necessidade de ação em relação à segurança da IA.
Amodei publicou o texto enquanto o governo do Reino Unido anunciava que a Anthropic ajudaria a criar chatbots que forneceriam aconselhamento profissional e assistência aos candidatos a emprego na procura de emprego, como parte do desenvolvimento de assistentes de IA para serviços públicos em geral. Na semana passada, a empresa publicou uma “constituição” de 80 páginas para a nuvem, na qual delineava como pretende tornar a sua IA “amplamente segura e amplamente ética”.
Amodei cofundou a Anthropic em 2021 com outros ex-funcionários da rival OpenAI, que desenvolveu o ChatGPT. Uma voz líder em segurança online Conhecido por alertar constantemente Sobre os perigos do desenvolvimento descontrolado da IA, escreveu que o mundo está “muito mais perto do perigo real” em 2026 do que em 2023, quando o risco existencial da IA estava a ser debatido. agenda política avançada.
Ele apontou para a controvérsia sobre deepfakes eróticos criados por Grok AI de Elon Musk Plataforma de mídia social inundada No Natal e Ano Novo, incluindo avisos Chatbot estava criando material de abuso sexual infantil.
Amodei escreveu: “Algumas empresas de IA demonstraram uma negligência perturbadora em relação ao abuso sexual infantil nos modelos atuais, o que me torna cético quanto à inclinação ou capacidade de lidar com os riscos de autonomia em modelos futuros”.
O CEO da Antrópico disse que sistemas poderosos de IA que podem criar seus próprios sistemas de forma autônoma podem levar de um a dois anos.
Ele definiu “IA poderosa” como um modelo – a tecnologia que sustenta ferramentas como chatbots – que é mais inteligente do que um vencedor do Prémio Nobel em áreas como biologia, matemática, engenharia e escrita. Ele pode dar ou receber instruções para humanos e, embora “viva” na tela de um computador, pode controlar robôs e até mesmo projetá-los para seu próprio uso.
Reconhecendo que a IA poderosa pode estar “bem à frente” do cronograma de dois anos, Amodei disse que o rápido progresso recente feito pela tecnologia deve ser levado a sério.
Ele escreveu: “Se a exponencial continuar – o que não é certo, mas agora há um histórico de uma década que a apoia – então pode não demorar mais do que alguns anos para que a IA seja melhor que os humanos em essencialmente tudo.”
No ano passado, Amodei alertou que A IA poderia cortar pela metade todos os empregos básicos de colarinho branco E reduzir o desemprego global para 20% nos próximos cinco anos.
No seu ensaio, Amodei advertiu que as recompensas económicas da IA, como os ganhos de produtividade resultantes da eliminação de empregos, poderiam ser tão grandes que ninguém pisaria nos travões.
“Essa é a armadilha: a IA é tão poderosa, um prémio tão maravilhoso, que é muito difícil para a civilização humana impor-lhe quaisquer restrições”, disse ele.
No entanto, Amodei disse estar optimista quanto a uma conclusão positiva: “Acredito que se agirmos de forma decisiva e cuidadosa, os riscos podem ser ultrapassados - eu iria mais longe e diria que as nossas hipóteses são boas. E há um mundo muito melhor do outro lado disto. Mas precisamos de compreender que este é um sério desafio civilizacional.”
