Centenas de personalidades, incluindo cientistas vencedores do Prémio Nobel, antigos líderes militares, artistas e membros da realeza britânica, assinou um comunicado na quarta-feira Os computadores exigiam a proibição de trabalhos que pudessem levar à superinteligência, um estágio de inteligência artificial ainda a ser alcançado e que, segundo eles, poderia um dia ameaçar a humanidade.
A declaração propôs “uma moratória sobre o desenvolvimento da superinteligência” até que haja “amplo consenso científico de que isso pode ser feito de forma segura e controlada” e “forte adesão pública”.
Organizada por pesquisadores de IA preocupados com o ritmo acelerado do progresso tecnológico, a declaração conta com mais de 800 assinaturas de diversos grupos. Entre os signatários estão ganhadores do Nobel e pesquisadores de IA Geoffrey HintonEx-presidente do Estado-Maior Conjunto Mike Mullen, rapper William, ex-assessor de Trump na Casa Branca Steve Bannon e o príncipe Harry do Reino Unido e sua esposa Meghan Markle.
Adiciona uma declaração Uma lista crescente de pedidos de lentidão na IA Numa altura em que a IA ameaça remodelar grandes partes da economia e da cultura. OpenAI, Google, Meta e outras empresas tecnológicas estão a investir milhares de milhões de dólares em novos modelos de IA e nos centros de dados que os alimentam, enquanto empresas de todos os tipos procuram formas de adicionar funcionalidades de IA a uma vasta gama de produtos e serviços.
Alguns pesquisadores de IA acreditam que os sistemas de IA estão avançando rápido o suficiente para em breve demonstrarem como são chamados Inteligência Geral Artificialou a capacidade de realizar tarefas intelectuais como um ser humano. A partir daí, pesquisadores e executivos de tecnologia acreditam no que pode ser buscado Poderia ser superinteligênciaOnde os modelos de IA funcionam bem Ainda mais do que as pessoas mais experientes.
A declaração é um produto do Future of Life Institute, um grupo sem fins lucrativos que trabalha com riscos de grande escala, como armas nucleares, biotecnologia e IA. Entre seus primeiros apoiadores em 2015 Havia o bilionário da tecnologia Elon Muskque agora faz parte da corrida da IA com sua startup xAI. agora, Instituto dizSeu maior doador recente é Vitalik Buterin, cofundador A Blockchain EthereumE diz que não aceita subvenções de grandes empresas de tecnologia ou de empresas que procuram construir inteligência artificial geral.
Seu diretor executivo, Anthony Aguirre, físico da Universidade da Califórnia, em Santa Cruz, disse que os desenvolvimentos da IA estão acontecendo mais rápido do que o público entende o que está acontecendo ou o que vem a seguir.
“Em certo nível, escolhemos este caminho para nós pelas empresas e fundadores de IA e pelos sistemas económicos que conduzem, mas ninguém realmente perguntou a quase ninguém: ‘É isto que queremos?’”, disse ele numa entrevista.
“É bastante surpreendente para mim que tenha havido uma discussão menos direta sobre ‘Queremos essas coisas? Queremos sistemas de IA que substituam os humanos?'”
A declaração não se destina a nenhuma organização ou governo específico. Aguirre disse que espera promover um diálogo que inclua não apenas as grandes empresas de IA, mas também políticos dos Estados Unidos, da China e de outros lugares. Ele disse, administração Trump Abordagem pró-industrial IA requer equilíbrio.
Ele disse, as pessoas não querem isso. Ele disse que um acordo internacional sobre IA avançada poderá eventualmente ser necessário, uma vez que existem outras tecnologias potencialmente perigosas.
A Casa Branca não respondeu imediatamente a um pedido de comentário sobre a declaração antes da divulgação oficial de terça-feira.
os americanos estão divididos quase igualmente sobre o impacto potencial da IA, de acordo com uma pesquisa do NBC News Decision Desk conduzida pela SurveyMonkey este ano. Embora 44% dos adultos norte-americanos inquiridos tenham dito que pensavam que a IA tornaria a vida melhor para eles e para as suas famílias, 42% disseram pensar que iria piorar o seu futuro.
Os principais responsáveis tecnológicos, que previram a superinteligência e indicaram que estão a trabalhar nesse sentido, não assinaram a declaração. O CEO da Meta, Mark Zuckerberg, disse em julho que a superinteligência era “Agora à vista” Musk postou no X em fevereiro que o advento da superinteligência digital “acontecendo em tempo real“E avisado”Robôs estão matando pessoas nas ruas“Embora agora a Tesla, onde Musk é CEO, esteja trabalhando Construa robôs humanóides. O CEO da OpenAI, Sam Altman, disse isso no mês passado Ele ficará surpreso Se a superinteligência não chegar até 2030 e um Postagem de janeiro no blog Foi aí que sua empresa voltou sua atenção.
Várias empresas de tecnologia não responderam imediatamente aos pedidos de comentários sobre a declaração.
Na semana passada, o O Instituto Futuro da Vida disse à NBC News Que a OpenAI intimou ela e seu presidente em retaliação aos pedidos de supervisão da IA. O diretor de estratégia da OpenAI, Jason Kwon, escreveu em 11 de outubro que a intimação foi o resultado das suspeitas da OpenAI sobre as fontes de financiamento de vários grupos sem fins lucrativos que criticaram sua reestruturação.
Outros signatários da declaração incluem o cofundador da Apple, Steve Wozniak, o cofundador do Virgin Group, Richard Branson, o conservador apresentador de talk show Glenn Beck, a ex-assessora de segurança nacional dos EUA Susan Rice, o físico ganhador do Nobel John Mather, o vencedor do Prêmio Turing e pesquisador de IA Joshua Bengio e o reverendo Paolo Benzio. Vários pesquisadores de IA baseados na China também assinaram a declaração.
Aguirre disse que o objetivo é um conjunto mais amplo de signatários em toda a sociedade.
“Queremos que seja uma permissão social para as pessoas falarem sobre isso, mas queremos representar que este não é um problema exclusivo de alguns nerds do Vale do Silício, que muitas vezes são as únicas pessoas na mesa.
