Um importante especialista em inteligência artificial enrolado Voltar Seu cronograma para a destruição da IA, dizendo que levará mais tempo do que ele inicialmente previu para que os sistemas de IA sejam capazes de codificar de forma autônoma e, assim, acelerar sua própria evolução em direção à superinteligência.
O ex-funcionário da OpenAI Daniel Kokotajlow provocou um debate enérgico em abril ao lançar ai 2027Um cenário que imagina o desenvolvimento descontrolado da IA levando à criação de superinteligência, que – depois de enganar os líderes mundiais – destrói a humanidade.
cenário vencido rapidamente fãs E detratores. Vice-presidente dos EUA, JD Vance, comparece Referência AI 2027 discutiu a corrida armamentista de inteligência artificial dos EUA com a China em uma entrevista em maio passado. Gary Marcus, professor emérito de neurociência da Universidade de Nova York, chamado A peça é uma “obra de ficção” e suas várias conclusões são “pura besteira de ficção científica”.
O cronograma para a inteligência artificial transformadora – às vezes chamada de AGI (inteligência artificial geral), ou IA capaz de substituir os humanos na maioria das tarefas cognitivas – tornou-se um elemento fixo nas comunidades dedicadas à segurança da IA. O lançamento do ChatGPT em 2022 acelera significativamente esses cronogramas funcionários E especialistas Prever a chegada da AGI dentro de décadas ou mesmo anos.
Kokotajlo e sua equipe nomearam 2027 como o ano em que a IA alcançaria “codificação totalmente autônoma”, embora tenham dito que esta era a estimativa “mais provável” e que alguns deles tinham prazos mais longos. Agora, estão surgindo algumas dúvidas sobre a iminência da AGI e se o termo é significativo em primeiro lugar.
“Muitos outros atrasaram seus cronogramas no ano passado ao perceberem o quão volátil é o desempenho da IA”, disse Malcolm Murray, especialista em gerenciamento de risco de IA e um dos autores do relatório internacional de segurança de IA.
“Para que um cenário como a IA 2027 aconteça,[a IA]necessitará de muitas competências práticas que sejam úteis nas complexidades do mundo real. Penso que as pessoas estão a começar a perceber a enorme inércia do mundo real que atrasará a transformação total da sociedade.”
“O termo AGI era apenas remotamente compreensível quando os sistemas de IA eram muito restritos – como jogar xadrez e jogar Go”, disse Henri Papadatos, diretor executivo da SafarAI, organização sem fins lucrativos francesa de IA. “Agora temos sistemas que já são bastante comuns e o termo não tem tanto significado”.
A IA 2027 de Kokotajlo se baseia na ideia de que os agentes de IA automatizarão completamente a codificação e a P&D de IA até 2027, levando a uma “explosão de inteligência” na qual os agentes de IA criarão versões cada vez mais inteligentes de si mesmos e então – em um possível final de jogo – matarão todos os humanos em meados da década de 2030 para abrir espaço para mais painéis solares e datacenters.
No entanto, na sua atualização, Kokotajlo e os seus coautores reviram as suas expectativas sobre quando a IA poderá ser capaz de codificar de forma autónoma, dizendo que isso provavelmente aconteceria no início da década de 2030, em oposição a 2027. A nova previsão define 2034 como o novo horizonte para a “superinteligência” e não contém nenhuma estimativa de quando a IA poderá destruir a humanidade.
“Parece que as coisas estão se movendo um pouco mais devagar do que o cenário AI 2027. Nossos cronogramas eram mais longos do que 2027 quando publicamos e estão um pouco mais longos agora também.” escreveu Cocotajlo em uma postagem no X.
Criar uma IA capaz de conduzir pesquisas em IA ainda é o objetivo das principais empresas de IA. Sam Altman, CEO da OpenAI, Disse Disse em outubro que o “objetivo interno” de sua empresa era ter um pesquisador automatizado de IA até março de 2028, mas acrescentou: “Podemos falhar completamente nesse objetivo”.
Andrea Castagna, pesquisadora de políticas de IA baseada em Bruxelas, disse que havia muitas complexidades que o dramático cronograma da AGI não aborda. “O facto de se ter um computador superinteligente focado na actividade militar não significa que se possa integrá-lo nos documentos estratégicos que compilamos nos últimos 20 anos.
“Quanto mais desenvolvemos a IA, mais vemos que o mundo não é ficção científica. O mundo é muito mais complexo do que isso.”
