Karen Hao no Império da AI, Evangelistas AGI e o custo das crenças

No coração de todo império está a ideologia, um sistema de crenças que avança a ideologia e justifica a expansão.

Para as potências coloniais européias, era o cristianismo, uma promessa de salvar a alma enquanto extraia recursos. Para o império da IA ​​de hoje, é uma informação geral artificial “beneficiar toda a humanidade”. E o Openai é seu principal evangelista, espalhando entusiasmo por toda a indústria com uma maneira de reformulação de construir a IA.

“Eu estava entrevistando pessoas cujas vozes estavam tremendo de seu entusiasmo por sua crença em Agi”, diz Karen Hao, jornalista e autora mais vendida.O Império de Ai‘ Episódios recentes de imparcial.

Em seu livro, Hao compara a indústria da IA ​​em geral e o Openai, em particular ao Império.

“A única maneira de entender verdadeiramente o escopo e a escala das ações da OpenAI é reconhecer que, na realidade, já se tornou mais forte do que quase todas as nações do mundo, consolidando uma quantidade extraordinária de poder político e de poder econômico”, disse Hao. “Eles estão aterrorando a terra. Eles estão religando nossa geopolítica, tudo em nossas vidas. E você só pode descrevê -lo como um império”.

O Openai descreveu a AGI como “um sistema muito autônomo que supera os seres humanos na tarefa mais economicamente valiosa”. Isso explica: “Aumentaremos a humanidade, aprimorando a humanidade, apoiando a descoberta de novos conhecimentos científicos que mudarão os limites das possibilidades”.

Essas promessas ambíguas impulsionaram o crescimento exponencial da indústria – demanda por seus recursos maciços, os oceanos de dados descartados, grades de energia tensa e vontade de desbloquear o mundo ao mundo. Muitos especialistas servem um futuro onde podem não chegar.

Hao diz que esse passe é inevitável e que a escala não é a única maneira de obter mais progresso com a IA.

“Também podemos desenvolver novas tecnologias com algoritmos”, disse ela. “Podemos melhorar os algoritmos existentes para reduzir a quantidade de dados e calcular os dados que precisam ser usados”.

Mas essa tática significaria velocidade de sacrifício.

“Ao definir a busca pela vitória para construir Agis úteis como algo que tira tudo, foi o que o Openrai fez – e, o mais importante, acelerar mais do que qualquer outra coisa”, disse Hao. “Velocidade pré-eficiente, velocidade de segurança, velocidade da pesquisa exploratória”.

Para o OpenAI, a melhor maneira de garantir a velocidade é pegar técnicas existentes e “fazer algo de maneira inteligente, enviando mais dados, mais supercomputadores para técnicas existentes”, disse ela.

O Openai preparou o terreno e, em vez de ficar para trás, decidiu se alinhar com outras empresas de alta tecnologia.

“E como a indústria de IA adquiriu com sucesso a maioria dos principais pesquisadores de IA do mundo e esses pesquisadores não existem mais na academia, todo o campo é moldado pela agenda dessas empresas, e não pela exploração científica real”, disse Hao.

As despesas são astronômicas e serão. Na semana passada, o Openai disse que esperava queimar US $ 115 bilhões em dinheiro Até 2029, Meta disse que seria em julho US $ 72 bilhões Sobre a construção da infraestrutura de IA deste ano. O Google espera alcançar US $ 85 bilhões Para 2025 despesas de capital, a maior parte será gasta em expansão da IA ​​e da infraestrutura em nuvem.

Enquanto isso, o objetivo continua se movendo e, mesmo com o crescente número de danos, o mais “bom para a humanidade” ainda não foi realizado. Danos como desemprego, concentração de riqueza e AI Chatbots combustível delírios e doenças mentais. Em seu livro, Hao também documentou trabalhadores em países em desenvolvimento como Quênia e Venezuela, expostos a conteúdo perturbador, incluindo material de abuso sexual infantil, e recebeu salários muito baixos (cerca de US $ 1-2 por hora) em funções como moderação de conteúdo e rotulagem de dados.

Hao disse que é uma troca falsa para o avanço da IA ​​para os danos atuais, especialmente quando outras formas de IA trazem benefícios reais.

Ela ressaltou que ganhou o Prêmio Nobel pelo Google Deepmind Alfafoldfoi treinado em dados de sequência de aminoácidos e estruturas complexas de dobramento de proteínas, permitindo a previsão precisa da estrutura 3D das proteínas desse aminoácido.

“Esses são os tipos de sistemas de IA que precisamos”, disse Hao. “O Alphafold não causa crises de saúde mental para as pessoas. O Alphafold não leva a grandes danos ambientais, porque é treinado com uma quantidade bastante pequena de infraestrutura. Não há danos na moderação do conteúdo.

Juntamente com seu compromisso semi-religioso com a AGI, foi uma história sobre a importância das corridas. Batendo na China na corrida da IAentão o Vale do Silício pode ter um efeito de liberalização no mundo.

“O oposto aconteceu literalmente”, disse Hao. “A lacuna continua sendo fechada entre os EUA e a China, e o Vale do Silício teve um efeito não autônomo no mundo.

Obviamente, muitas pessoas argumentam que o OpenAI e outras empresas de IA estão beneficiando a humanidade, lançando o ChatGPT e outros modelos de idiomas em larga escala. Isso promete grandes benefícios de produtividade, automatizando tarefas como codificação, redação, pesquisa, suporte ao cliente e outras tarefas de trabalho de conhecimento.

Mas a maneira como o OpenAI é estruturado – alguns são organizações sem fins lucrativos, e algumas com fins lucrativos complicam como eles definem e medem seu impacto na humanidade. E isso é ainda mais complicado com as notícias desta semana. Openi chegou a um acordo com a Microsoft Isso acabará por torná -lo público.

Dois ex-pesquisadores de segurança do Openai disseram ao TechCrunch que temiam que os laboratórios de IA tenham começado a confundir organizações com fins lucrativos e missões sem fins lucrativos.

Hao refletiu essas preocupações e explicou os perigos de ser tão consumido pela missão da realidade ser ignorada.

“Embora exista o acúmulo de evidências de que o que eles estão construindo está realmente prejudicando uma quantidade razoável de pessoas, a missão mantém tudo isso no papel”, disse Hao. “É realmente perigoso e sombrio sobre isso. Você pode estar cercado pelo sistema de crenças que você construiu e perde contato com a realidade”.