OpenAI dissolve equipe de coordenação de missão para se concentrar no desenvolvimento de IA “seguro” e “confiável”

A OpenAI, como empresa, dissolveu sua equipe para se concentrar em: explicado – Garantir que os sistemas de IA sejam “seguros, confiáveis ​​e consistentemente consistentes com os valores humanos”. Ao mesmo tempo, o ex-líder da equipe recebeu um novo papel como “chefe futurista” da empresa.

A OpenAI confirmou ao TechCrunch que os membros da equipe foram atribuídos a outras funções. A notícia é relatado pela primeira vez Por plataforma.

A equipe de dissolução em questão é Formado em setembro de 2024era uma unidade interna da startup dedicada a trabalhar na coordenação. isso é ampla gama de interesses Nas indústrias que procuram garantir que a IA atue de acordo com os interesses humanos.

“Queremos que esses sistemas sigam consistentemente as intenções humanas em cenários complexos do mundo real e situações adversárias, evitem comportamentos catastróficos e permaneçam controláveis, auditáveis ​​e alinhados com os valores humanos.” publicar O blog de pesquisa de alinhamento da OpenAI declara:

OpenAI Informações sobre o trabalho A equipe do Alignment se descreve como dedicada à pesquisa de IA focada no “desenvolvimento de metodologias que permitem que a IA siga de forma confiável a intenção humana em uma ampla gama de cenários, incluindo cenários adversários e de alto risco”.

em postagem no blog Publicado na quarta-feira, Josh Achiam, ex-chefe da equipe de alinhamento da OpenAI, explicou sua nova função como futurista-chefe da empresa. “Meu objetivo é apoiar a missão da OpenAI de garantir que a inteligência artificial geral beneficie toda a humanidade, estudando como o mundo mudará em resposta à IA, AGI e muito mais”, escreveu Achiam.

Atiam disse que em sua nova função trabalhará com Jason Pruett, físico da equipe técnica da OpenAI.

Um porta-voz da OpenAI disse que os membros restantes da equipe de alinhamento, um grupo de seis ou sete pessoas, foram transferidos para outras partes da empresa. Um porta-voz não soube dizer especificamente para onde os membros da equipe foram designados, mas disse que eles desempenhavam funções semelhantes em suas funções. Também não estava claro se Achiam teria uma nova equipe como parte de seu papel de “futurista”.

Um porta-voz disse que a dissolução da equipe se deveu a reorganizações que ocorrem rotineiramente em empresas que mudam rapidamente.

Anteriormente, a OpenAI tinha o que chamavam de “equipe de superalinhamento”. Formado em 2023 Focada na pesquisa da ameaça existencial de longo prazo representada pela IA, a equipe Dissolvido em 2024.

Atiam site pessoal Ele ainda se autodenomina chefe de alinhamento de missão da OpenAI e diz estar interessado em garantir que “o futuro da humanidade a longo prazo seja bom”. dele Perfil do LinkedIn Isto indica que ele atua como Oficial de Coordenação de Missão desde setembro de 2024.