Sam Altman da OpenAI anuncia acordo de ‘salvaguardas técnicas’ com o Departamento de Defesa

O CEO da OpenAI, Sam Altman, anunciou na sexta-feira que a empresa chegou a um acordo que permitirá à empresa usar seus modelos de IA nas redes classificadas do Departamento de Defesa.

Isso segue um conflito de alto nível entre o departamento, também conhecido como Departamento do Exército sob a administração Trump, e o rival da OpenAI, Antrópico. Pentágono Pressionaram as empresas de IA, incluindo a Anthropic, a permitir o uso de seus modelos para “todos os fins legais”. Enquanto isso, a Anthropic tentou estabelecer limites na vigilância doméstica em massa e nas armas totalmente autônomas.

em Um longo comunicado divulgado quinta-feiraO CEO da Anthropic, Dario Amodei, disse que a empresa “nunca se opôs a qualquer operação militar específica, nem nunca procurou limitar o uso de nossa tecnologia”. Para este propósito No entanto, “acreditamos que, em casos limitados, a IA poderia minar, em vez de proteger, os valores democráticos”, argumentou.

Mais de 60 funcionários da OpenAI e mais de 300 funcionários do Google Assinei uma carta aberta esta semana. Pedimos aos empregadores que apoiem a posição da Anthropic.

Depois que a Antrópico e o Departamento de Defesa não conseguiram chegar a um acordo, o presidente Donald Trump criticou “o trabalho maluco da esquerda na Antrópico”. postagens em mídias sociais Também instruiu as agências federais a pararem de usar os produtos da empresa após um período de eliminação progressiva de seis meses.

em Outra postagemO secretário de Defesa Pete Hegseth afirmou que a Anthropic estava tentando “tomar o poder de veto sobre as decisões operacionais militares dos EUA”. Hegseth também disse que estava designando a Anthropic como um risco da cadeia de suprimentos, dizendo: “Com efeito imediato, empreiteiros, fornecedores e parceiros que fazem negócios com as forças armadas dos EUA não podem se envolver em qualquer atividade comercial com a Anthropic”.

na sexta-feira, o humano disse A empresa disse que “ainda não recebeu comunicação direta do Departamento do Exército ou da Casa Branca sobre o status das negociações”, mas que iria “desafiar a designação de risco da cadeia de abastecimento em tribunal”.

Surpreendentemente, Altman reivindicado na postagem de X O novo contrato de defesa da OpenAI supostamente inclui proteções que abordam os mesmos problemas que desencadearam o Anthropic.

“Dois dos nossos princípios de segurança mais importantes são a proibição da vigilância doméstica em massa e a responsabilidade humana pelo uso da força, incluindo sistemas de armas autónomos”, disse Altman. “O DoW concorda com estes princípios e reflete-os nas nossas leis e políticas, e estamos consagrando-os no nosso acordo.”

Altman disse que a OpenAI “criará salvaguardas técnicas para garantir que nossos modelos funcionem conforme o esperado, que é o que o DoW também queria”, e enviará engenheiros ao Departamento de Defesa “para apoiar nossos modelos e garantir sua segurança”.

“Estamos pedindo ao DoW que forneça termos semelhantes a todas as empresas de IA, que, em nossa opinião, todos deveriam estar dispostos a aceitar”, acrescentou Altman. “Expressamos um forte desejo de acalmar a situação da ação legal e governamental e chegar a um acordo razoável.”

Sharon Goldman, da revista Fortune, relata Altman disse aos funcionários da OpenAI em uma reunião geral que o governo permitiria que a empresa construísse sua própria “pilha de segurança” para evitar abusos, e que “se um modelo se recusar a realizar uma tarefa, o governo não forçará a OpenAI a fazer essa tarefa”.

A postagem de Altman foi publicada pouco antes da notícia de que os governos dos EUA e de Israel haviam entrado em conflito. começou a bombardear o Irão presidente Trump apelou à derrubada do governo iraniano.