administração trunfo Você pode pensar que os regulamentos são assim. devastador de Indústria de IAmas uma das maiores empresas do setor discorda.
No grande evento de entrevistas da WIRED na quinta-feira, humano A presidente e cofundadora Daniela Amodei disse ao editor-chefe Stephen Levy que mesmo que a IA do presidente Trump. Imperador da criptomoeda David Sachs pode ter twittou Ela diz que a sua empresa está a “executar uma estratégia sofisticada de aquisição regulatória baseada na disseminação do medo” e acredita que os seus esforços para destacar os perigos potenciais da IA estão a fortalecer a indústria.
“Sentimos desde o primeiro dia que[a IA]tinha um potencial incrível”, disse Amodei. “Queremos realmente que o mundo inteiro perceba as possibilidades, os benefícios positivos e os benefícios que a IA traz. Para fazer isso, temos que acertar as coisas difíceis. Temos que tornar os riscos gerenciáveis. E é por isso que falamos tanto sobre IA.”
Mais de 300.000 startups, desenvolvedores e empresas estão usando alguma versão do modelo Claude da Anthropolic, e Amodei disse que a empresa aprendeu através de seu trabalho com essas marcas que, embora os clientes queiram que a IA ofereça grande funcionalidade, eles também querem confiabilidade e segurança.
“Ninguém disse: ‘Queremos um produto que seja menos seguro’”, disse Amodei, comparando a cobertura das limitações do modelo da Anthropolik e das fugas de presos às empresas automobilísticas que divulgam estudos de testes de colisão para mostrar como estão abordando as questões de segurança. Pode ser chocante ver um boneco de teste de colisão voando pela janela de um carro em um vídeo, mas saber que a montadora atualizou os recursos de segurança do veículo como resultado do teste pode vender o carro aos compradores. Amodei disse que o mesmo se aplica às empresas que usam os produtos de IA da Anthropic, e que o mercado é auto-regulado até certo ponto.
“Estamos estabelecendo o que consideramos um padrão mínimo de segurança baseado unicamente no que estamos investindo na economia”, disse ela. “[As empresas]agora estão construindo muitos de seus fluxos de trabalho e tarefas diárias de ferramentas em torno da IA. E estão dizendo: ‘Sabemos que este produto não causa tantas alucinações, não gera conteúdo prejudicial, não faz todas essas coisas ruins.'” Por que escolher um concorrente com pontuação inferior a essa? ”
Foto: Annie Noelker
