Os irregulares arrecadam US $ 80 milhões para proteger os modelos de IA da fronteira

Na quarta -feira, a empresa de segurança da IA ​​anunciou US $ 80 milhões em novos financiamentos na rodada liderada pela Sequoia Capital e Redpoint Ventures, com a participação do CEO da WIZ ASSAF Rappaport. Uma fonte próxima ao contrato disse que a rodada era irregular e US $ 450 milhões.

“Em nossa opinião, muita atividade econômica vem em breve do diálogo humano e da interação AI-On-AI”, disse o co-fundador Danrahab ao TechCrunch.

Anteriormente conhecido como Pattern Lab, a irregularidade já é um participante importante na avaliação da IA. O trabalho da empresa é citado em uma avaliação de segurança. Para Claude 3,7 sonetos De forma similar Modelos O3 e O4-Mini do Openai. De maneira mais geral, a estrutura da empresa para pontuar os recursos de detecção de vulnerabilidade de um modelo (É chamado de resolver) Amplamente utilizado dentro da indústria.

A irregularidade fez um trabalho importante sobre os riscos existentes no modelo, mas a empresa está arrecadando fundos olhando para algo ainda mais ambicioso. Descubra riscos e ações urgentes antes de surgirem na natureza. A empresa construiu sistemas elaborados em ambientes simulados, permitindo testes intensivos antes que os modelos sejam lançados.

“Existe uma simulação de rede complexa com a IA que desempenha o papel de um atacante e um defensor”, diz o co-fundador Omer Nevo. “Então, quando novos modelos saem, você pode ver onde a defesa passa e onde não está”.

A segurança se tornou um foco para a indústria de IA à medida que mais riscos emergem à medida que os modelos de fronteira apresentam mais riscos. Openai Medidas de segurança interna foram revisadas Neste verão, veremos a potencial espionagem corporativa.

Ao mesmo tempo, o modelo de IA é Cada vez mais proficiente Uma força que afeta seriamente os atacantes e os defensores encontrando vulnerabilidades de software.

Para fundadores irregulares, é a primeira de muitas dores de cabeça de segurança causadas pelas crescentes capacidades de modelos de idiomas em larga escala.

“Se o objetivo da fronteira Rabo é criar modelos cada vez mais sofisticados e capazes, nosso objetivo é proteger esses modelos”, diz Rahab. “Mas é um alvo inspirador, então essencialmente há muito o que fazer no futuro”.