Os criadores do projeto de código aberto vLLM anunciado Eles levaram a ferramenta popular para a startup Inferact, apoiada por VC, que supostamente levantou US$ 150 milhões em financiamento inicial com uma avaliação de US$ 800 milhões.
A rodada foi co-liderada por Andreessen Horowitz e Lightspeed Venture Partners e publicada pela TechCrunch. relatório inicial vLLM levantou financiamento de a16z.
A estreia do Inferact reflete a recente comercialização do projeto SGLang como RadixArk, que fontes dizem ter garantido capital liderado pela Accel em uma avaliação de US$ 400 milhões. nós relatamos na quarta-feira.
À medida que o foco da IA muda dos modelos de formação para a implementação em aplicações (um processo chamado inferência), tecnologias como o vLLM e o SGLang, que podem executar estas ferramentas de IA de forma mais rápida e acessível, estão a ganhar a atenção dos investidores.
Tanto o vLLM quanto o SGLang foram incubados no laboratório UC Berkeley do cofundador da Databricks, Ion Stoica, em 2023.
O CEO da Inferact, Simon Mo, um dos fundadores do projeto, disse à Bloomberg que os usuários existentes do vLLM incluem os serviços em nuvem e aplicativos de compras da Amazon.
