Recentemente, em 2022, a construção de um grande modelo de idioma (LLM) foi uma façanha na engenharia de inteligência artificial (AI). Três anos depois, os especialistas são mais difíceis de impressionar. Para realmente se destacar no mercado lotado, um laboratório de IA precisa não apenas para construir um modelo de alta qualidade, mas para construí-lo barato.
Em dezembro uma empresa chinesa, Deepseekganhou as manchetes por reduzir o custo do dólar do treinamento de um modelo de fronteira abaixo de US $ 61,6 milhões (US $ 83 milhões) – o custo do LLAMA 3.1, um LLM produzido pela Meta, uma empresa de tecnologia – para apenas US $ 6 milhões. Em uma pré -impressão publicada on -line em fevereiro, pesquisadores da Universidade de Stanford e da Universidade de Washington afirmam ter sido melhor as ordens de magnitude, treinando seu S1 LLM por apenas US $ 6. Enfrentado de outra maneira, a Deepseek levou 2,7 milhões de horas de tempo para treinar; S1 levou pouco menos de sete horas.
Juntar Canal de telegrama da ST E receba as últimas notícias de última hora.
