Ainda assim, os desenvolvedores dizem que trazer código do CUDA da NVIDIA para o ROCM não é um processo suave. Portanto, geralmente se concentra na construção de um fornecedor de chips.
“O ROCM é ótimo, é de código aberto, mas é executado no hardware de um fornecedor”, disse Rattner. Eu disse à multidão No evento AI AD da AMD em junho. Ele então fez um discurso sobre por que o software do Modular é mais portátil e torna a GPU muito mais rápida.
O discurso de Ratner na AMD representa o tipo de dança que Ratner e Davis precisam fazer ao espalhar o evangelho modular. Hoje, a NVIDIA e a AMD são parceiros importantes da empresa. No universo do futuro, eles também são concorrentes diretos. Parte da proposta de valor do Modular é que pode haver um espaço de um mês entre a NVIDIA enviando novas GPUs e liberando o “kernel de cautela”, uma parte importante do software GPU, para que possa enviar software para otimizar as GPUs ainda mais rápidas que a Nvidia.
“O Modular é livre para a AMD e a NVIDIA no momento, mas com o tempo, ambas as empresas que se sentem ameaçadas por Rocm ou Cuda sentem que não é o melhor software no topo do chip”, diz Munichiello. Ele também teme que os potenciais clientes em nuvem possam estar recusados por ter que pagar por uma camada de software adicional como modular.
Escrever software GPU também é algo como “Dark Art”, diz Waleed Atallah, co-fundador e CEO da Mako, uma empresa de otimização de kernel da GPU. “Os algoritmos de mapeamento para as GPUs são extremamente difíceis. Existem 100 milhões de desenvolvedores de software, 10.000 pessoas escrevendo kernels de GPU e 100 pessoas que podem fazer isso bem”.
Mako está construindo agentes de IA para otimizar a codificação da GPU. Alguns desenvolvedores pensam que é o futuro para a indústria, em vez de criar novas linguagens de programação, como compiladores e modulares universais. Mako levantou US $ 8,5 milhões em financiamento de sementes da Flybridge Capital e do acelerador de startups Neo.
“Estamos tentando adotar uma abordagem iterativa para codificar e automatizar com a IA”, diz Atala. “Ao simplificar o código, você aumenta exponencialmente o número de pessoas que podem fazê -lo. Construir um compilador separado é uma solução fixa”.
Lattner ressalta que os modulares também usam ferramentas de codificação de IA. No entanto, a empresa pretende abordar não apenas o kernel, mas também toda a pilha de codificação.
Existem cerca de 250 milhões de investidores que acham que essa abordagem é viável. Lattner é bem conhecido no mundo da codificação, onde construiu anteriormente o Projeto de Frastrutura de Linha de Compilação de código aberto LLVM e a linguagem de programação Swift da Apple. Ele e Davis acreditam que este é um problema de software que deve ser resolvido fora de um grande ambiente de tecnologia.
“Quando saí do Google, fiquei um pouco deprimido porque realmente queria resolver isso”, diz Ratner. “O que percebemos é que não se trata de pessoas inteligentes, não se trata de dinheiro, não se trata de habilidade. É uma questão estrutural”.
Munichiello compartilhou um mantra comum no mundo dos investimentos em tecnologia. Ele diz que aposta em seus fundadores tanto quanto seu produto. “Ele é muito opinativo, impaciente e também é assim em muitas vezes”, disse Munichero sobre Ratner. “Steve Jobs era assim. Ele não tomou decisões com base em consenso, mas muitas vezes estava certo”.
