Como a IA mudará a matemática para startups, de acordo com o vice-presidente da Microsoft

Amanda Silver, da Microsoft, se dedica a ajudar desenvolvedores há 24 anos. E nos últimos anos, isso significou construir ferramentas para IA. Depois de uma longa passagem pelo GitHub Copilot, Silver é agora vice-presidente corporativo da divisão CoreAI da Microsoft, onde trabalha em ferramentas para implantação de aplicativos e sistemas de agentes em empresas.

O foco de seu trabalho é sistema de fundição Dentro do Azure, projetado como um portal unificado de IA para empresas, você pode observar mais de perto como as empresas estão realmente usando esses sistemas e onde as implantações acabam falhando.

Falei com Silver sobre as capacidades atuais dos agentes empresariais e por que ela acredita que esta é a maior oportunidade para startups desde a nuvem pública.

Esta entrevista foi editada para maior extensão e clareza.

Isso significa que seu trabalho se concentra em produtos Microsoft para desenvolvedores externos. Freqüentemente, são startups que não estão focadas em IA. Como você acha que a IA impactará essas empresas?

Vejo isso como um ponto de viragem para as startups, tão significativo quanto a mudança para a nuvem pública. Se você pensar bem, a nuvem teve um enorme impacto nas startups. Porque você não precisa mais de espaço imobiliário para hospedar racks e não precisa gastar tanto dinheiro em injeções de capital para hospedar hardware em laboratórios e similares. Agora tudo está mais barato. Agora, o agente AI continuará mais uma vez a reduzir o custo total das operações de software. Muitas das tarefas envolvidas no início de um novo empreendimento, como pessoal de apoio e pesquisa jurídica, podem ser realizadas de forma mais rápida e barata usando agentes de IA. Acho que isso levará ao lançamento de mais empreendimentos e startups. E surgirão startups com menos pessoas no comando e melhores avaliações. E eu acho que é um mundo muito emocionante.

O que realmente aconteceria?

É verdade que os agentes de múltiplas etapas estão se tornando amplamente utilizados em muitos tipos diferentes de tarefas de codificação. Apenas como exemplo, uma das coisas que os desenvolvedores devem fazer para manter sua base de código é manter-se atualizado com as versões mais recentes das bibliotecas dependentes. Você pode ter dependências de uma versão mais antiga do tempo de execução dotnet ou do Java SDK. E então você pode fazer com que esses sistemas de agentes analisem toda a sua base de código e atualizem-na com muito mais facilidade e provavelmente levem 70% ou 80% menos tempo. E para que isso aconteça, você realmente precisa implantar um agente de várias etapas.

Operar um site ativo é outra questão. Se você deseja manter um site ou serviço e algo dá errado, você ouve um baque durante a noite e alguém tem que acordar e ficar pronto para responder ao incidente. Ainda estamos de plantão 24 horas por dia, 7 dias por semana, caso o serviço caia. No entanto, costumava ser um trabalho muito desagradável porque muitas vezes era causado por eventos tão triviais. E agora construímos um sistema genético para diagnosticar adequadamente e, em muitos casos, mitigar completamente os problemas que surgem na operação destes locais vivos. Isso elimina a necessidade de os humanos serem acordados no meio da noite, indo freneticamente para o terminal e tentando diagnosticar o que está acontecendo. Isso também ajuda a reduzir significativamente o tempo médio necessário para resolver um incidente.

Um dos outros mistérios neste momento é que a introdução dos agentes não está a acontecer tão rapidamente como esperado, mesmo há seis meses. Eu me pergunto por que você pensa assim.

Se você pensar nas pessoas que são agentes de arquitetura e no que as impede de ter sucesso, muitas vezes é porque elas não entendem bem qual deve ser o propósito de um agente. É preciso haver uma mudança cultural na forma como as pessoas constroem esses sistemas. Que caso de uso de negócios eles estão tentando resolver? O que eles estão tentando realizar? Você realmente precisa ver qual é a definição de sucesso para esse agente. Precisamos então pensar sobre quais dados queremos passar ao agente para que ele possa raciocinar sobre como realizar essa tarefa específica.

Acreditamos que estes são obstáculos maiores do que a incerteza geral em torno da implantação de agentes. Quem olha para esses sistemas vê o retorno do investimento.

Você menciona a incerteza geral, e acho que isso parece um grande obstáculo do ponto de vista de quem está de fora. Por que você acha que isso realmente não importa tanto?

Em primeiro lugar, acho que se tornará muito comum ter cenários com envolvimento humano em sistemas de agentes. Pense em algo como devolver um pacote. Anteriormente, tínhamos um fluxo de trabalho de processamento de devoluções que era 90% automatizado e 10% humano, exigindo que alguém olhasse o pacote e determinasse o grau de dano antes de decidir se aceitava a devolução.

Este é um exemplo perfeito de como os modelos de visão computacional são agora tão bons que, em muitos casos, não há mais necessidade de humanos supervisionarem as inspeções e decisões de embalagens. Provavelmente haverá alguns casos limítrofes em que a visão computacional ainda não é boa o suficiente para fazer uma chamada e talvez possa ocorrer uma escalada. É tipo, com que frequência preciso ligar para meu gerente?

Existem algumas operações que são tão críticas que sempre exigem alguma forma de supervisão humana. Considere implantar código em sua base de código de produção que possa ter obrigações legais contratuais ou impactar a confiabilidade do sistema. No entanto, permanece a questão de quanto do processo restante pode ser automatizado.