.webp){kind=small}
Na Kilo Code, os próprios engenheiros leem ou escrevem código apenas cerca de 1% do tempo, de acordo com a cofundadora Emilie Schario – o resto são agentes. Essa mudança está forçando novas questões às equipes de desenvolvimento: quais sistemas são seguros para serem entregues, quem faz a limpeza quando os modelos falham, como dar suporte a arquiteturas multimodelos e se as contas de tokens disparadas significam progresso real ou apenas queimaram o orçamento de TI.
IA boa em greenfield, não tão boa em brownfield
Para Jared Go, renomado engenheiro de IA e nuvem da empresa de automação de armazéns Symbotic, o momento atual é direcionar o foco da IA. “Estes são os meus critérios”, disse ele. "Vamos olhar para isso pelas lentes da segurança, elegância, código limpo e conciso e estanqueidade." Dessa forma, a IA faz a maior parte do trabalho pesado e a revisão humana do código não é tão crítica. O envolvimento humano torna-se necessário mais adiante, observou Go, porque os agentes não tomam decisões sólidas sobre os produtos. "Greenfield [construir novas bases de código] é muito fácil para os agentes.
Brownfield [escrever, atualizar ou manter código existente] todos nós sabemos que é onde reside o verdadeiro desafio." O Replit adota uma abordagem um pouco diferente: embora a empresa tenha “se tornado muito agente”, eles têm sido mais conservadores com a codificação de IA, explicou Amol Jain, chefe de engenharia de produto. Um agente analisa cada solicitação pull (PR) e atribui a ela uma pontuação de risco; PRs de baixo risco são auto-mesclados por seu autor, enquanto outros vão para revisores humanos que leem o código e fornecem feedback. “A ideia era humana, não humana”, disse Jain.
A ferramenta interna do Replit é essencialmente autônoma para engenheiros de software; os desenvolvedores atribuem uma tarefa aos agentes, que fazem planejamento, implementação e testes de ponta a ponta. “É uma frota de agentes que rodam em suas próprias máquinas virtuais (VMs) na nuvem com controles de acesso por trás de proxies de token para que estejam seguros”, disse Jain. Ele compartilhou um exemplo em que um engenheiro não conseguiu reproduzir ou resolver um “bug muito complicado” profundo em seus sistemas. Ele foi enviado a um agente gerenciador de IA, que lhe disse para dormir. O agente gerente então reuniu vários agentes subjacentes que encontraram o problema; posteriormente, reuniu mais agentes que encontraram a solução.
Seis horas depois, a IA tinha um PR pronto para o bug que intrigava os engenheiros humanos.
Multimodelo é o futuro
Os fornecedores de IA também estão evoluindo para além do modelo lock-in, à medida que os clientes exigem cada vez mais opções de vários modelos. O Kilo Code, por sua vez, suporta mais de 500 modelos em seu gateway. “O software que você está usando para fazer engenharia de agência deve ser dissociado do modelo que você está usando para fazer isso”, disse Schario. Por exemplo, Schario disse que as empresas muitas vezes usam modelos caros de nível de fronteira para arquitetar um projeto e depois mudam para um modelo aberto mais barato para o resto do trabalho. Também é importante respeitar as limitações dos provedores modelo, como quando eles precisam trabalhar em ambientes fechados ou isolados ou provedores em suas regiões específicas.
“É levar em consideração o que é importante para você, quais limitações você definiu, quais políticas de retenção de dados você estabeleceu, quais chaves você trouxe, quais compromissos você pode ter... nessa decisão de roteamento”, disse Schario. A Replit, da mesma forma, tende a ter uma noção melhor do espectro de custo versus capacidade do que seus clientes, afirmou Jain. “Estamos essencialmente tomando decisões em nome dos usuários sobre qual modelo usar, quando e em que capacidade, para minimizar custos e maximizar a capacidade.”
Para tokenmaxx ou não para tokenmaxx
É claro que uma consideração importante à medida que a adoção da IA aumenta são os custos descontrolados, o que levou algumas empresas a rastrear e limitar o uso da IA através do tokenmaxxing. As preocupações vêm de ambos os lados, disse Schario: internamente e dos clientes. Deste último, ela ouve: "Gastei acidentalmente todo o meu orçamento de IA para o ano... então o que faço agora?" Em resposta, Schario disse que o Kilo Code direciona os clientes para o mesmo fluxo de trabalho: usar modelos caros para planejamento e, em seguida, modelos de peso aberto para acessibilidade. Além disso, o compartilhamento de habilidades, orientação sólida e o Protocolo de Contexto do Modelo (MCP) capacitarão os modelos.
“Perceber onde você pode realmente aprimorar sua equipe para ajudá-los a aproveitar ao máximo os modelos que estão usando fará uma grande diferença”, disse Schario. Internamente, entretanto, Schario observou um engenheiro em particular que tem um “pé pesado” e está constantemente no topo da tabela de utilização. "Eu regularmente tenho que cutucar: 'O que você está fazendo aí?'", Disse ela. É fácil olhar para uma conta de US$ 600 pelo trabalho diário e reagir: “Uau, isso é muito”, mas olhar para a quantidade de trabalho concluído às vezes pode justificar o custo. “O custo por solicitação pull é a métrica à qual estou prestando atenção no momento”, disse Schario.
“Parece a maior proximidade de como posso medir o valor.” Em última análise, a IA muda a forma como as empresas pensam sobre o ROI porque os gastos não são o problema. “O gasto sem retorno é o problema.” A Symbotic, por sua vez, estabeleceu níveis de custos mensais para seus funcionários. A empresa construiu uma ferramenta que dá aos gerentes visibilidade sobre PRs e tendências de uso. Eles podem então mover os usuários para cima ou para baixo em um nível conforme acharem adequado, explicou Go.
“Ter um limite e ver quantas pessoas aumentaram este mês faz uma grande diferença quando você está tentando controlar esses custos e tornar as coisas eficientes”, disse Go. Quando o Cursor – que a Symbotic usa muito – encerrou um desconto legado que havia concedido à empresa uma taxa fixa por solicitação, mesmo para modelos de fronteira, e transferiu todos para o preço integral, forçou um cálculo de eficiência em toda a empresa, disse Go. "As pessoas estavam dizendo: 'Você deveria tentar este modelo...
Isso funciona melhor para este código C#, tanto faz'", disse ele. Mas o problema dos custos está cada vez mais saindo da TI; A Replit, por exemplo, ampliou os agentes além da engenharia e acabou descobrindo que um usuário do lado do suporte havia “gastado uma quantia absurda de dinheiro”, disse Jain. Quando eles olharam sob o capô, descobriram que era porque estavam executando uma automação no GPT 5.5 Pro Max. “Pelo menos até aquele ponto, o ROI era bastante claro”, disse Jain. “Pudemos ver a produtividade da engenharia triplicada, então ninguém questionou isso ainda.” Visibilidade que não seja “antiprodutiva”, roteamento de modelo e padrões sensatos são críticos, enfatizou ele. “A maioria das tarefas não precisa da fronteira.”
| ℹ️ | Nota do editor: O AR NEWS 24H publica conteúdos baseados em fontes externas. As informações e opiniões presentes no material original são de responsabilidade de seus respectivos autores. |
