.webp){kind=small}
"O conceito que sempre tivemos em mente foi a ideia de um funcionário virtual — alguém no Slack, uma entidade, ele tem um endereço de e-mail, pode participar de reuniões, você pode enviá-lo por e-mail e você pode trabalhar com ele", disse Franceschi. Realizar essa visão exige um novo paradigma de segurança. A apresentação de Franceschi detalhou como a Brex apontou o OpenClaw para funções internas, percebeu que os modelos de segurança tradicionais falharam e construiu uma nova camada de segurança em nível de rede chamada CrabTrap.
O dilema de segurança do OpenClaw
A jornada começou após um avanço em dezembro, quando os modelos de codificação atingiram um nível de maturidade que permitiu o lançamento do OpenClaw em janeiro. Isso marcou o momento em que os agentes poderiam finalmente se auto-inicializar e manter suas próprias bases de código, em vez de depender de ferramentas estáticas e codificadas. tráfego de rede de saída entre o contêiner e a Internet, usando um LLM para julgar se esse tráfego está alinhado com a política aprovada pelo agente. "Em vez de tentar controlar o código em execução no contêiner, assuma que a coisa pode fazer qualquer coisa e monitore o tráfego de rede entre esse contêiner e a Internet", disse Franceschi. Usar um modelo de linguagem grande (LLM) para julgar cada solicitação de rede introduz uma
Latência inaceitável, muitas vezes adicionando milhares de milissegundos aos tempos de resposta. Brex resolveu isso passando o tráfego através de um sistema bifurcado. Ações rotineiras e de baixo risco passam por regras estáticas e pré-aprovadas instantaneamente. Se um agente de recrutamento tentar visualizar um perfil do LinkedIn, a regra estática permite. No entanto, ações de alto risco, como o envio de e-mails, são sinalizadas e encaminhadas ao juiz do LLM para avaliação. Franceschi disse que a arquitetura garante que apenas cerca de 2% das solicitações complexas realmente enfrentem a latência LLM. Uma descoberta surpreendente do projeto foi a eficácia com que o juiz do LLM desempenha esse papel.
Franceschi atribuiu isso ao treinamento dos modelos: os LLMs estão expostos a bilhões de páginas da web e solicitações HTTP, dando-lhes o que ele descreveu como uma compreensão semântica inerente dos padrões de tráfego de rede. "[Os modelos] são muito bons em discernir o que está dentro da política e o que não está", disse Franceschi, acrescentando que essa capacidade surge naturalmente através do pré-treinamento, sem a necessidade de estímulos pesados. valeu a pena moldar nossa estratégia de adoção de IA”, disse ele. O investimento na construção de ferramentas internas proporcionou à Brex a experiência necessária para mobilizar agentes com segurança meses antes do mercado mais amplo.
Para os líderes empresariais que navegam no cenário da IA, a principal conclusão é a necessidade de desenvolver a força cultural e técnica para operar hoje num mundo de agentes. “Não temos todas as respostas, mas a resposta é não fazer nada”, disse Franceschi.
| ℹ️ | Nota do editor: O AR NEWS 24H publica conteúdos baseados em fontes externas. As informações e opiniões presentes no material original são de responsabilidade de seus respectivos autores. Este conteúdo foi traduzido e adaptado para o português do Brasil. |
