Nvidia cria sistema SoL-Pi que reduz uso de tokens em agentes de IA

Pesquisadores da Nvidia apresentaram um novo estudo descrevendo o SoL-Pi, um sistema criado para otimizar automaticamente a camada de controle — conhecida como harness — de agentes de programação de inteligência artificial. Segundo os autores, a abordagem consegue cortar o consumo de tokens em quase metade mantendo o desempenho em níveis semelhantes aos originais.

Em vez de focar em alterações no próprio modelo de linguagem, como compactação ou troca por versões mais baratas, o estudo atua na estrutura intermediária entre o modelo e o ambiente de execução. À medida que os agentes trabalham de forma não supervisionada por longos períodos, chamadas de ferramentas e ciclos de feedback aumentam os custos. O SoL-Pi automatiza o ajuste dessa camada por meio de um agente de pesquisa que analisa execuções, propõe alterações e as testa em ambientes preparados.

Mecanismos de eficiência e resultados em testes

Durante os testes, o sistema explorou 152 direções em 535 ambientes executáveis. Para evitar que a otimização ficasse restrita aos cenários de treinamento, os pesquisadores isolaram o benchmark EdgeBench, utilizando suas tarefas apenas na validação e na avaliação final. A busca gerou quatro mecanismos principais: fusão de ações consecutivas, compactação de contexto online, resumo de saídas longas de ferramentas e o redirecionamento de logs de erro para modelos mais baratos.

No EdgeBench, as variantes do SoL-Pi reduziram o uso de tokens entre 44,7% e 49%. A versão focada na máxima eficiência atingiu 93,7% do desempenho do suporte original do Pi. Já uma configuração voltada à performance superou a pontuação do Pi em 5,3%, mantendo economia no consumo de recursos. Com base nos preços atuais de API, a economia estimada pelos autores varia de US$ 8,75 a US$ 13,50 por hora em comparação aos formatos nativos do Codex e do Claude Code.

Desempenho variado e limitações

O sistema foi construído originalmente apenas com o modelo GPT-5.6 Sol e aplicado posteriormente ao Opus 5 sem alterações adicionais. No Opus 5, o SoL-Pi manteve 94,3% do desempenho do Pi, embora os mecanismos tenham sido acionados de maneira menos frequente. A equipe atribui essa variação ao fato de a otimização ter sido realizada com base nas trajetórias do modelo da OpenAI.

Fora do EdgeBench, os resultados mostraram variações. Em 63 tarefas do Terminal-Bench 4, o SoL-Pi resolveu 15 problemas, enquanto as opções de comparação resolveram 18, embora a novidade tenha mantido custos cerca de 25% menores. Os autores observam que a diminuição do contexto pode reduzir o reuso de cache de prompts, apresentando um ganho com contrapartidas. Para o futuro, os pesquisadores citam como visão o pré-treinamento de camadas de controle em múltiplas tarefas.