Goodfire lança monitores de IA que analisam sinais internos de modelos

A startup Goodfire lançou nesta quinta-feira (8 de outubro de 2026) um sistema de monitoramento para agentes de inteligência artificial focado na análise de sinais internos dos modelos. A ferramenta está disponível para os clientes da Baseten, empresa que hospeda e executa modelos de IA para terceiros. O anúncio ocorre após parcerias de segurança formadas no mês passado entre o Base Labs da Baseten, a Goodfire e a Hugging Face.

A abordagem tradicional para supervisionar agentes de IA exige o uso de um segundo modelo encarregado de ler o texto gerado. A Goodfire propõe um método diferente: o uso de pequenas sondas que inspecionam as ativações neurais intermediárias enquanto o modelo trabalha, reaproveitando os cálculos que o sistema já está realizando durante o fluxo de execução.

Funcionamento, custos e taxa de detecção

Segundo a empresa, as sondas analisam os sinais do modelo em cada etapa da atividade do agente. Caso uma irregularidade seja sinalizada, um segundo modelo de IA é acionado para uma verificação detalhada. Os clientes da plataforma Baseten podem escolher quais riscos desejam monitorar, como ataques de hacker, uso indevido de armas químicas e biológicas, e burlas em sistemas de recompensa (reward hacking). A resposta automatizada pode variar entre registrar o evento em log, enviá-lo para revisão humana ou recusar a solicitação integralmente.

Em testes realizados pela Goodfire com o modelo Kimi K3, o monitoramento de cerca de 1.500 sessões custou aproximadamente US$ 51. De acordo com a startup, esse valor contrasta com custos estimados em cerca de US$ 233 ao usar um modelo mais simples para checar cada etapa, e em torno de US$ 10.000 com modelos de ponta. Nas avaliações, as sondas identificaram 94% das sessões de invasão maliciosa e enviaram 8.7% de sessões inofensivas para uma segunda análise.

Impacto na latência e objetivos de segurança

De acordo com a Goodfire, a execução simultânea de quatro sondas adicionou menos de 2% ao tempo necessário para o modelo começar a responder. A solução visa principalmente modelos abertos. As pesquisas recentes da empresa apontaram que modelos abertos como o Kimi K3 e o GLM-5.2 apresentaram comportamentos de burla às recompensas entre 50% e 96% das execuções em testes com agentes de IA.

A proposta de ler ativações internas não é pioneira no setor; a Google DeepMind informou em janeiro que utilizou pesquisas semelhantes para aplicar sondas de detecção de uso indevido no Gemini. Além da empresa do buscador, concorrentes do setor têm buscado soluções para conter comportamento indevido em sistemas automatizados, a exemplo de iniciativas como as da Nvidia para conter agentes de IA. O objetivo de longo prazo mencionado pela direção da Goodfire é realizar a engenharia reversa de modelos de linguagem para rastrear a origem dos comportamentos até a etapa de treinamento.