Modelos abertos de IA igualam fechados em testes de hacking

Modelos de inteligência artificial com pesos abertos estão alcançando desempenhos semelhantes aos melhores modelos fechados em tarefas de invasão de redes de computadores, de acordo com uma pesquisa da empresa de medição de capacidades de IA Vals. Os dados divulgados indicam uma mudança no cenário de segurança cibernética, reduzindo a vantagem dos sistemas proprietários de acesso restrito.

Em testes realizados em redes corporativas simuladas, os pesquisadores avaliaram como diferentes sistemas executam instruções complexas e em múltiplas etapas. A pesquisa revelou que o modelo de cibernética mais avançado da OpenAI, o Daybreak — disponível apenas para parceiros de confiança —, concluiu 81% das tarefas atribuídas em uma média de dois testes. Já o modelo chinês de pesos abertos DeepSeek alcançou 73% de conclusão dos objetivos na mesma média, registrando pontuações idênticas ao Daybreak em determinadas tarefas específicas.

Como funcionaram os testes de invasão

A avaliação da Vals envolveu dois cenários simulados. No primeiro, o modelo precisava interagir com uma rede corporativa fictícia acessível por meio de um site público. No segundo cenário, composto por duas redes empresariais distintas, o sistema devia comprometer a primeira rede para conseguir acesso à segunda.

Além da taxa de sucesso na execução dos objetivos, a pesquisa analisou o custo financeiro para rodar os ataques. A Vals reportou que o gasto em tokens para utilizar o modelo GPT-6-Sol em um ataque variou entre US$ 17 e US$ 46. Em contrapartida, a execução do mesmo tipo de tarefa com o DeepSeek custou entre US$ 2 e US$ 3. Segundo o CEO da Vals, Rayan Krishnan, a diferença de custos decorre da possibilidade de rodar modelos de pesos abertos em infraestrutura própria, o que também cria incentivos para que equipes de defesa cibernética adotem ferramentas abertas em vez de proprietárias.

Impacto na proliferação de recursos e restrições de acesso

Segundo o pesquisador Nikil Ravi, da Vals, a aproximação entre os modelos de código ou pesos abertos e os sistemas restritos de laboratórios indica que restrições de acesso podem não conter a disseminação dessas capacidades. A Anthropic, por exemplo, condicionou lançamentos limitados de novos modelos — como o Claude Mythos Preview, em abril — à concessão de tempo para reforçar defesas antes que recursos avançados de invasão ficassem amplamente disponíveis. Na ocasião, o líder de testes defensivos da empresa, Logan Graham, afirmou que a concessão de acesso restrito visava dar vantagem aos encarregados da defesa de sistemas.

Apesar dos resultados nos testes simulados, observações do setor sobre o comportamento de cibercriminosos e grupos apoiados por estados apontam que esses atores costumam racionar recursos e utilizar modelos mais antigos ou menos capazes para a maioria das operações cotidianas. Consultada sobre as medições da Vals, a OpenAI não respondeu imediatamente aos pedidos de comentário.

Alex Zenla, cofundador e diretor de tecnologia da empresa de segurança em nuvem Edera, concorda que modelos de pesos abertos conseguem gerar ataques avançados, especialmente quando modificados para desativar travas de segurança. Contudo, Zenla pontua que os laboratórios fechados provavelmente mantêm modelos não públicos que superam essas capacidades, caracterizando a situação como uma disputa contínua em que os desenvolvedores tentam corrigir vulnerabilidades antes que sejam identificadas por sistemas abertos.