Cisco Talos identifica malware que utiliza IA sem controle humano

Pesquisadores da empresa de segurança Cisco Talos utilizaram uma nova estrutura de análise para identificar um software malicioso que opera com infraestrutura autônoma de comando e controle. A ferramenta de segurança, batizada de Cognitive Artifact Intelligence Research Network (CAIRN), permitiu descobrir o malware denominado CLOSEDQUORUM, que toma decisões consultando até quatro modelos de linguagem de grande escala (LLMs) sem necessidade de intervenção humana direta.

Desenvolvida pela equipe liderada pelo pesquisador Ryan Fetterman, a estrutura CAIRN foi projetada para detectar atributos de integração com inteligência artificial a partir de metadados. O sistema analisa os vestígios deixados por essas integrações para classificar, etiquetar e identificar amostras de códigos maliciosos, agrupando-as em uma biblioteca para identificar tendências e conexões entre diferentes ataques.

Funcionamento e consulta a múltiplos modelos de IA

O CLOSEDQUORUM é um malware voltado para sistemas Windows projetado para roubar credenciais de acesso e criptomoedas. Para definir suas ações no sistema invadido, a praga digital consulta os modelos DeepSeek, Qwen, Mistral e Google Gemini. O objetivo do programa é criar um consenso entre as respostas enviadas pelos diferentes serviços sobre qual deve ser o próximo passo da invasão.

Segundo a pesquisa da Cisco Talos, mesmo que um dos serviços de IA fique indisponível, o malware continua consultando os demais. Essa redundância garante que o sistema permaneça fechado, funcionando de forma autônoma sem depender de comandos enviados por operadores humanos. Os especialistas identificaram ligações do código com fóruns cibercriminosos focados em fraudes com cartão de crédito com registros desde 2025, mas não confirmaram os autores do desenvolvimento nem a ocorrência de ataques reais com o programa.

Cenário mais complexo que o relatado publicamente

Antes do desenvolvimento do CAIRN, o número de amostras documentadas de softwares maliciosos com integração direta à IA era reduzido. Em julho de 2025, a unidade ucraniana de resposta a incidentes cibernéticos (CERT-UA) havia alertado para a praga LAMEHUG, que obtinha instruções conectando-se ao modelo Qwen2.5-Coder-32B-Instruct por meio da API do Hugging Face. Na ocasião, Fetterman levantou a hipótese de um rápido aumento de softwares maliciosos com esse perfil, mas levantamentos posteriores indicavam poucas famílias de malware registradas.

Com o uso continuado da ferramenta CAIRN nos últimos meses, o pesquisador localizou cerca de 20 novos exemplos de programas maliciosos que incorporam recursos de IA. Segundo a avaliação de Fetterman, embora o uso dessa tecnologia ainda seja predominantemente experimental por parte de invasores, o cenário atual é mais complexo e variado do que o relatado publicamente. Matt Olney, diretor sênior de inteligência contra ameaças da Cisco Talos, afirmou que a tecnologia está sendo operacionalizada por invasores para permitir a condução de um volume maior de campanhas e gerenciar diferentes computadores de forma automatizada.