IA da Apate usa bots para enganar e atrasar golpistas telefônicos

A empresa australiana Apate está utilizando inteligência artificial para combater fraudes telefônicas e digitais. Fundada por Dali Kaafar, a companhia desenvolveu um sistema que redireciona chamadas de golpistas para bots de IA programados para manter as conversas pelo maior tempo possível, evitando cair nas abordagens fraudulentas.

Segundo Kaafar, a plataforma da Apate é utilizada por bancos e conta com o suporte de empresas de telecomunicações. O sistema possui cerca de 350.000 bots que não apenas atendem ligações, mas também interagem em grupos de chat de golpes e respondem a mensagens de texto. A empresa afirma já ter coletado mais de 250.000 informações sobre fraudadores em tempo real, incluindo links maliciosos, dados bancários e contas utilizadas como intermediárias.

Dinâmica das conversas e testes do sistema

Os bots da Apate são configurados com diferentes personalidades, habilidades de linguagem e perfis para evitar que os criminosos percebam a presença de uma IA. De acordo com Kaafar, as chamadas atendidas pela plataforma duram regularmente mais de duas horas, mantendo os golpistas ocupados e coletando dados sobre as operações.

Repórteres do veículo Wired testaram uma versão de demonstração do sistema, atuando no papel de golpistas que tentavam convencer uma persona de IA a investir em criptomoedas. Durante a experiência de seis minutos, os jornalistas relataram que a IA demonstrou ceticismo e respostas naturais, impedindo o sucesso da abordagem.

Uso de modelos de linguagem em honeypots

Além das ferramentas voltadas para chamadas telefônicas, o uso de modelos de linguagem (LLMs) vem sendo aplicado na criação de armadilhas virtuais conhecidas como honeypots. Pesquisadores de engenharia e ciência da computação da ETH Zurich, como Mark Vero, identificaram que provedores de honeypots de código aberto estão integrando LLMs para tornar os ambientes falsos mais realistas.

Em um estudo recente, Vero e seus colegas constataram que honeypots alimentados por LLMs conseguem manter agentes de IA atacantes engajados por significativamente mais tempo do que sistemas com comportamentos previsíveis. Segundo os pesquisadores, os atacantes automatizados demoram mais para identificar que estão interagindo com uma armadilha, o que representa uma vantagem tática para os sistemas de defesa cibernética.