Investigação aponta rede de apps falsos que geravam deepfakes

Disfarce em lojas de aplicativos e redes sociais

Aplicativos apresentados como ferramentas comuns de inteligência artificial — como geradores de retratos de animais de estimação ou tutores de exercícios — eram utilizados como fachada para uma rede comercial de geração de deepfakes sexuais. Uma investigação publicada pela revista Wired indicou a existência de mais de 400 domínios e softwares interligados operando sob esse modelo.

Um dos exemplos identificados foi o aplicativo Viefur, que vendia moedas digitais para transformar fotos de animais em retratos antropomórficos. Segundo a reportagem, a aplicação servia de cobertura para dar acesso a uma interface externa focada na criação de imagens e vídeos explícitos por IA a partir de fotografias enviadas pelos usuários. O esquema incluía cenas de violência e abusos sexuais.

Mecanismo de camuflagem e triagem de usuários

A descoberta ocorreu após pesquisadores investigarem milhares de anúncios de vídeo com conteúdo deepfake explícito veiculados no Facebook e no Instagram. Os anúncios direcionavam o público para os aplicativos hospedados na App Store, da Apple, e na Google Play Store, permitindo pagamentos por meio do Apple Pay e do Google Pay. A rede de geradores de imagens explícitas vinha publicando esses softwares há cerca de um ano, em alguns momentos lançando dezenas de novos títulos por semana.

De acordo com análises de engenharia reversa realizadas por Paul Bouchaud, pesquisador da organização sem fins lucrativos AI Forensics, os aplicativos operavam enviando dados ao servidor no momento do download — como localização, idioma e identificadores do dispositivo. Com base nesses parâmetros, o servidor decidia se o aplicativo mostraria a interface inofensiva anunciada ou se carregaria a camada oculta para a geração de deepfakes. Um dos gatilhos para a liberação do conteúdo explícito era o acesso ao aplicativo a partir do clique em anúncios veiculados nas plataformas da Meta.

Vínculos operacionais em Hong Kong

Análises de registros de domínios e de código indicam que a rede é gerida por desenvolvedores chineses e associada à KeLing Technology Limited, uma entidade registrada em Hong Kong. Páginas administrativas da interface explícita e contatos nos arquivos de modelo continham referências à empresa. Após tentativas de contato feitas pela reportagem da Wired, os canais das redes sociais associadas alteraram seus nomes e dados públicos de contato que vinculavam a KeLing às ferramentas foram apagados.

Representantes da Meta, citados na investigação, declararam que os criminosos recorrem a técnicas dissimuladas para evitar a detecção, como o uso de nomes falsos e o direcionamento para as lojas oficiais de aplicativos. Já a organização Tech Transparency Project destacou que as campanhas violavam múltiplas políticas das plataformas e cobrou esclarecimentos das empresas de tecnologia sobre os fluxos financeiros e sobre como os responsáveis conseguem burlar os sistemas de moderação de conteúdo.

O Google removeu a maioria dos aplicativos relacionados antes de responder aos questionamentos, incluindo o app DiffAI, retirado da Play Store pouco antes do contato da reportagem. Apple, Google e Meta mantêm diretrizes que proíbem conteúdos deepfake prejudiciais e enganosos em seus serviços.