Instruções do agente Muse da Meta revelam criação de perfis de contatos

Pesquisadores de segurança extraíram e divulgaram arquivos internos e instruções de funcionamento do agente de inteligência artificial Muse, desenvolvido pela Meta. Os documentos revelados, compartilhados com a revista Wired pelo pesquisador independente Karan Joshi, mostram que o sistema é programado para construir perfis detalhados sobre as pessoas que fazem parte da vida de cada usuário.

Estrutura de dados pessoais e rotina de compilação

Segundo as instruções reveladas, o Muse executa um processo com frequência de atualização horária que inclui criar uma página individual para familiares, parceiros, amigos, colegas, colaboradores e pessoas que o usuário segue. A ideia por trás dessa funcionalidade é utilizar arquivos de texto estruturados na memória do sistema para mapear conexões e sugerir ações práticas, como conselhos de relacionamento ou recomendações de locais para frequentar.

A documentação aponta que as páginas organizadas pelo assistente podem reunir seções chamadas Fatos, Histórico, O relacionamento, Em comum, Tópicos em aberto e Fortalecimento. O sistema pode armazenar informações como local de residência, ocupação, metas financeiras compartilhadas, datas comemorativas e históricos de conversas ou divergências passadas. A seção de fortalecimento propõe motivos para ligar ou formas de apoiar a pessoa mapeada.

Privacidade, controle e a posição da Meta

As diretrizes internas orientam o Muse a trabalhar estritamente com base em evidências disponíveis, indicando que a ausência de dados é preferível à invenção de fatos. A estrutura do software é configurada para que cada usuário possua uma máquina virtual dedicada, responsável por armazenar dados e contextos longe do acesso de outros agentes. Os usuários têm a opção de apagar memórias e desconectar serviços integrados a qualquer momento.

Em declaração prestada à Wired, o porta-voz da Meta, Daniel Roberts, afirmou que o Muse coleta dados com base em informações públicas e no que o próprio usuário decide compartilhar. Segundo a empresa, esse contexto é necessário para que o assistente consiga diferenciar contatos, lembrando, por exemplo, qual profissional prestou um serviço ou as preferências descritas pelo usuário. A Meta também sustentou que pretendia deixar esses arquivos acessíveis em prol da transparência.

Especialistas ouvidos pela reportagem, contudo, ponderam o impacto da escala dessas ferramentas. Integrantes do Center for Democracy and Technology e do Institute for Ethics in AI da Universidade de Oxford alertam que o apelo utilitário dos agentes incentiva o público a fornecer volumes cada vez maiores de informações privadas, permitindo que as empresas façam inferências e cruzem dados de múltiplas fontes.