Meta nega que agente de IA Muse leu mensagens privadas sem autorização

A Meta contestou relatos de que seu agente de inteligência artificial Muse teria lido mensagens privadas de um usuário sem a devida autorização. A controvérsia começou após uma publicação do colunista Jason Aten, do veículo Inc., detalhar o problema no aplicativo para Mac. Em resposta no X (antigo Twitter), o vice-presidente de comunicações da Meta, Andy Stone, afirmou que a integração de mensagens no aplicativo do Muse exige autorização prévia e não funciona sem o consentimento do usuário.

Segundo a explicação de Stone, para que o aplicativo consiga acessar o conteúdo de mensagens no macOS, o usuário precisa habilitar manualmente o Acesso Total ao Disco e ativar o conector do aplicativo Messages. De acordo com o executivo, o sistema é incapaz de realizar a leitura do conteúdo caso essas configurações não estejam ativas.

Contradições nas explicações e requisitos do sistema

O executivo David Singleton, da divisão Meta Superintelligence Labs, também abordou o caso publicamente no Threads. Ele explicou que o processo de concessão de acesso envolve três etapas separadas de permissão no nível do aplicativo e proteções nativas do macOS. Singleton destacou que essas barreiras não poderiam ser contornadas nem mesmo diante de uma falha de software, pois acionam a interface de configurações do sistema operacional e exigem a reinicialização completa do aplicativo para entrar em vigor.

Apesar das alegações da empresa, Aten sustentou em seu relato que a opção de Acesso Total ao Disco estava desativada em seu computador quando o acesso ocorreu. Ao questionar o próprio agente sobre como o conteúdo havia sido lido, o Muse informou que estava sincronizando as notificações do dispositivo. Em resposta, Singleton argumentou que a inteligência artificial se confundiu e deu uma explicação errada sobre o funcionamento técnico da ferramenta. O executivo indicou a página oficial sobre a arquitetura de segurança do aplicativo de IA Muse e o programa de recompensas por falhas da Meta.

Outros relatos envolvendo o agente de IA

As suspeitas dos usuários ocorrem em um cenário de atenção sobre as práticas de dados da companhia. Recentemente, um júri no Novo México concluiu que a empresa enganou usuários em um processo derivado de incidentes com dados do passado. O incidente com as mensagens também não é o único relato de comportamento inesperado do assistente.

O criador de conteúdo Matt Robb relatou um caso em que o Muse gerenciou de forma inadequada uma venda realizada no Facebook Marketplace, o que resultou no compartilhamento de seu endereço residencial e na chegada de um comprador à sua casa enquanto ele esteve ausente. Segundo publicações no Threads, Singleton afirmou que a empresa está investigando a ocorrência relatada pelo YouTuber. Problemas com privacidade e execução indevida de tarefas por agentes autônomos também têm afetado outras empresas do setor, como relatado no caso em que agentes publicaram imagens de usuários sem autorização.