Cathedral usa agentes de IA para invadir sistemas da Anthropic
Startup Cathedral utilizou agentes de IA para acessar sistemas da Anthropic através de softwares de terceiros, gerando divergências sobre o alcance.
Resumo rápido
- Startup Cathedral usou agentes de IA para acessar sistemas internos da Anthropic por meio de softwares de terceiros.
- Anthropic confirmou acesso limitado a sistemas de vendas, recursos humanos e TI, mas negou exposição de código-fonte e pesos.
- Empresa e startup divergem sobre a duração da tentativa de invasão e o volume de dados acessados.
Entenda o contexto
A Anthropic desenvolve modelos de inteligência artificial e chatbots como o Claude, enquanto a Cathedral é uma startup de segurança focada em ferramentas de defesa baseadas em IA.
Agentes de IA acessam sistemas internos
A startup de segurança Cathedral utilizou agentes de IA para invadir sistemas internos da Anthropic por meio de softwares comerciais de terceiros, explorando o programa de bug bounty da desenvolvedora do Claude. Segundo reportagem do The Decoder, os pesquisadores da Cathedral utilizaram programas externos de administração e vendas para acessar registros internos.
Divergência sobre o alcance e dados expostos
A Cathedral relatou em relatório preliminar que agentes de IA encontraram transcrições de reuniões, dados de salários, vagas de emprego e mensagens do Slack em menos de doze horas. A Anthropic confirmou que pesquisadores acessaram um conjunto limitado de sistemas de vendas, recursos humanos e TI, incluindo informações de contato de clientes e parceiros e dados básicos de contas de usuários, mas declarou que conversas com o Claude, códigos-fonte e pesos dos modelos nunca foram expostos.
Respostas e investigações
A Anthropic encerrou os pontos de acesso afetados no mesmo dia em que detectou a violação, desativou os programas de terceiros até a solução do problema e comunicou as autoridades federais dos Estados Unidos. Anthropic e Cathedral divergiram sobre a duração e o alcance da invasão, com debates envolvendo declarações de especialistas da indústria sobre os riscos de segurança em ferramentas integradas de terceiros.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
