Anthropic aciona polícia após ameaça identificada pelo Claude
Anthropic denunciou à polícia uma usuária que fez ameaças de ataque em conversas com o chatbot Claude na Flórida.
Resumo rápido
- A Anthropic acionou a polícia após detectar planos de ataque em conversas com o Claude.
- O monitoramento automatizado e a revisão humana identificaram as mensagens enviadas na Flórida.
- A usuária foi presa e formalmente acusada com base na legislação estadual de ameaças eletrônicas.
Entenda o contexto
A Anthropic é uma empresa de inteligência artificial criadora do assistente Claude. O caso ilustra os limites de privacidade e o funcionamento de sistemas de moderação e monitoramento automatizado em ferramentas de IA generativa.
A Anthropic acionou as autoridades policiais após identificar um suposto planejamento de crime em conversas de uma usuária com o chatbot Claude. O episódio resultou na prisão de Carli Michelle Heller, no estado norte-americano da Flórida, sob a acusação de fazer uma ameaça eletrônica de violência.
De acordo com os registros do caso, os trechos considerados suspeitos foram detectados por mecanismos automatizados de segurança da plataforma em 26 de setembro. Nas mensagens, a usuária mencionava planos de atacar o escritório do xerife e, no dia seguinte, relatava ter obtido uma nova arma. O conteúdo foi encaminhado para uma equipe de revisão humana, que comunicou a ocorrência à polícia.
A documentação da empresa estabelece que os dados de usuários podem ser repassados a autoridades em situações de emergência quando houver avaliação de risco iminente de morte ou ferimentos físicos graves. A investigada utilizava a ferramenta de inteligência artificial para registrar pensamentos e dialogar sobre temas pessoais.
Segurança e sigilo em plataformas de IA
O episódio reforça que as plataformas de inteligência artificial não oferecem o mesmo sigilo garantido por profissionais como psicólogos ou advogados. Em declarações anteriores citadas no contexto do caso, o CEO da OpenAI, Sam Altman, já havia apontado que o histórico de conversas em chatbots pode ser lido por mecanismos de segurança e repassado a órgãos competentes.
A atitude da empresa demonstra um cenário de maior rigor no monitoramento de conteúdos por parte dos laboratórios de IA. Episódios anteriores envolveram processos judiciais contra empresas do setor após a consumação de crimes cujas conversas preliminares não foram comunicadas às autoridades.
Referências
- Reportagem consultada: Tecnoblog — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
