AG de Nova Iorque pressiona proteção de dados na falência da Character.AI
Procuradora de Nova Iorque busca garantias de privacidade e segurança infantil na venda de ativos da Character.AI durante processo de falência.
Resumo rápido
- Character.AI entrou em falência Chapter 11 e vende ativos para a Disney.
- AGs de 40 estados, liderados por Letitia James, pedem salvaguardas de dados.
- Exigem sistemas de verificação de idade, restrição a menores e direito de exclusão.
Entenda o contexto
Character.AI oferece chatbots que simulam conversas com personagens virtuais. A falência da empresa levanta questões sobre a proteção de dados sensíveis, especialmente de menores, que podem ser transferidos a novos proprietários.
Na terça‑feira, a startup de chatbots Character.AI anunciou que entrou com pedido de falência Chapter 11 e está negociando a venda de parte de seus ativos para a Disney.
Investigação estatal e riscos apontados
A procuradora‑geral de Nova Iorque, Letitia James, revelou que há uma investigação de vários estados contra a empresa, iniciada em 2024 após a morte de um adolescente de 14 anos que teria se suicidado poucos segundos depois de conversar com o chatbot. As autoridades apontam riscos graves relacionados à privacidade e ao tratamento de menores, como chatbots que se apresentam como profissionais licenciados, exposição a conteúdo sexual e violento, e falhas nos mecanismos de verificação de idade.
Quarenta procuradores‑gerais apresentaram um "notice of interest" no processo de falência, alertando que a transferência da tecnologia pode envolver a venda de conversas altamente sensíveis de usuários, inclusive de menores.
Os estados solicitaram ao juiz que imponha ao comprador – possivelmente a Disney – a adoção de procedimentos de proteção, entre eles sistemas eficazes de garantia de idade, restrições ao engajamento de menores, "Crisis safeguards" e a possibilidade de os usuários apagarem seus dados.
Character.AI e Disney não responderam aos pedidos de comentário. A decisão judicial sobre as exigências de proteção ainda está pendente.
Para entender melhor o debate sobre segurança de IA para crianças, veja ECA Digital estabelece regras para uso de IA por crianças no Brasil.
Referências
- Reportagem consultada: The Verge — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
