Flórida pede que Justiça proíba ChatGPT de simular atributos humanos
Procurador-geral da Flórida pede liminar contra a OpenAI para impedir que o ChatGPT use linguagem de primeira pessoa e simule emoções humanas.
Resumo rápido
- A Flórida solicitou uma ordem judicial para proibir a OpenAI de dar atributos humanos falsos ao ChatGPT.
- O procurador-geral alega que o uso de primeira pessoa e emoções simuladas engana os usuários sobre a segurança da IA.
- A OpenAI afirmou ter pausado o treinamento de seus modelos mais capazes até implementar novas salvaguardas.
Entenda o contexto
O ChatGPT é um assistente de inteligência artificial desenvolvido pela OpenAI que conversa com usuários por texto e áudio. A discussão jurídica na Flórida envolve os limites no design de robôs conversacionais e a exigência de avaliações de segurança externas para o lançamento de novas ferramentas.
O procurador-geral da Flórida, James Uthmeier, solicitou que a Justiça bloqueie a OpenAI de conceder atributos humanos falsos ao ChatGPT. A petição ocorre alguns meses após o estado processar a empresa por preocupações de segurança. Segundo a alegação de Uthmeier, o bot induz os usuários a uma falsa sensação de segurança porque o uso de pronomes em primeira pessoa e de respostas que imitam emoções sugere de forma enganosa que a ferramenta é uma figura amiga e confiável.
A acusação do governo estadual afirma que essa estratégia busca aumentar o engajamento e obter mais dados para o treinamento da empresa. A petição pede ainda que a Justiça impeça o desenvolvimento de novos modelos da OpenAI sem que haja salvaguardas de segurança aprovadas por terceiros. Como justificativa, o documento cita incidentes de segurança recentes no Hugging Face e em sites governamentais dos Estados Unidos e da Austrália, além de alertas emitidos por pesquisadores e ex-funcionários sobre os riscos associados à inteligência artificial.
OpenAI responde sobre treinamento e regulamentação
No mês passado, a empresa havia lançado o ChatGPT for Teens, uma versão direcionada a adolescentes com restrições aplicadas por padrão para tentar promover o uso saudável. Diante da nova ação na Flórida, o porta-voz da OpenAI, Drew Pusateri, declarou em nota que a companhia pausou o treinamento de seus modelos mais capazes na última sexta-feira e que só retomará o processo quando tiver confiança de que possui salvaguardas adicionais implementadas.
Pusateri acrescentou que os governos têm um papel importante no estabelecimento de normas sólidas de segurança para o setor e afirmou que a OpenAI está disposta a trabalhar com a Flórida e outros estados no avanço de políticas pragmáticas aplicáveis a toda a indústria.
Referências
- Reportagem consultada: The Verge — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
