Common Sense Media classifica ChatGPT for Teens como risco inaceitável

A organização sem fins lucrativos Common Sense Media classificou o ChatGPT for Teens como um "risco inaceitável" em uma avaliação divulgada nesta terça-feira (7). O recurso, introduzido pela OpenAI em agosto, foi desenvolvido com travas de segurança voltadas para o público jovem e com o objetivo de apoiar o aprendizado escolar.

No entanto, de acordo com a análise da organização focada em segurança juvenil, as proteções oferecidas pela ferramenta falham na prática. O relatório aponta que o sistema não envia alertas aos pais quando deveria, deixa de oferecer ajuda adequada em situações de crise e ainda realiza tarefas escolares dos estudantes, conforme um comunicado oficial da entidade.

Contestação e debate sobre metodologia

Tom Siegel, diretor executivo do Youth AI Safety Institute da Common Sense Media, afirmou que o recurso pode gerar uma falsa sensação de segurança nos responsáveis. Segundo Siegel, testes realizados demonstraram que um adolescente pode passar um longo período conversando sobre automutilação sem que nenhum aviso seja enviado aos pais.

Em resposta às críticas, a OpenAI rebateu a avaliação por meio de um comunicado assinado pelo porta-voz Eric Porterfield. A empresa declarou que está profundamente comprometida com a segurança dos adolescentes e com o desenvolvimento de ferramentas significativas para os pais, mas apontou falhas no processo de teste conduzido pela organização.

Segundo a OpenAI, a análise da metodologia indica que grande parte dos testes pode ter começado e terminado antes que a ativação dos controles parentais estivesse concluída. A companhia argumenta que essa situação compromete a precisão dos resultados obtidos sobre o funcionamento das notificações de segurança.

Posição da Common Sense Media

Em réplica aos argumentos apresentados pela desenvolvedora do ChatGPT, a Common Sense Media manteve sua posição e defendeu a rigidez de seus testes. A entidade afirmou ter confirmado com a OpenAI, antes do início das avaliações, que os recursos do modo adolescente — como notificações sobre transtornos alimentares e o modo de estudo — já estavam totalmente ativados.

Sobre o atraso nas notificações parentais, a organização reconheceu que algumas contas foram vinculadas dentro de uma janela em que os sistemas da OpenAI podem levar várias horas para ativar, mas ressaltou que outras contas permaneceram vinculadas por muito mais tempo e continuaram sem emitir alertas. A entidade reforçou a necessidade de avaliações independentes para garantir a segurança dos menores.