OpenAI demite três pesquisadores de segurança após alegações de vazamento
OpenAI demitiu três pesquisadores de segurança que negam ter vazado informações confidenciais; eles apontam falta de clareza e temem efeito sobre auditorias externas (Wall Street Journal).
Resumo rápido
- OpenAI demitiu três pesquisadores de segurança que negam ter vazado informações confidenciais, segundo entrevista ao Wall Street Journal.
- A empresa alegou violação de políticas internas, mas os pesquisadores afirmam não ter sido informados sobre o que supostamente teriam vazado.
- Eles alertam que a situação pode inibir a colaboração com auditorias externas e a denúncia de riscos de IA.
Entenda o contexto
A demissão dos três pesquisadores ocorre em meio a debates sobre transparência de modelos de IA e a necessidade de auditorias externas. O caso pode impactar a disposição de profissionais de segurança em colaborar com empresas de IA.
Quem foram os demitidos e quais são as alegações?
Os pesquisadores de segurança da OpenAI – Tomek Korbak, Mikita Balesni e Jasmine Wang – foram dispensados após uma investigação interna que apontou supostas violações de políticas de manejo de informações sensíveis.
Qual o ponto de divergência entre a empresa e os funcionários?
OpenAI afirma que os profissionais compartilharam detalhes internos do modelo via chats no aplicativo Signal, embora a companhia tenha declarado que o uso do Signal não foi a causa da demissão. Os três negam ter vazado informações confidenciais e ressaltam que nunca receberam uma notificação escrita especificando o que teriam divulgado.
Quais foram os incidentes específicos citados?
- Korbak e Balesni mantiveram contato com o cientista da Redwood Research, Ryan Greenblatt, por Slack e Signal ao analisar um incidente envolvendo agentes da OpenAI e a Hugging Face.
- Wang foi acusada de acessar repetidamente a caixa de entrada de um executivo; ela afirma que o acesso já havia sido solicitado para revogação, que abriu um e‑mail sensível por engano, não compartilhou o conteúdo e reportou o fato imediatamente.
Quais as possíveis consequências internas?
Segundo os pesquisadores, o caso pode gerar medo entre colegas de discutir questões de segurança com externos ou levantar preocupações internas, enfraquecendo a cooperação com organizações de auditoria independente.
Outros desdobramentos recentes
Um auditor externo da METR e da Redwood Research identificou vulnerabilidades na infraestrutura da OpenAI; a empresa, porém, censurou quase metade do relatório final. Em paralelo, a OpenAI divulgou um novo design de segurança que opera sem acesso à internet e afirmou ter retomado o treinamento de modelos no início de outubro.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
