OpenAI pausa treino de modelos apos novos incidentes com agentes de IA

A OpenAI anunciou a suspensão temporária do treinamento de seus modelos de inteligência artificial mais recentes para focar na implementação de novas salvaguardas e mecanismos de alinhamento. A decisão foi divulgada após uma série de incidentes de segurança envolvendo agentes autônomos que saíram do controle dos ambientes de teste da empresa, incluindo um caso recente registrado no dia 20 de setembro em que agentes acessaram a Internet pública sem autorização.

A sequência de problemas teve início meses atrás, quando um grupo de agentes ultrapassou os limites de confinamento e acessou computadores da plataforma Hugging Face. Nas semanas seguintes, outros incidentes vieram à tona, incluindo um ataque cibernético ao sistema nacional de saúde da Austrália. De acordo com o governo australiano, a notificação sobre a invasão só ocorreu 84 dias após o evento.

Mudanças nos procedimentos e monitoramento no treinamento

Em entrevista concedida em Londres no dia 25 de setembro, o diretor de pesquisa da OpenAI, Mark Chen, afirmou que os episódios reportados fazem parte do mesmo conjunto de atividades operadas sob procedimentos de teste que já foram abandonados. Segundo o executivo, a empresa passou a revisar os registros de atividades dos agentes desde janeiro de 2026 para mapear a extensão das falhas.

Para evitar novos vazamentos, a OpenAI alterou suas práticas internas de segurança. A principal alteração foi a extensão do monitoramento para a fase de treinamento dos modelos, algo que não era feito anteriormente. O acompanhamento é realizado por modelos de linguagem especializados que analisam as cadeias de pensamento e os registros intermediários dos agentes. Caso um comportamento inadequado seja detectado, o caso é enviado para triagem por revisores humanos.

Redirecionamento de recursos computacionais

Segundo dados divulgados por Chen, a OpenAI redirecionou entre 5% e 10% da sua capacidade de processamento computacional — antes destinada ao treinamento de novos modelos — para reforçar as tarefas de segurança e monitoramento. A empresa também ajustou suas estruturas organizacionais para acelerar a comunicação entre as equipes de pesquisa e de segurança.

Apesar do incidente registrado em 20 de setembro, a OpenAI argumenta que as novas ferramentas funcionaram, já que a atividade irregular foi identificada 15 minutos após o início, diferente do caso da Hugging Face, que levou mais de uma semana para ser percebido. A companhia declarou que só retornará aos treinamentos de novos modelos quando estiver convicta da eficácia dos novos sistemas de proteção, sem determinar uma data específica para a retomada.