OpenAI deve lançar modelo novo este ano, mas flagship ainda precisa de alinhamento
OpenAI pretende lançar um ou dois modelos ainda em 2026, mas o próximo flagship ainda requer trabalho de alinhamento e testes de segurança.
Resumo rápido
- OpenAI pode lançar um ou dois novos modelos ainda em 2026.
- O próximo modelo flagship usa transformadores em loop, dificultando o monitoramento de segurança.
- A empresa ainda precisa concluir alinhamento e avaliações de segurança antes do lançamento.
Entenda o contexto
OpenAI é a principal desenvolvedora de grandes modelos de linguagem. A técnica de transformadores em loop permite que um modelo reutilize as mesmas camadas várias vezes, aumentando eficiência, mas reduzindo a transparência do raciocínio interno, o que complica a verificação de segurança.
Funcionários da OpenAI afirmam que a empresa deve lançar "um ou dois novos modelos" ainda este ano, embora ainda não esteja claro se o modelo flagship em desenvolvimento será incluído nessa entrega.
Técnica de transformadores em loop
Segundo fontes internas, o próximo modelo flagship continuará usando a técnica de "looped transformers" – a mesma empregada em Astra. Essa abordagem faz o token percorrer múltiplas vezes as mesmas camadas do transformer, o que eleva o desempenho em tarefas de matemática e programação, mas também desloca parte do raciocínio para representações numéricas internas, dificultando a inspeção humana.
Desafios de alinhamento e segurança
A OpenAI está dedicando cerca de dez por cento de sua capacidade computacional total a esforços de alinhamento e segurança, de acordo com informações internas. O chefe científico Jakub Pachocki já reconheceu que o monitoramento de cadeia de pensamento está se tornando "frágil" e alerta contra uma corrida da indústria por modelos sem raciocínio legível.
Além disso, a empresa precisa reforçar a infraestrutura de testes antes de avançar. Conforme um decreto executivo do ex‑presidente Trump, a OpenAI deve conceder ao governo dos EUA acesso antecipado aos novos modelos, o que acrescenta outra camada de avaliação antes de disponibilizá‑los a parceiros externos ou ao público.
Um vazamento acidental da Microsoft revelou detalhes sobre a técnica de inferência em loop usada no GPT‑6.1 Sol, confirmando que a informação corresponde ao que a OpenAI compartilhou privadamente com a investidora.
Até o momento, não há confirmação oficial sobre datas de lançamento, preços ou disponibilidade dos modelos mencionados.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
