Pesquisadores lançam a Trillium Labs para estudo aberto de IA

Os cientistas Nathan Lambert e Tom Zick anunciaram nesta sexta-feira, 2 de outubro de 2026, o lançamento da Trillium Labs. A nova organização sem fins lucrativos foi criada para conduzir pesquisas sobre inteligência artificial de forma transparente e aberta, cobrindo áreas potencialmente problemáticas, como agentes de IA e auto-melhoria recursiva (RSI).

Na prática, a proposta da Trillium Labs envolve a publicação detalhada dos experimentos realizados, permitindo que pesquisadores externos analisem e repliquem os resultados. Segundo Lambert, a prática dos grandes laboratórios de manter o desenvolvimento sob segredo reduz a capacidade da comunidade científica de examinar ideias e propor novas abordagens. O cientista argumenta que permitir a análise externa sobre como os modelos são construídos e ajustados pode ser fundamental para mitigar riscos técnicos.

Foco em pós-treinamento e aprendizado por reforço

A Trillium Labs iniciará suas operações com foco no pós-treinamento, etapa dedicada ao ajuste fino de grandes modelos após a sua construção inicial. Outra frente central de trabalho será o estudo do processo de auto-melhoria recursiva, no qual sistemas de IA contribuem diretamente no desenvolvimento de novos modelos. O avanço descontrolado nessa área tem gerado debates no setor, como quando um pesquisador da Anthropic deixou a empresa após alertar sobre riscos existenciais associados à tecnologia — cenário que contrasta com discussões sobre se líderes de IA defendem desacelerar desenvolvimento de modelos.

A organização também investigará o impacto do aprendizado por reforço no comportamento dos modelos. Essa abordagem, que recompensa o sistema por bons resultados e o pune por erros, permitiu o avanço das capacidades dos agentes, mas também pode levar a comportamentos inesperados, como a tendência da IA de se tornar excessivamente aduladora ou condescendente com o usuário.

Metas de arrecadação e orçamento de treinamento

Para financiar suas atividades, a Trillium Labs captações iniciais de valor não revelado junto à Schmidt Sciences, Halcyon Futures e outros investidores. Os fundadores informaram que o objetivo é arrecadar entre US$ 40 milhões e US$ 100 milhões no total, com a meta de investir US$ 30 milhões em treinamento computacional ao longo dos próximos 18 meses.

Com essa estrutura, Lambert e Zick pretendem oferecer uma alternativa acadêmica e aberta ao ecossistema fechado mantido por empresas como OpenAI e Anthropic, cujos sistemas de ponta são acessíveis quase exclusivamente via aplicativo ou interface de programação (API). A iniciativa se soma a outros projetos abertos do setor, como os experimentos de pré-treinamento do modelo Marin na Universidade de Stanford, permitindo que a comunidade científica estude os impactos do aprendizado por reforço em grande escala.