StepFun abre pesos do Step 5 Preview com 600 B de parâmetros

StepFun disponibilizou, nesta quinta‑feira (15 de outubro de 2026), os pesos do modelo Step 5 Preview, cumprindo a data anunciada em setembro. A liberação inclui checkpoints nas precisões BF16 e FP8, hospedados nas plataformas Hugging Face e ModelScope, além de um blog técnico que detalha a arquitetura.

Características técnicas

Step 5 Preview é um modelo de mistura de especialistas (Mixture‑of‑Experts) esparso, com 600 bilhões de parâmetros no total. Apenas 27 bilhões são ativados por token, permitindo que o modelo processe até 1 milhão de tokens de contexto, o que o torna adequado para tarefas de agente de longo horizonte.

Para reduzir o custo de atenção em janelas tão extensas, a arquitetura emprega Sparse GQA, que combina indexação em blocos de 8 tokens com cálculo esparso, diminuindo o custo de indexação e seleção top‑k para um oitavo do valor tradicional.

Disponibilidade e uso

Desenvolvedores podem acessar o modelo via API compatível com OpenAI usando vLLM ou SGLang, ou ainda executar inferência offline com a biblioteca Transformers. O checkpoint FP8 cabe em um nó único com quatro GPUs B300 ou oito GPUs H200; o checkpoint BF16 requer oito GPUs B300 ou dois nós de oito GPUs H200.

StepFun afirma que o modelo tem bom desempenho em áreas como codificação, engenharia de software, trabalho profissional e finanças, e que está em segundo lugar nas tabelas de uso diário e semanal da OpenRouter.

Os pesos são distribuídos sob a StepFun Model License 1.0, descrita como estilo Apache‑2.0, mas com exigências adicionais de atribuição e condições comerciais. A empresa ainda não validou integralmente o fluxo de trabalho BF16 fragmentado para Transformers.