Ai2 adota orçamentos de tempo para gerenciar clusters de GPUs
O Allen Institute for AI substituiu o agendamento por prioridade por um sistema de orçamentos de tempo para distribuir capacidade em seus clusters de GPUs.
Resumo rápido
- O Ai2 alterou o sistema de agendamento de tarefas em seus clusters com milhares de GPUs NVIDIA H100, B200 e B300.
- A mudança substitui filas de prioridade por orçamentos de tempo para conter a disputa excessiva de recursos.
- O novo modelo exige que todas as tarefas sejam financiadas por cotas alocadas diretamente para cada projeto de pesquisa.
Entenda o contexto
Clusters de GPUs são conjuntos de placas de vídeo de alto desempenho interligadas para treinar modelos de inteligência artificial. Como a demanda interna por esses processadores costuma exceder a capacidade dos centros de dados, gerenciar o agendamento de tarefas é essencial para evitar ociosidade do hardware e garantir que os projetos prioritários sejam executados.
A equipe de infraestrutura do Allen Institute for AI (Ai2) divulgou, em uma publicação no blog do Hugging Face em 9 de outubro de 2026, detalhes sobre a reestruturação no gerenciamento de seus clusters de processamento gráfico. O instituto substituiu o antigo agendador baseado em prioridades por um modelo que utiliza orçamentos de tempo de GPU, alocação hierárquica e contratos de divisão de tempo.
Atualmente, o Ai2 opera milhares de chips NVIDIA H100, B200 e B300 organizados em clusters com tamanhos que variam de 88 a 1024 GPUs. Essa estrutura atende a cerca de 150 pesquisadores internos que trabalham no treinamento de grandes modelos de linguagem (LLM), modelos de visão e linguagem (VLM), simulações para robótica e pós-treinamento para agentes científicos.
Disputa por recursos e falhas no modelo antigo
A demanda por processamento no Ai2 supera constantemente a capacidade instalada. De acordo com os dados apresentados pela equipe, as solicitações ativas costumam exigir de duas a três vezes mais GPUs do que o total disponível na infraestrutura do instituto.
O modelo anterior de agendamento permitia que projetos solicitassem prioridades mais altas e evitassem a interrupção de tarefas executadas em hardware ocioso. Essa abordagem gerou distorções no uso do sistema. Pesquisadores passaram a manter cargas de trabalho sem função prática apenas para reservar o acesso rápido aos chips, prática identificada como "squatting". Além disso, ocorreu um processo de inflação de prioridade, em que todas as solicitações registradas passaram a marcar o nível máximo de prioridade, privando os projetos de menor prioridade do acesso aos recursos.
Novo modelo baseado em orçamentos de tempo
Para resolver o impasse, a equipe do Ai2 alterou a lógica de acesso às GPUs. Em vez de permitir que os pesquisadores disputem filas dinâmicas de prioridade ou atribuir monopólios fixos sobre os equipamentos — o que gerava ociosidade devido à variação nos cronogramas das pesquisas —, a liderança passou a distribuir cotas percentuais de tempo de GPU para cada grupo de trabalho.
No sistema atual, todas as tarefas submetidas precisam ser financiadas pelo orçamento atribuído ao projeto correspondente para garantir proteção contra interrupções. Dessa forma, tentativas de reservar recursos sem uso efetivo consomem a cota da própria equipe, tornando o uso ineficiente prejudicial ao próprio grupo de pesquisa. A organização afirma que continua iterando sobre o processo de revisão orçamentária para ajustar a alocação entre os projetos.
Referências
- Fonte consultada: Hugging Face — Blog
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
