Huawei apresenta OceanStor M900 para armazenamento de cache KV em IA
A Huawei anunciou o OceanStor M900, sistema de armazenamento focado em cache KV para otimizar a inferência de inteligência artificial em grande escala.
Resumo rápido
- A Huawei anunciou o OceanStor M900, um sistema de armazenamento voltado para acelerar a inferência em modelos de IA.
- O equipamento conecta unidades de processamento neural diretamente a SSDs, reduzindo a latência para 60 microsegundos.
- A empresa alega que o sistema permite atingir 64 PB de capacidade e dobrar o rendimento de tokens em clusters de IA.
Entenda o contexto
O cache KV (chave-valor) é uma técnica usada por modelos de linguagem para armazenar dados de contexto já processados, evitando recomputar informações em conversas longas. A expansão desse cache para mídias de armazenamento mais densas busca reduzir os custos operacionais do processamento de inteligência artificial em grande escala.
A Huawei apresentou o OceanStor M900 Context Memory Storage durante o evento HUAWEI CONNECT 2026, realizado em Xangai no dia 17 de setembro. Trata-se de uma camada de armazenamento desenvolvida especificamente para SuperPoDs de inferência em inteligência artificial, criada para gerenciar a memória de contexto em larga escala.
Com o avanço de modelos que atingem trilhões de parâmetros e janelas de contexto com mais de um milhão de tokens, as cargas de trabalho de agentes multirodada demandam mais do que a memória RAM e a memória no chip. A resposta da empresa é o armazenamento unificado com suporte ao UnifiedBus, que expande a memória SuperPoD das mídias SRAM e DRAM diretamente para SSDs. Segundo os materiais divulgados pela companhia, um único cluster do sistema pode alcançar 64 PB de capacidade.
Integração direta promete reduzir latência de acesso
A arquitetura integrada do OceanStor M900 combina processador, controlador de rede e controlador NAND no mesmo fluxo. Essa estrutura permite que as mídias de aceleração (NPUs) do SuperPoD acessem os SSDs em um único salto, dispensando a conversão de protocolos ou o redirecionamento por CPU. A Huawei afirma que esse caminho reduz a latência de acesso de milissegundos para cerca de 60 microsegundos — uma diminuição declarada de 90% — e entrega aproximadamente 40 TB/s de largura de banda agregada.
A fabricante também alega que o design pode dobrar o rendimento de tokens do cluster de inferência e reduzir pela metade o tempo até o primeiro token (TTFT). No entanto, todos esses indicadores de desempenho correspondem a métricas informadas pela própria fornecedora. Para estender a durabilidade dos discos rígidos de estado sólido, o sistema utiliza um gerenciamento adaptativo que prevê o ciclo de vida dos dados, alegando suporte a até 24 gravações diárias por unidade (DWPD).
Referências
- Fonte consultada: Pandaily — Tecnologia chinesa
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
