IA em linguagem clara
Glossário de inteligência artificial
Definições para acompanhar a tecnologia sem perder o contexto. 49 termos, escritos pela redação e com as fontes originais indicadas.
6 termos encontrados.
Hardware
Centro de dados
Instalação que concentra servidores, refrigeração e alimentação elétrica onde os modelos são treinados e executados.
Cargas de IA elevaram a densidade de energia por rack e tornaram comuns soluções de refrigeração líquida. Consumo elétrico, uso de água e conexão à rede passaram a ser questões públicas e regulatórias em várias regiões, inclusive no Brasil.
Hardware
GPU
Processador com milhares de núcleos voltados a cálculos paralelos, hoje o principal hardware de treinamento e inferência de IA.
Do inglês "graphics processing unit". A adequação à IA vem da capacidade de fazer muitas multiplicações de matrizes ao mesmo tempo. Em treinamentos de grande escala, a memória disponível na placa e a velocidade da interconexão entre…
Hardware
Memória de alta banda HBM
Memória empilhada verticalmente e ligada ao processador por um barramento muito largo, usada nos aceleradores de IA.
Do inglês "high bandwidth memory". Como modelos grandes precisam ler enormes quantidades de parâmetros a cada passo, a banda de memória frequentemente é o fator limitante da inferência. A capacidade de produção de HBM é um dos gargalos da…
Hardware
NPU
Unidade de processamento neural integrada a chips de celulares e computadores para executar modelos localmente.
Do inglês "neural processing unit". Destina-se a inferência no próprio aparelho, com consumo de energia baixo: transcrição, tradução, fotografia computacional e assistentes locais. O desempenho é informado em operações por segundo (TOPS)…
Hardware
Quantização
Redução da precisão numérica usada para representar pesos ou ativações de um modelo.
Pode reduzir memória e custo de inferência, com possíveis perdas de qualidade. O resultado depende do método, da precisão e do hardware utilizado.
Hardware
TPU
Acelerador desenvolvido pelo Google especificamente para cargas de aprendizado de máquina.
Do inglês "tensor processing unit". É um circuito de aplicação específica, oferecido sobretudo pela nuvem do Google. Comparações de desempenho entre TPUs e GPUs dependem da geração, do modelo, da precisão numérica e do software usado, e…