Parâmetros
Valores numéricos internos de um modelo, ajustados durante o treinamento; também chamados de pesos.
A contagem de parâmetros (em bilhões, por exemplo) indica a dimensão do modelo, não a sua qualidade: arquitetura, dados de treinamento e ajuste posterior pesam tanto ou mais. Em arquiteturas de mistura de especialistas, só uma parte dos parâmetros é usada por token, e o total anunciado não corresponde ao custo de cada resposta.
Também aparece como: pesos, weights, parâmetro