Inferência
Execução de um modelo já treinado para produzir uma resposta.
É a etapa que acontece a cada pedido do usuário e responde pela maior parte do custo operacional de um serviço de IA em produção — treinar é um gasto concentrado, inferir é um gasto contínuo. Latência, preço por token e limites de uso são características da inferência, não do treinamento.
Também aparece como: inferências