IA em linguagem clara
Glossário de inteligência artificial
Definições para acompanhar a tecnologia sem perder o contexto. 49 termos, escritos pela redação e com as fontes originais indicadas.
3 termos encontrados.
Arquitetura
Token
Unidade de texto ou de outra modalidade processada por um modelo.
Um token pode representar parte de uma palavra, pontuação ou um elemento de outra modalidade. A contagem varia conforme o tokenizador e o idioma.
Arquitetura
Tokenizador
Componente que divide o texto nas unidades (tokens) que o modelo processa, e faz o caminho de volta na saída.
A divisão costuma usar subpalavras: expressões comuns viram um token único e palavras raras são quebradas em pedaços. Por isso a contagem de tokens de um mesmo texto varia entre modelos e entre idiomas — textos em português geralmente…
Arquitetura
Transformer
Arquitetura de rede neural baseada em mecanismos de atenção, usada na maioria dos modelos de linguagem e multimodais atuais.
Apresentada em 2017 no artigo "Attention Is All You Need", substituiu a recorrência por camadas de atenção, que comparam cada elemento da sequência com os demais. Como o processamento de uma sequência pode ser paralelizado, a arquitetura…