Aleph Alpha lança Kolibri, modelo de pesos abertos bilíngue
A Aleph Alpha lançou o Kolibri, modelo alemão-inglês com 78 bilhões de parâmetros voltado para administração pública, aviação e indústria.
Resumo rápido
- Aleph Alpha lança o modelo Kolibri em alemão e inglês.
- O sistema conta com 78 bilhões de parâmetros totais.
- Os pesos do modelo foram publicados no Hugging Face.
Entenda o contexto
A Aleph Alpha é uma empresa alemã de inteligência artificial. O lançamento de modelos com pesos abertos atende a demandas regulatórias e tecnológicas da União Europeia, buscando soberania digital para o continente.
A empresa Aleph Alpha anunciou o lançamento do Kolibri, um modelo de linguagem bilíngue em alemão e inglês com 78 bilhões de parâmetros. A tecnologia utiliza uma arquitetura de mistura de especialistas, na qual cerca de três bilhões de parâmetros ficam ativos por token. Segundo a companhia, o projeto foi desenvolvido com foco na administração pública, na aviação e no setor industrial, tendo a legislação europeia e o Regulamento de IA da União Europeia como diretrizes.
O relatório técnico aponta que o treinamento do sistema ocorreu na Alemanha e na Finlândia utilizando 768 unidades de processamento gráfico B200. A proporção de dados em alemão representa 21,3 por cento do total utilizado na fase de treinamento, processo que contou com uma infraestrutura própria e o apoio de dados sintéticos gerados por modelos chineses.
Disponibilidade e características
O Kolibri oferece suporte a janelas de contexto de até um milhão de tokens. A empresa afirma que o modelo alcança uma posição de destaque na fronteira de Pareto entre qualidade de resposta e custo operacional em ambos os idiomas atendidos, superando modelos comparáveis de arquiteturas semelhantes em testes internos.
Os pesos do modelo foram disponibilizados publicamente sob a licença Apache 2.0 na plataforma Hugging Face, permitindo o acesso por parte de desenvolvedores e pesquisadores interessados na tecnologia.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
