Aleph Alpha lanza Kolibri-1, un modelo abierto de 78.000 millones de parámetros con hasta 1 millón de tokens de contexto
Aleph Alpha ha publicado Kolibri, un modelo de lenguaje con pesos abiertos que se puede descargar desde Hugging Face y usar con la licencia Apache 2.0. Tiene 78.000 millones de parámetros, de los que solo activa 3.000 millones en cada paso, y admite hasta 1 millón de tokens de contexto. Solo trabaja en alemán y en inglés y necesita equipos potentes, como dos tarjetas gráficas A100 de 80 GB o una H200.
Por qué importa
Se puede ejecutar en servidores propios sin enviar datos internos a terceros, aunque solo en alemán y en inglés.
Fuente oficial: Aleph Alpha












