Немецкая компания Aleph Alpha представила открытую ИИ-модель Kolibri, предназначенную для госсектора и регулируемых отраслей. Модель построена на архитектуре Mixture-of-Experts, содержит 78,1 млрд параметров и поддерживает контекстное окно до 1 048 576 токенов. Веса доступны на Hugging Face под лицензией Apache 2.0.
Обучение модели проходило на 768 графических процессорах Nvidia B200 и заняло три этапа с общим объемом 23,64 трлн токенов. В обучающую выборку вошли английский (62%), немецкий (21,3%) и программный код (14%). Разработчики создали специализированный токенизатор для учета морфологии немецкого языка.
Kolibri позволяет организациям развертывать ИИ на собственной инфраструктуре, что исключает передачу данных сторонним облачным провайдерам. Модель соответствует требованиям европейского AI Act и GDPR. Для запуска требуется минимум один ускоритель Nvidia H200, B200, B300 или пара A100 80 GB/H100 SXM5.
По внутренним тестам разработчика, модель набрала 96,7% на AIME 2026 и 84,8% на GPQA Diamond. В Aleph Alpha заявляют, что Kolibri сопоставима с моделями, использующими в четыре раза больше активных параметров, в задачах программирования, математики и работы с длинным контекстом.
