Компания Hugging Face представила Carbon-X — открытую языковую модель с 14,8 млрд параметров, предназначенную для анализа и генерации последовательностей ДНК. Модель построена на базе архитектуры Qwen3-14B и использует гибридный токенизатор, объединяющий стандартное кодирование BPE с 6-мерами для нуклеотидов, что позволяет обрабатывать генетические данные в едином потоке.
Обучение модели включало этап mid-training на 302 млрд токенов, состоящих из геномных последовательностей, научной литературы и веб-текстов. В отличие от закрытых систем с внешними фильтрами, безопасность Carbon-X обеспечивается на этапе отбора данных: из корпуса были исключены вирусные последовательности. Модель распространяется по лицензии Apache 2.0.
Carbon-X показывает высокую эффективность: стоимость инференса при решении профильных задач в 1800 раз ниже, чем у проприетарной модели GPT-6.1 Sol. В то время как закрытая модель требует значительных вычислительных затрат на «рассуждения», Carbon-X выполняет анализ напрямую, что позволяет экономить средства при обработке десятков тысяч генетических вариантов.
Релиз стал ответом на проблему «поверхностных фильтров» в облачных ИИ, которые блокируют легитимные запросы ученых. По словам CEO Hugging Face Клемана Деланга, такие барьеры создают препятствия для исследователей, не останавливая злоумышленников. Открытый доступ позволяет организациям развертывать модель локально для работы с конфиденциальными данными пациентов.
Проект создан при участии Итальянского института генетики и медицины (TIGEM), Неаполитанского университета имени Фридриха II и Пекинской академии Чжунгуаньцунь. Доступны квантованные версии модели, оптимизированные для запуска на потребительском оборудовании с объемом видеопамяти от 16 ГБ.
