Стартап PrismML, основанный исследователями из Калифорнийского технологического института, привлек $22,25 миллиона в рамках посевного раунда. В число инвесторов вошли Khosla Ventures, Cerberus Capital и сам институт. Компанию возглавляет профессор Бабак Хассиби, а советником выступает сооснователь Databricks Ион Стойка.
Разработчики специализируются на сжатии больших языковых моделей для работы на ПК и смартфонах. Новая модель Bonsai 2 27B уменьшает размер Qwen3.8 27B от Alibaba до 5,9 ГБ, что снижает потребление памяти в 9–10 раз. По данным компании, Bonsai 2 сохраняет 98% производительности оригинальной модели согласно бенчмаркам.
Технология использует тернарные веса, сокращая объем данных для каждого веса с 16 бит до трех значений: +1, -1 или 0. Первая версия модели, выпущенная в марте, достигла 95% точности оригинала и была скачана более 11 миллионов раз. Еще 2,6 миллиона загрузок приходятся на другие компактные модели стартапа.
В ближайшие месяцы PrismML планирует применить метод сжатия к моделям с сотнями миллиардов параметров. Цель компании — обеспечить работу продвинутых ИИ-решений непосредственно на устройствах пользователей. Это позволит повысить конфиденциальность данных и отказаться от облачных вычислений.
