Стартап Proprioceptive AI, основанный Логаном Мэтью Наполитано, разрабатывает нейронные зонды для мониторинга и коррекции больших языковых моделей. Технология позволяет выявлять и подавлять галлюцинации в режиме реального времени без переобучения или изменения весов базовой модели.
Зонды содержат около 1 миллиона параметров и добавляют 0,003% к объему модели, работая с задержкой менее миллисекунды. По внутренним данным, система снижает количество уверенных ошибочных ответов на 85,8%, а показатели AUC составляют 0,96–0,999. В тестах GSM8K зафиксирован рост точности на 70 процентных пунктов.
Компания готовит к выпуску продукт The Cradle для моделей с 3–32 миллиардами параметров. Технология опирается на операторы Купмана, на методы которых подано более 100 предварительных патентов. Зонды демонстрируют коэффициенты разделения от 125x до 1376x для архитектур вроде LLaMA и Mistral.
Разработчики заявляют о возможности переноса зондов между моделями. На текущий момент все результаты тестов являются внутренними. Для подтверждения эффективности технологии потребуется независимая проверка, а также оценка работы зондов на моделях, превышающих лимит в 32 миллиарда параметров.
