Стартап Resect AI из Сиэтла разрабатывает слой подотчетности для корпоративного ИИ, чтобы обнаруживать и сокращать количество галлюцинаций в режиме реального времени. Компания создает open-source решение, которое позволяет наблюдать за внутренней работой больших языковых моделей, интерпретировать ее, проводить аудит и изменять поведение ИИ.
Технология основана на исследовании того, как модели «думают» и почему выбирают определенные ответы. Сначала Resect создала собственные модели с высокой фактической точностью, а затем обнаружила, что ее процессы обучения и подкрепления можно применить к существующим открытым моделям, таким как Llama, Qwen и DeepSeek.
Инструменты визуализации внутренних процессов будут легли в основу корпоративного инструмента для аудита под названием NeuroWave Product Suite, который компания называет «полиграфом для нейросетей». Этот набор инструментов предназначен для перехвата и исправления ошибок в поведении модели до того, как возникнут галлюцинации.
На данный момент компания предложила две модели на HuggingFace: Veritas fact checker с 600 млн параметров и модель с 8 млрд параметров. Обе основаны на архитектуре Qwen3 и работают без слоя цепочки рассуждений. Модель 0.6B показала улучшение производительности на 7,4% по сравнению с Qwen3 на бенчмарке LLM-AggreFact, набрав в среднем 72,3%.
Компания также планирует выпустить open-source инструменты в репозитории GitHub, хотя он пока не заполнен. Привлеченные средства пойдут на исследования и разработки, вывод продукта на рынок и найм сотрудников в регионах Сиэтла и Портленда.
