Стартап Circuit Breaker Labs занимается вопросами безопасности искусственного интеллекта, стремясь предотвратить психологически опасные взаимодействия между пользователями и моделями. Компания вошла в число финалистов конкурса Startup Battlefield 200 и примет участие в мероприятии Disrupt в Сан-Франциско с 13 по 15 октября 2026 года.
Основатели компании — Ширали и Арул Нигам. В штате стартапа работают пять человек. Разработчики создают ИИ-агентов, которые имитируют поведение пользователей разных возрастов, культур и языковых групп. Эти агенты выступают в роли «краш-тестов» для проверки моделей на способность распознавать опасные ситуации.
Платформа проводит от десятков до сотен тысяч симулированных диалогов ежедневно. В ходе «красных» тестов учитываются особенности человеческой речи, сленг, опечатки и кодированные фразы. Цель — выявить уязвимости моделей и предотвратить нежелательные или опасные ответы системы.
Компания использует проприетарную систему оценки для формирования проверяемых отчетов. Сейчас стартап работает как лаборатория по тестированию безопасности для высокорисковых ИИ-приложений, включая сервисы психологической поддержки и ИИ-коучинг, однако имена своих клиентов компания не раскрывает.
