Автор использует генеративные модели как оппонентов для проверки гипотез и поиска уязвимостей в нескольких ИИ-проектах, включая системы контроля пассажиропотока, непрерывного мониторинга и осмотра транспортных средств. Вместо того чтобы запрашивать решения, автор просит модели найти допущения, при которых решение перестанет работать, и указать, что именно нужно проверить в данных, коде и у заказчика.
В проекте по контролю пассажиропотока была выявлена необходимость разделить видеоданные, телематику и бизнес-логику. Одной из ключевых проблем стала синхронизация времени: часы на экране видеозаписей имели постоянное смещение относительно временной шкалы файла. Это привело к разделению системы на два контура: один проверяет видео и телематику для формирования интервалов-кандидатов, а второй выполняет детекцию и трекинг.
Чтобы избежать предвзятости и ложных подтверждений, автор применяет подход с несколькими моделями. Одна модель может защищать решение, а вторая — искать условия его отказа. Третья же сравнивает перечень проверяемых утверждений. Такой подход позволяет превратить рекомендации ИИ в конкретные проверяемые действия, а не принимать их за сертификат надежности.
Автор подчеркивает, что ИИ не заменяет инженерную работу: тестирование, ревью безопасности и пентесты. Для защиты конфиденциальных данных используются обезличенные или синтетические примеры. Конечная цель — создать систему, что может сообщить о недостаточности данных или спорном событии, вместо того чтобы выдавать уверенную, но неверную цифру.
