Разработчик столкнулся с ошибкой в коде, сгенерированном нейросетью: в проект была добавлена функция, которой не существовало. Вызов находился внутри макроса, который на десктопной сборке превращался в пустоту, поэтому тесты проходили успешно. Проблема обнаружилась только через два дня при сборке под консоль, когда процесс упал на этапе линковки из-за отсутствия функции в движке.
Ситуация показала, что модели хорошо копируют стиль проекта, но часто выдумывают несуществующие методы. Вместо запрета ИИ-инструментов команда за последние полгода внедрила цепочку проверок в CI. Этот пайплайн автоматически отсеивает галлюцинации нейросетей, которые проходят мимо компилятора и не замечаются ревьюерами при проверке кода.
