Внедрение ИИ-ассистентов в разработку создает «оракульное смещение» — разрыв между падающей стоимостью генерации кода и неизменной стоимостью его проверки, требующей человеческого труда. Автоматизация увеличивает объем непроверенных артефактов, из-за чего метрики процесса растут, а доверие к продукту и стабильность системы снижаются.
Согласно отчету DORA 2024, каждые дополнительные 25% внедрения ИИ приводили к падению пропускной способности на 1,5%. В 2025 году пропускная способность восстановилась, но нестабильность осталась. Около 90% опрошенных используют ИИ, при этом 30% выражают крайне низкое доверие к результатам генерации.
Исследования показывают сохраняющиеся риски безопасности. При проверке более 100 моделей на 80 задачах OWASP Top 10 выяснилось, что 45% кода содержат уязвимости. Анализ 331 000 программ на языке C показал, что не менее 62,07% генераций содержат подтвержденные дефекты. Безопасность кода не улучшается с выходом новых поколений моделей.
Для решения проблемы предлагается фиксировать критерии приемки до начала генерации и разделять контексты для кода и тестов. Рекомендуется внедрять слепую человеческую оценку, использовать фаззинг и мультиметрики, включая SLO и анализ утечек дефектов. Покрытие тестами в отрыве от независимых оракулов признано ложным сигналом качества.
