Искусственный интеллект все чаще создает рабочий код, который выходит за рамки понимания даже опытных инженеров. Основатель компании Infinity Джереми Никсон отмечает, что роль программистов трансформируется: теперь они занимаются надзором за нейросетями, а не непосредственным написанием продуктов. Это ведет к риску атрофии навыков проектирования систем у специалистов, которые перестают писать код вручную.
Примером смены парадигмы стала ситуация в OpenAI. Инженеры компании признались, что не понимают логику работы GPU-ядер, оптимизированных нейросетью. По словам Джордана Наноса из SemiAnalysis, ИИ выдает корректные и работоспособные решения, даже если разработчики не могут проследить логику строка за строкой. Теперь задача инженера — задать архитектуру и критерии приемки.
Использование ИИ-кода в продакшене сопряжено с рисками ошибок и галлюцинаций. Ранее Amazon ввела 90-дневный тест безопасности кода после серии сбоев в обработке заказов, выразив обеспокоенность влиянием изменений, созданных нейросетями. Согласно данным компании Undo, 35% сгенерированного кода попадает в промышленную среду без полного понимания его структуры инженерами.
Проблема негативно влияет на эффективность труда: 29% разработчиков вынуждены тратить время на разбор ИИ-кода несколько раз в месяц. При этом 94% специалистов сталкивались с необходимостью исправлять ошибки нейросетей хотя бы раз за последние полгода. Критики предупреждают, что индустрия рискует вырастить поколение инженеров, не понимающих принципы работы критически важных цифровых систем.
