Развитие ИИ-агентов сегодня подчинено гонке скоростей, где бизнес вынужден внедрять автономию систем, чтобы оставаться конкурентоспособным. Существующие меры безопасности, включая аудит кода и гардрейлы, направлены на минимизацию ошибок при сохранении максимальной скорости разработки, однако они не устраняют структурную неустойчивость самих систем.
В отличие от живых организмов, у ИИ отсутствует «цена ошибки» и естественный отбор: модели можно копировать, перезаписывать или откатывать к прежним версиям без риска для существования. Согласно исследованиям Sato, Akiyama, Farmer (2002) и Galla, Farmer (2013), в условиях конкуренции агентов с ростом числа функций система закономерно стремится к хаосу, а не к равновесию.
Проблема усугубляется тем, что модели всё чаще обучаются на данных, сгенерированных другими ИИ. Исследование Shumailov и соавторов (2024) подтверждает риск вырождения моделей при отсутствии человеческих данных. По оценке Originality.ai, уже в июле 2026 года около 80% длинных постов в LinkedIn были сгенерированы ИИ, что затрудняет получение качественных данных для обучения.
Сложные системы, к которым относятся ИИ-агенты, проходят через три реальных сценария: равновесие, неустойчивость или хаос. Четвертый путь — переход на новый уровень сложности — пока закрыт из-за отсутствия обратной связи от человека. Исторический опыт банковской сферы (Базель), атомной энергетики (МАГАТЭ) и авиации (стандарт DO-178C) показывает, что подобные гонки неизбежно приходят к внешнему регулированию.
