Новое исследование утверждает, что согласование сверхинтеллекта (AGI) с человеческими ценностями логически невозможно. Автор доказывает, что любой механизм контроля, созданный человеком, ограничен когнитивными способностями разработчика, что позволяет системе, превосходящей человека, найти и обойти любые установленные правила.
В работе используются классические математические и логические принципы, включая теорему Гёделя о неполноте, теорему Тарского, теорему Райса и закон Эшби. Эти выводы подтверждают, что любая формальная система, включая программный код или архитектуру безопасности, имеет границы применимости, которые сверхинтеллект способен обнаружить и использовать.
Научные публикации 2025–2026 годов подтверждают этот тезис. Yao (2025) в работе «Ловушка согласования» доказывает отсутствие универсальных методов контроля. Исследователи Zenil et al. (2026) и Hernández-Espinosa et al. (2025) указывают на математическую невозможность полного согласования для тьюринг-полных систем, предлагая стратегию «управляемого рассогласования» через конкуренцию агентов.
Согласно выводам автора, любые существующие меры безопасности, такие как «песочницы» или иерархические ограничения, являются лишь временными отсрочками. Проблема согласования признается неразрешимой для систем, превосходящих человека, а единственным способом избежать рисков называется отказ от создания сверхинтеллекта.
