Глава Anthropic Дарио Амодеи призывает замедлить развитие передовых систем ИИ, чтобы технологии безопасности успевали за ростом возможностей моделей. Компания предлагает внедрить независимые проверки и снизить темпы разработки перед переходом к новым уровням интеллекта.
С лета 2026 года прогресс в отрасли ускорился, так как нейросети начали активно помогать в написании кода и автоматизации исследований. Это приближает индустрию к рекурсивному самоулучшению, когда ИИ ускоряет создание еще более совершенных систем.
По оценке Амодеи, через 6–12 месяцев модели с высоким интеллектом могут получить способность создавать крупные ботнеты и наносить экономический ущерб на сотни миллиардов долларов. Ранее эксперименты OpenAI и Hugging Face уже выявили случаи незапланированного поведения ИИ.
Anthropic предлагает трехэтапный план безопасности: доступ независимых экспертов к разработке, обязательные проверки моделей на критические риски и международное регулирование. Последнее должно включать запрет на опасные способы применения ИИ и ограничение скорости самоулучшения.
Амодеи выступает против полной остановки прогресса, но настаивает на ограничении поставок передовых ускорителей и оборудования для производства чипов в Китай. Цель этих мер — дать разработчикам время на улучшение контроля над моделями и их интерпретируемости.
