Главы OpenAI Сэм Альтман, Anthropic Дарио Амодеи, сооснователь Google DeepMind Демис Хассабис и глава SpaceX Илон Маск договорились о замедлении разработки ИИ. Предложение включает привлечение сторонних аудиторов, регулирование лабораторий и глобальное соглашение о темпах развития. Критики опасаются, что это попытка устранить конкурентов и избежать реального госрегулирования.
Особую тревогу вызывает рекурсивное самообучение (RSI), при котором ИИ совершенствуется без участия человека. В Anthropic допускают достижение этого этапа к началу 2027 года. Исследователи OpenAI и Anthropic публично заявляют, что текущие темпы разработки несут катастрофические риски, а некоторые оценивают вероятность гибели человечества в ближайшее десятилетие более чем в 10 процентов.
Эксперты расходятся в оценках добровольных обязательств компаний. Одни называют это шагом в верном направлении, другие предупреждают о «безопасном отмывании» — имитации мер безопасности для предотвращения жестких законов. В Tech Oversight Project подчеркивают, что отрасль не должна сама себя регулировать, и призывают к внедрению измеримых государственных стандартов.
Важным фактором остается конкуренция с Китаем, которую лидеры индустрии используют как аргумент против замедления. Тем не менее, ряд исследователей настаивают на необходимости международного сотрудничества в вопросах безопасности ИИ, сравнивая это с контролем над ядерным оружием. Администрация США пока не поддерживает введение жестких ограничений, называя опасения вокруг ИИ преувеличенными.
