На рынке появились слухи о том, что Google DeepMind близка к реализации технологии рекурсивного самосовершенствования (RSI). Эта концепция предполагает, что ИИ-системы способны самостоятельно участвовать в разработке более мощных моделей следующего поколения. Официального подтверждения от Google пока не поступало.
Генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы развития передовых ИИ-систем, отметив, что ИИ уже активно используется в собственных исследованиях. Компания предложила допустить сторонние команды для независимого контроля за процессами обучения моделей и соблюдением протоколов безопасности.
В OpenAI поддержали идею независимых проверок, подчеркнув, что вопрос скорости развития технологий стал предметом внутренних обсуждений. Илон Маск также неоднократно высказывался за усиление государственного регулирования, указывая на потенциальные риски, связанные с появлением сверхразума.
Критики инициатив по замедлению отрасли опасаются формирования «регуляторного рва». По их мнению, жесткие нормы могут закрепить доминирующее положение крупных корпораций, обладающих большими ресурсами, и создать непреодолимые барьеры для небольших компаний и разработчиков открытого ПО.
Сегодня ИИ уже выполняет задачи по написанию кода, оптимизации моделей и проектированию экспериментов, что значительно повышает эффективность исследований. Вопрос о том, стоит ли искусственно ограничивать скорость прогресса ради безопасности, остается одной из самых острых тем в индустрии.
