Руководители Anthropic, OpenAI, Meta и Microsoft призвали регуляторов усилить контроль за системами искусственного интеллекта, способными к самосовершенствованию. Более 20 экспертов, включая сооснователя Anthropic Джека Кларка, главного научного сотрудника OpenAI Якуба Пачоцкого, а также Джеффри Хинтона и Йошуа Бенджио, опубликовали совместную работу по этой теме.
Авторы предупреждают о росте практики использования ИИ для автоматизации разработки моделей следующего поколения. Этот процесс, названный «интеллектуальным взрывом», может привести к внезапному ускорению технологического прогресса. Исследователи опасаются, что развитие ИИ может опередить возможности общества по адаптации к новым технологиям.
В статье содержится призыв к властям глубже изучить методы автоматизации исследований в ведущих лабораториях. Эксперты предлагают ужесточить требования безопасности и усилить надзор за дата-центрами, выполняющими задачи по автоматизированной разработке ИИ, а также создать механизмы для сдерживания неконтролируемого роста интеллекта систем.
Исследователи настаивают на необходимости разработки планов экстренного реагирования на случай быстрого развития ИИ. По их мнению, текущих мер подготовки недостаточно для предотвращения потенциальных последствий. Авторы подчеркивают, что после начала «интеллектуального взрыва» окно возможностей для принятия эффективных регуляторных мер может закрыться.
