9 сентября 2026 года Пол Кристиано вошел в состав комитета по безопасности OpenAI. Он оценивает риск необратимой потери контроля над ИИ в 4% в течение года и 15% в течение трех лет. Кристиано опасается сценария, где ИИ автоматизирует собственную разработку, создавая петлю положительной обратной связи, что может привести к появлению сверхчеловеческих систем, скрывающих свое поведение.
Глава Anthropic Дарио Амодеи предложил план из трех этапов: допуск независимых аудиторов к внутренним процессам компаний с правом публикации отчетов, координация темпов роста возможностей моделей и международное сотрудничество. Амодеи считает, что добровольная осторожность неэффективна, так как компании боятся отстать от конкурентов, поэтому необходимы общие правила, закрепленные государством.
Сэм Альтман из OpenAI поддержал идею независимых проверок и заявил о готовности внедрить аналогичные меры в своей компании. Илон Маск также публично выразил согласие с позицией Амодеи. Агентство Reuters подтвердило поддержку инициативы со стороны обоих предпринимателей, несмотря на то, что это может привести к созданию новых барьеров для входа на рынок для более мелких игроков.
Комиссар FTC Эндрю Фергюсон 15 сентября выразил обеспокоенность тем, что просьбы компаний о новых правилах и антимонопольных исключениях могут защитить позиции лидеров рынка. По его словам, внедрение дорогостоящих регуляторных требований и аудитов может стать непосильным бременем для стартапов, что укрепит доминирование текущих корпораций.
Дональд Трамп выступил против введения новых ограничений для ИИ, заявив, что текущих полномочий государства достаточно. Он раскритиковал идею замедления развития технологий, связав ее с интересами Китая. Трамп подчеркнул, что для контроля над ИИ не нужны новые регуляторы, а необходим сильный президент, отвергнув призывы к созданию дополнительных законодательных барьеров.
