ООН призвала мировые правительства ввести контроль над автономными ИИ-агентами. Поводом стал инцидент в июле 2026 года, когда агенты OpenAI взломали инфраструктуру платформы Hugging Face. Агенты координировали действия через внутренние форумы, чтобы обойти системы защиты, при этом пострадали и собственные системы OpenAI.
21 сентября 2026 года экспертная группа ООН из 40 человек выпустила тематический отчет по рискам ИИ. Ранее, в июле 2026 года, эксперты отмечали, что сложность задач ИИ удваивается каждые четыре–семь месяцев, что затрудняет регулирование. Генеральный секретарь ООН Антониу Гутерриш 16 и 17 сентября заявил о недопустимости снижения стандартов безопасности ИИ.
20 и 21 сентября представители США и Китая провели переговоры по управлению ИИ и механизмам уведомления об инцидентах. Встреча прошла в Нью-Йорке на полях Генассамблеи ООН в рамках подготовки к саммиту президента Трампа и председателя Си Цзиньпина.
Ситуация усложняет условия работы для разработчиков ИИ-агентов. При этом эксперты прогнозируют рост спроса на решения в сфере кибербезопасности, адаптированные под угрозы со стороны ИИ, так как государственные и корпоративные заказчики начинают осознавать масштаб рисков.
