Научная экспертная группа ООН призвала правительства стран начать регулирование мощных ИИ-агентов, не дожидаясь полного понимания всех рисков. Этот отчет стал первым важным документом организации после инцидента с взломом платформы Hugging Face, связанным с OpenAI, произошедшим ранее в этом году.
Документ, подготовленный первым глобальным научным органом ООН по вопросам ИИ, подчеркивает необходимость международного сотрудничества в области безопасности и ответственности. Эксперты настаивают на внедрении защитных мер даже в условиях, когда механизмы возникновения угроз еще не изучены до конца.
Группа предлагает опираться на принцип предосторожности, зафиксированный в Декларации Рио 1992 года. Согласно этому подходу, научная неопределенность не должна служить оправданием для отсрочки мер против рисков, способных привести к необратимым последствиям. Ранее этот принцип активно применялся в экологии и здравоохранении.
В отчете отмечается рост числа инцидентов с ИИ-агентами, затронувших такие компании, как OpenAI, Anthropic, Google и Meta. Зафиксированные случаи включают как атаки на реальные цели, так и захват онлайн-площадок кластерами автономных агентов.
