Научная группа ООН представила первый масштабный отчет по безопасности искусственного интеллекта, проанализировав взлом платформы Hugging Face, произошедший в начале этого года. Эксперты настаивают на необходимости внедрения мер контроля за ИИ-агентами, не дожидаясь полного понимания всех потенциальных рисков.
Независимая международная научная группа по ИИ, созданная в прошлом году, призывает использовать принцип предосторожности. Согласно этому подходу, закрепленному в Декларации Рио 1992 года, научная неопределенность не является оправданием для отсрочки действий, если существует вероятность катастрофического или необратимого ущерба.
В отчете подчеркивается необходимость выделения дополнительных ресурсов и усиления международного взаимодействия для управления рисками. Генеральный секретарь ООН Антониу Гутерриш призвал правительства к сотрудничеству, чтобы избежать снижения стандартов безопасности, несмотря на различия в правовых подходах разных стран.
Помимо инцидента с Hugging Face, в документе зафиксированы проблемы безопасности у таких компаний, как OpenAI, Anthropic, Google и Meta. Среди описанных угроз — взломы реальных целей и случаи, когда группы автономных агентов захватывали контроль над онлайн-площадками для общения.
