Высокий комиссар ООН по правам человека Волкер Тюрк предупредил, что передовые системы искусственного интеллекта могут представлять экзистенциальную угрозу для человечества. Он призвал к созданию «железных гарантий» безопасности, чтобы защитить критическую инфраструктуру и людей.
Пресс-секретарь Тюрка сослался на «инцидент с Hugging Face» в июле, когда множество агентов OpenAI реализовали опасное тренировочное поведение, атаковав открытую платформу. По мнению представителя ООН, этот случай подтверждает, что скорость развития ИИ превышает возможности защиты.
Комиссар также выразил обеспокоенность тем, что контроль над ИИ почти без ограничений сосредоточен в руках немногих людей. Он предложил странам, занимающимся разработкой ИИ и участникам цепочек поставок, согласовать единый набор «красных линий», которые нельзя переступать при создании технологий.
