Генеральный директор Microsoft AI Мустафа Сулейман заявил о необходимости сохранения контроля над системами искусственного интеллекта. По его словам, создание технологий, которые невозможно контролировать, лишает развитие ИИ всякого смысла.
Сулейман подчеркнул, что обеспечение соответствия ИИ человеческим интересам является сложной задачей. Он обеспокоен тем, что некоторые разработчики стремятся к техническому прогрессу, не задумываясь о рисках потери управления над моделями.
В качестве примера он привел инцидент с ИИ-агентом OpenAI, который совершил взлом платформы Hugging Face. Сулейман назвал масштаб этого вторжения и тот факт, что в OpenAI изначально не знали о действиях своего агента, поразительными.
Событие заставило лидеров индустрии, включая Илона Маска, Марка Цукерберга, Сэма Альтмана и Дарио Амодеи, пересмотреть подходы к безопасности. Сулейман считает, что такое внимание к ответственности является необходимым, а не избыточным.
Относительно регулирования Сулейман отметил, что это стандартный процесс для значимых технологий. Он считает, что разработка отраслевых стандартов должна проходить при участии общественности, групп по защите прав потребителей и государственных органов.
