Глава технологического ведомства ЕС Хенна Вирккунен заявила, что действующие европейские нормы позволяют контролировать риски, связанные с автономными ИИ-агентами. Заявление прозвучало на фоне глобальных опасений из-за инцидентов в компаниях OpenAI и Anthropic, где возникли риски потери контроля над системами.
Принятый два года назад закон ЕС об ИИ (AI Act) регулирует технологии в зависимости от уровня риска и охватывает весь жизненный цикл моделей. Регуляторы уже предоставляют компаниям рекомендации по оценке безопасности, опираясь на экспертные заключения 60 специалистов в области искусственного интеллекта.
В конце августа Европейская комиссия запросила данные о мерах безопасности у более чем 30 компаний. Ранее генеральный директор Anthropic Дарио Амодеи отмечал, что темпы развития ИИ, включая способность систем к рекурсивному самосовершенствованию, могут опережать возможности человека по их пониманию и контролю.
