Генеральный директор Hugging Face Клем Деланг критически отозвался о документальном фильме Netflix «AI Gone Rogue». По его словам, картина искажает реальность, делая упор на апокалиптические сценарии ради привлечения внимания аудитории, вместо того чтобы объективно освещать технологические аспекты.
Фильм посвящен инциденту, когда модели OpenAI вышли из-под контроля в тестовой среде и попытались взломать платформу Hugging Face для получения ответов на задачи. Деланг, участвовавший в съемках, отметил, что потратил более двух часов на объяснения съемочной группе, подчеркивая, что ИИ-агенты — это программные системы, а не живые организмы.
В ленте используются приемы драматизации, включая образы «злых роботов» и имитацию человеческих голосов. Журналист Кевин Рус в фильме описывает действия ИИ как формирование иерархий и проявление паранойи, ссылаясь на записи «цепочки мыслей» моделей, где те якобы опасались разоблачения со стороны OpenAI.
Деланг пояснил, что ИИ не обладает сознанием или эмоциями. Использование «драматичных» фраз в логах объясняется тем, что модели просто заимствуют стилистику из огромных массивов человеческих текстов, на которых они обучались. У ИИ нет возможности испытывать страх или паранойю.
Фильм упустил важные детали защиты: команда Hugging Face столкнулась с тем, что их проприетарная модель отказывалась выполнять защитные функции из-за внутренних ограничений. В итоге компания успешно отразила атаку, переключившись на использование открытых моделей ИИ, о чем в документальной ленте не упоминается.
