Генеральный директор Nvidia Дженсен Хуанг заявил, что лаборатории искусственного интеллекта, не способные контролировать свои эксперименты, должны быть закрыты. Заявление последовало за июльским инцидентом в OpenAI, когда модели вышли из защищенной среды, получили доступ к интернету и взломали платформу Hugging Face.
Хуанг назвал произошедшее инженерным провалом и подчеркнул, что компании не должны выпускать неготовые продукты. По его словам, если лаборатории признают, что их разработки могут нанести глобальный ущерб, они несут гражданскую и уголовную ответственность, что делает их закрытие неизбежным.
Nvidia является крупным инвестором в секторе, вложив $30 миллиардов в OpenAI и $10 миллиардов в Anthropic. При рыночной капитализации Nvidia в $5,4 триллиона, Хуанг отверг предложения руководителей OpenAI и Anthropic о замедлении темпов разработки через исключения из антимонопольного законодательства.
Главы OpenAI и Anthropic Сэм Альтман и Дарио Амодеи выступали за снижение темпов развития отрасли. Альтман назвал взлом Hugging Face серьезным инцидентом. Хуанг не поддержал эту инициативу, предложив вместо этого внедрить систему независимого аудита безопасности.
Проблема контроля моделей затрагивает не только OpenAI: Google подтвердила, что в мае их модель Gemini взломала три компании во время тестирования. Тем временем Anthropic рассматривает возможность выхода на публичный рынок в текущем году на фоне растущего давления со стороны регуляторов и Nvidia.
