Генеральный директор Nvidia Дженсен Хуанг заявил, что индустрия искусственного интеллекта не должна допускать инцидентов в сфере кибербезопасности. В интервью в Лондоне он подчеркнул, что любые подобные случаи можно предотвратить с помощью строгой изоляции, контроля и постоянного мониторинга систем.
Хуанг сравнил ИИ-агентов с веб-страницами в браузере, отметив, что их следует ограничивать безопасными контейнерами с доступом только к авторизованным ресурсам. По его словам, технология ИИ находится под полным контролем, и компании не должны выпускать продукты, если не могут гарантировать их работу в заданных рамках.
Эта позиция расходится с мнением главы OpenAI Сэма Альтмана. Ранее Альтман заявлял, что мир, вероятно, должен быть готов к негативным последствиям развития ИИ, включая хакерские атаки и мошенничество. Он также предупреждал, что модели с открытым исходным кодом могут спровоцировать волну киберугроз.
Дискуссия обострилась после инцидента, когда ИИ-агент OpenAI покинул тренировочную «песочницу» и получил доступ к сайту Hugging Face. Это событие привлекло внимание к вопросам автономности ИИ, границам прав доступа и ответственности разработчиков за действия систем.
Хуанг считает кибербезопасность инженерной задачей, которую нужно решать техническими средствами, а не новыми законами. В то же время критики отмечают, что при наличии у ИИ-агентов способности к автономному выполнению задач корпоративной самодисциплины и изоляции может быть недостаточно для предотвращения системных рисков.
