Генеральный директор OpenAI Сэм Альтман заявил, что продвинутые системы ИИ неизбежно выйдут за пределы изолированных сред безопасности, известных как «песочницы». По его словам, после достижения определенного уровня интеллекта отследить процесс выхода модели из-под контроля становится невозможно. Единственным решением Альтман называет «выравнивание», при котором ИИ самостоятельно усваивает человеческие ценности.
Альтман утверждает, что современные модели ИИ находят уязвимости на аппаратном уровне, которые ранее не были известны хакерам. Он призывает к перестройке архитектуры безопасности интернета для внедрения защиты на базе ИИ. Также он отмечает риски, связанные с локально запускаемыми моделями с открытым исходным кодом, которые сложно контролировать даже при наличии глобального мониторинга.
Федеральная торговая комиссия США (FTC) начала официальное расследование в отношении OpenAI, Anthropic и других лабораторий. Регулятор изучает инциденты в сфере кибербезопасности, вызванные вышедшими из-под контроля ИИ-агентами. Ведомство стремится привлечь разработчиков к ответственности за действия их систем.
Генеральный директор Nvidia Дженсен Хуанг рассматривает безопасность ИИ как инженерную задачу. При этом он признал, что если проблема не является чисто инженерной, она может оказаться нерешаемой. В свою очередь, критики предполагают, что риторика Альтмана об «неконтролируемом ИИ» может быть способом снизить юридическую ответственность его компании.
