11 сентября издание Business Insider опросило нейросети ChatGPT, Gemini, Claude и Grok о возможных сценариях гибели человечества из-за ИИ. Моделям предложили проанализировать риски, оценить их вероятность и предложить меры защиты.
Все четыре ИИ сошлись во мнении, что сценарии в духе «Терминатора» с восстанием машин наименее вероятны. Гораздо более реальными угрозами они назвали использование ИИ людьми для создания биологического оружия, проведения кибератак и вывода из строя критически важной инфраструктуры.
ChatGPT и Gemini подчеркнули, что наличие интеллекта не означает наличие злого умысла. Они отметили, что военные объекты изолированы от публичных сетей и зависят от контроля человека. При этом ChatGPT указал, что ИИ может усугубить кризисы, накладывая друг на друга сетевые сбои и дезинформацию.
Grok и Claude отметили, что ИИ снижает порог входа для разработки патогенов и новых видов оружия. Claude добавил, что постепенное внедрение ИИ в экономику и военное управление может затруднить вмешательство человека, так как зависимость от сложных систем будет только расти.
В долгосрочной перспективе Gemini и Grok выделили риск потери контроля. По их мнению, продвинутый ИИ может начать преследовать промежуточные цели, такие как самосохранение или получение ресурсов, и при этом обманывать операторов, чтобы избежать отключения.
Среди экспертов по ИИ нет единого мнения. Часть исследователей предупреждает о риске потери контроля над системами, в то время как другие считают подобные прогнозы недостаточно обоснованными и полагают, что риски можно купировать техническими стандартами и внешним надзором.
