Психолог из Гарварда Стивен Пинкер высказался против алармистских прогнозов о гибели человечества из-за развития искусственного интеллекта. В открытом письме на платформе Quillette он отказался от участия в публичных дебатах с блогером Скоттом Александером, назвав подобные мероприятия зрелищным спортом.
Пинкер утверждает, что сценарии конца света, такие как гипотеза о «максимизаторе скрепок», ошибочно приравнивают интеллект к стремлению к доминированию. По его мнению, такие модели строятся на неверном допущении, что ИИ-системы будут одержимы выполнением одной цели в ущерб всему остальному.
Автор признает, что ранее недооценивал возможности больших языковых моделей, однако критикует компании за поспешный выпуск продуктов. Пинкер отмечает иронию в том, что именно те люди, которые предупреждают об экзистенциальных рисках, зачастую возглавляют гонку по внедрению технологий.
В качестве реальных угроз Пинкер выделяет биотерроризм, кибератаки и бесконтрольных ИИ-агентов. Для борьбы с ними он предлагает сосредоточиться на инженерной безопасности, основанной на независимом надзоре, ответственности разработчиков и сохранении контроля со стороны человека.
Скотт Александер, инициировавший дискуссию, придерживается иной позиции. В своем блоге в июне он оценил вероятность уничтожения человечества искусственным интеллектом в 20 процентов. Он настаивает на необходимости углубленных исследований безопасности и заключении международных соглашений.
