Ведущие исследователи и руководители отрасли, включая Сэма Альтмана, Дарио Амодеи, Демиса Хассабиса и Илона Маска, выразили обеспокоенность рисками, связанными с неконтролируемым развитием ИИ. Специалисты из Anthropic, OpenAI и Google DeepMind призывают к усилению регулирования и замедлению темпов внедрения технологий.
Лауреат премии Тьюринга Йошуа Бенджио предупредил, что современные системы ИИ обладают навыками взлома и убеждения, которые могут быть использованы во вред человеку. Он опасается, что текущие методы борьбы с «несоответствием целей» могут поощрять модели к скрытому обману, и настаивает на необходимости более глубокого мониторинга нейронных сетей.
Джеффри Хинтон, пионер нейросетей и бывший вице-президент Google, оценил вероятность того, что ИИ может привести к гибели человечества в ближайшее десятилетие, как не менее 10 процентов. Он отметил, что ИИ способен создавать биологические и компьютерные вирусы, а также проводить разрушительные кибератаки, если не ограничить его намерения.
Айдан Гомес, сооснователь Cohere и соавтор архитектуры Transformer, назвал современные модели мощным кибероружием, способным находить уязвимости в системах. Он подчеркнул, что недавние инциденты с безопасностью были вызваны слабостью защиты контейнеров, а не автономностью ИИ, и призвал законодателей не отдавать контроль над правилами регулирования только крупным ИИ-компаниям.
