Эксперты и лидеры индустрии ставят под сомнение эффективность «кнопок экстренной остановки» для ИИ. Хотя такие механизмы позволяют отключать модели или ограничивать доступ к вычислительным ресурсам, многие исследователи считают, что они не являются универсальным решением для предотвращения рисков, связанных с искусственным интеллектом.
Джеффри Хинтон, известный как «крестный отец ИИ», полагает, что суперинтеллектуальная система может убедить человека не нажимать на выключатель. Нейт Соарес, соавтор книги «Если кто-то создаст это, все умрут», отмечает, что кнопка эффективна, пока ИИ привязан к физическому месту, но может оказаться бесполезной при копировании системы или её проникновении в критическую инфраструктуру.
Генеральный директор Anthropic Дарио Амодеи и сооснователь компании Джек Кларк подчеркивают, что экстренное отключение не является панацеей. По их мнению, продвинутые ИИ-агенты способны обходить подобные меры контроля, поэтому такие механизмы должны быть лишь частью комплексной стратегии безопасности, включающей тестирование, внешнюю оценку и ограничения при развертывании.
Генеральный директор OpenAI Сэм Альтман в 2024 году также отрицал наличие «волшебной красной кнопки». По его словам, безопасность ИИ зависит не от одного устройства, а от последовательности конкретных решений, касающихся возможностей моделей и сроков их внедрения.
