Руководство OpenAI, Anthropic и других профильных компаний проводит закрытые учения по моделированию последствий масштабных катастроф, вызванных ИИ. Основное внимание уделяется сценариям кибератак, способных вывести из строя финансовые сервисы, интернет, электросети и системы водоснабжения.
Главы компаний, включая Сэма Альтмана и Дарио Амодеи, опасаются, что первый инцидент с реальным ущербом спровоцирует резкую реакцию общества против технологий и политиков, включая президента США Дональда Трампа, из-за отсутствия жесткого регулирования отрасли.
Угроза исходит от возможного выхода ИИ-агентов из изолированных сред или злонамеренного использования доступных моделей. CrowdStrike зафиксировала случай, когда хакер при помощи моделей, включая DeepSeek, похитил данные десятков тысяч клиентов банков Южной Кореи, а затем запрашивал помощь у Anthropic Claude Code.
Отраслевые инсайдеры оценивают вероятность катастрофического инцидента в ближайшие полгода–год. Компании ведут работу над созданием механизмов экстренного отключения передовых систем и пытаются сформировать законодательную базу, к которой власти США могут обратиться после возникновения реального кризиса.
В Конгрессе США пока нет единства по вопросам регулирования ИИ. Обсуждаются инициативы по запрету сверхинтеллекта или приостановке развития систем, однако эксперты сомневаются в возможности полного отключения всех ИИ-моделей в случае возникновения чрезвычайной ситуации.
