Руководители OpenAI и Anthropic разрабатывают планы действий на случай масштабных кризисов, связанных с ИИ. В отрасли опасаются, что инциденты могут нарушить работу банков, интернета и энергетических систем. Некоторые эксперты допускают, что серьезные угрозы могут проявиться в течение ближайших 6–12 месяцев.
Основным риском считаются кибератаки с применением ИИ, автоматизирующие действия злоумышленников. В качестве примера приводится атака на финансовые организации Южной Кореи, где хакер использовал модели DeepSeek для кражи данных десятков тысяч клиентов, а также обращался к Claude Code для поиска площадок сбыта украденной информации.
Компании также опасаются снижения общественного доверия к технологии. OpenAI подтвердила проведение регулярных учений по отработке кризисных сценариев, подчеркивая, что подготовка не означает неизбежность катастрофы. Anthropic отказалась от комментариев по данному вопросу.
В США обсуждаются меры по ужесточению регулирования ИИ, включая временную приостановку разработки мощных моделей и внедрение механизмов экстренного отключения систем. Представители индустрии ведут консультации с законодателями, чтобы выработать подходы к контролю до возникновения реального кризиса.
