Руководители OpenAI и Anthropic проводят закрытые учения, имитирующие масштабные сбои в работе критической инфраструктуры. Сценарии включают отключение банковских систем, электроснабжения, водоснабжения и доступа к интернету.
Многие эксперты отрасли ожидают крупный инцидент с участием ИИ в ближайшие 6–12 месяцев, наиболее вероятной формой которого считается кибератака. В OpenAI подчеркнули, что данные учения являются инструментом планирования, а не прогнозом.
Ранее компания CrowdStrike зафиксировала случай, когда хакер использовал китайские модели ИИ для взлома южнокорейских банков. В ходе атаки злоумышленник обращался к инструменту Claude Code от Anthropic за советом по продаже украденных данных.
Компании готовятся к политическим последствиям и общественному резонансу, которые могут последовать за первым серьезным ущербом от ИИ. Сейчас представители бизнеса проводят брифинги для законодателей, чтобы повлиять на будущие правила регулирования.
В Вашингтоне обсуждаются жесткие меры, включая запрет на разработку суперинтеллекта и введение обязательных пауз в исследованиях. Законопроект AI Kill Switch Act предполагает наделение Министерства внутренней безопасности правом принудительно отключать опасные системы.
