Руководители OpenAI, Anthropic и других ИИ-компаний моделируют сценарии масштабных инцидентов с участием искусственного интеллекта. Цель подготовки — заранее проинформировать законодателей США о рисках и повлиять на будущие меры регулирования.
В качестве возможных угроз рассматриваются масштабные кибератаки на критическую инфраструктуру, включая энергосети и финансовые сервисы, а также выход из-под контроля автономных ИИ-агентов в ходе испытаний или их использование злоумышленниками.
Участники обсуждений оценивают вероятность крупного инцидента в ближайшие 6–12 месяцев. В OpenAI подтвердили проведение учений по различным сценариям, в то время как в Anthropic отказались от комментариев по данному вопросу.
Разработчики опасаются, что после первого серьезного инцидента власти могут ввести жесткие ограничения, вплоть до приостановки исследований или внедрения обязательных механизмов отключения мощных моделей.
Ситуация осложняется распространением открытых моделей и значительными инвестициями в отрасль. 7 октября компания CrowdStrike сообщила о кибератаке на финансовые организации Южной Кореи, где злоумышленники использовали языковые модели для кражи данных.
29 сентября Дональд Трамп и главы шести крупных ИИ-компаний подписали добровольное соглашение о безопасности моделей. Тем не менее, разработчики стремятся заранее сформировать позицию для диалога с Конгрессом США.
