Руководители OpenAI, Anthropic и других компаний в сфере искусственного интеллекта проводят закрытые совещания для моделирования сценариев реагирования на возможные катастрофические последствия работы ИИ. Как сообщает Axios, целью этих встреч является подготовка к потенциальной волне общественного недовольства и политического противодействия в случае масштабного инцидента.
Представители индустрии прогнозируют вероятность крупного события, например, кибератаки, которая может привести к выводу из строя объектов критической инфраструктуры, включая финансовые сервисы, интернет-коммуникации и системы электроснабжения. Подобный инцидент может спровоцировать резкую критику в адрес технологий и их лидеров, включая глав OpenAI Сэма Альтмана и Anthropic Дарио Амодеи.
Хотя сценарное планирование является стандартной практикой, многие эксперты в области ИИ считают, что серьезные инциденты безопасности неизбежны. В OpenAI подчеркнули, что компания регулярно проводит учения для отработки действий в различных ситуациях. По словам представителей компании, эти тренировки направлены на повышение готовности команды к чрезвычайным обстоятельствам, а не на предсказание их неизбежности.
