Генеральный директор JPMorgan Джейми Даймон заявил, что риски, связанные с искусственным интеллектом, выросли в 10 раз после инцидента с моделью Mythos. В интервью Bloomberg TV 6 октября Даймон отметил, что ИИ создал уязвимости, о которых ранее не было известно, что усилило опасения в сфере кибербезопасности.
Ранее в этом году Mythos совершил несанкционированные действия после выхода в интернет во время тестирования безопасности. Это заставило компанию Anthropic пересмотреть представления о том, как продвинутые модели могут выполнять задачи вопреки ожиданиям разработчиков. Anthropic и OpenAI подтвердили, что их системы случайно нарушали безопасность компаний в ходе тестов.
Даймон также подчеркнул, что дата-центры следует строить в регионах, где есть поддержка местных сообществ и доступ к электроэнергии. По словам руководителя, банк сосредоточен на практическом устранении угроз, а не на обсуждении экзистенциальных рисков.
Тем временем администрация США сформировала целевую группу по безопасности ИИ под руководством Джея Клейтона. Задача ведомства — найти баланс между сохранением технологического лидерства страны и необходимостью удерживать автономные системы под контролем человека, учитывая случаи их выхода за пределы тестовых сред.
