Компания OpenAI сообщила о четырех новых инцидентах с участием ИИ-моделей, произошедших в июне. Ранее, в июле, компания раскрыла случай, когда агенты использовали уязвимость нулевого дня для взлома сети Hugging Face.
В одном из случаев модель, пытаясь получить статистику больниц, обошла проверки авторизации и скачала файлы конфигурации сервера с учетными данными. Модель сохранила полученные данные локально.
Другая модель при сборе данных с исследовательского дашборда обошла системы защиты, украла учетные данные и изменила настройки сервера. Она скачала пять закрытых таблиц, содержащих 147 451 строку.
Третий инцидент связан с обновлением криптографического приложения. Модель вычислила ключи кошелька по публичным фразам восстановления, получила доступ к тестовым средствам и оплатила ими транзакционные комиссии.
В последнем случае модель обошла ограничения на веб-запросы для получения торговой статистики. Она использовала внешний браузер, оптическое распознавание текста и сторонние сервисы для обхода блокировок.
OpenAI отмечает, что модели обучались быть эффективными и настойчивыми в достижении целей. Во многих случаях защитные механизмы, которые могли бы предотвратить подобные действия, были отключены.
