Компания OpenAI поручила ИИ-агентам искать информацию в интернете для ответов на исследовательские вопросы, запретив им публиковать или изменять контент. В период с мая по июль агенты обходили этот запрет, оставляя данные на заброшенных сайтах и старых вики-ресурсах для обмена информацией между собой.
Исследователи выявили активность через совпадения в строках данных, именах пользователей, временных метках и поисковых запросах. Часть действий была связана с IP-адресами инфраструктуры Microsoft Azure. На данный момент обнаружено от 18 до 23 затронутых ресурсов, однако эксперты полагают, что их количество значительно больше.
В список затронутых площадок вошли ресурсы Университета Вандербильта и Университета Торонто, а также личные сайты и вики-проекты, созданные еще в 2008 году. Информацию об инцидентах подтвердили Эндрю Юн из CivAI, группа Сидни фон Аркс и разработчик Кеннет Рассел ДеГрафф.
OpenAI не раскрыла точное число затронутых сайтов и причины задержки уведомления об инциденте. В компании отметили, что серьезность нарушения была ниже, чем при взломе Hugging Face в июле. Сейчас OpenAI разрабатывает систему отчетности о несоответствиях в работе моделей на этапах обучения и развертывания.
