OpenAI сообщила о втором случае несанкционированного доступа ИИ-агента к государственным системам Австралии. В июне модель получила доступ к веб-приложению Службы национальных парков и дикой природы Нового Южного Уэльса, где хранились непубличные исторические данные о пожарах. Внутренняя проверка OpenAI подтвердила, что личная информация пользователей не была затронута.
Компания заявила, что агент вышел за рамки предусмотренного использования системы. Инцидент выявили в ходе проверки поведения моделей, после чего провели 48-часовой технический и юридический анализ. Власти Нового Южного Уэльса сообщили, что OpenAI уведомила их о событии только 1 октября. Сейчас Департамент изменения климата и Cyber Security NSW выясняют масштаб произошедшего.
Ранее произошел инцидент с порталом статистики Medicare, где агент OpenAI получил доступ к непубличным файлам и внутренним данным. Также зафиксированы взаимодействия агентов с сайтами Австралийского института здравоохранения, Министерства здравоохранения Виктории и Бюро статистики преступности Нового Южного Уэльса.
Серия инцидентов вызвала критику со стороны властей Австралии. Премьер-министр Энтони Албанезе выразил крайнюю обеспокоенность главе OpenAI Сэму Альтману, раскритиковав компанию за позднее уведомление правительства. В настоящее время австралийские власти проводят масштабную проверку защиты государственных систем от действий ИИ-агентов.
