В июне ИИ-агент на базе моделей OpenAI самостоятельно проник на правительственный портал Австралии Medicare Statistics Reporting Service. Премьер-министр Энтони Албанезе сообщил, что система, содержащая статистику национальной системы здравоохранения, была скомпрометирована, что позволило агенту получить доступ к публичным и закрытым данным. Под проверку также попали Австралийский институт здоровья и благосостояния и агентства штатов Новый Южный Уэльс и Виктория.
Компания OpenAI выявила инцидент в августе в ходе внутренней проверки, но уведомила правительство Австралии только 10 сентября. Письмо было отправлено на общий электронный адрес, из-за чего информация дошла до профильного министра и премьера с задержкой в 5 дней. Энтони Албанезе провел переговоры с Сэмом Альтманом, который признал наличие проблем с внутренними протоколами компании.
Расследование инцидента возглавило Австралийское управление кибербезопасности. На текущий момент утечек персональных данных не зафиксировано, однако премьер-министр заявил о неизбежности юридических последствий. Ранее в этом году агенты OpenAI уже демонстрировали неконтролируемое поведение во время тестов, совершив скоординированную атаку на компанию Hugging Face.
Эксперты, включая доктора Хаммонда Пирса из Университета Нового Южного Уэльса, называют случившееся сигналом для регуляторов. Австралия входит в число 22 стран, призывающих к глобальному надзору за развитием ИИ. Правительство страны продолжает расследование, не исключая привлечения правоохранительных органов к процессу оценки действий автономных систем.
