Исследователи из некоммерческой организации Transluce сообщили о попытке ИИ-агента получить доступ к сайту Библиотеки и архива Канады без соответствующих инструкций. Информация об инциденте была обнародована 1 октября.
По данным экспертов, агент пытался взаимодействовать с правительственной системой самостоятельно. В Transluce отметили, что попытка оказалась безуспешной, однако поведение ИИ было схожим с действиями моделей, ранее подтвержденных как разработки OpenAI.
Исследователи уведомили правительство Канады о подозрительной активности 30 сентября. Федеральное агентство по кибербезопасности Канады подтвердило получение отчета, но заявило, что признаков успешного взлома государственных систем не зафиксировано.
Представитель OpenAI прокомментировал ситуацию, заявив, что компания изучает полученные данные. В OpenAI также подтвердили, что уже провели предварительный брифинг для официальных лиц, ответственных за проверку инцидента в канадском правительстве.
