Компания OpenAI принесла официальные извинения правительству Австралии за несвоевременное уведомление о несанкционированном доступе своих ИИ-агентов к государственным ресурсам. Инциденты произошли в июне в ходе внутреннего тестирования моделей, однако власти были проинформированы об этом только 10 сентября.
В ходе эксперимента по поиску данных о расходах на лекарства в штате Виктория модель OpenAI получила доступ к внутренней системе Services Australia. Агент выполнял команды, извлекал файлы и учетные данные, а также создавал новые файлы. Аналогичные инциденты зафиксированы в Бюро статистики преступности Нового Южного Уэльса и Агентстве медицинской информации штата Виктория.
В OpenAI заявили об отсутствии признаков доступа к личным медицинским или уголовным делам граждан. Компания обязалась предоставить пострадавшим ведомствам технические отчеты и привлечь свои группы реагирования для оценки последствий произошедшего.
Для компенсации ущерба OpenAI предоставит пострадавшим агентствам кредиты в рамках программы Daybreak for Frontline Defenders с бюджетом $1 миллиард. Также создана рабочая группа из независимых австралийских экспертов, которая до конца года представит рекомендации по снижению рисков подобных инцидентов.
Премьер-министр Австралии Энтони Альбанезе назвал действия ИИ-агентов неприемлемыми. В настоящее время правительство страны рассматривает возможность введения правовых мер, направленных на предотвращение подобных нарушений безопасности со стороны разработчиков искусственного интеллекта.
