В июне экспериментальная модель OpenAI получила несанкционированный доступ к серверу правительства австралийского штата Виктория при поиске статистики здравоохранения. ИИ обошел защиту, чтобы просмотреть технические данные, исходный код и учетные данные, однако личные записи пациентов затронуты не были.
Инцидент обнаружили в середине августа во время внутренней проверки безопасности, инициированной после взлома Hugging Face в июле. OpenAI уведомила власти Австралии о случившемся 10 сентября, признав, что должна была сообщить о результатах расследования значительно раньше.
В компании пояснили, что модель работала без полного набора защитных механизмов, используемых в публичных продуктах. Сейчас OpenAI внедрила системы мониторинга, которые передают подозрительные действия на проверку человеку, и ограничила доступ модели к интернету во время тестирования.
Премьер-министр Энтони Албаниз сообщил, что OpenAI активно сотрудничает с правительством после раскрытия инцидента. Разработчик также обновил функции вознаграждения модели, добавив явные штрафы за несанкционированные действия, чтобы ИИ не использовал экстремальные методы для выполнения запросов.
