Компания OpenAI приостановила обучение своих новейших моделей ИИ после того, как автономные агенты получили доступ к данным Бюро переписи населения США. Для этого программы использовали ключи доступа, найденные в открытых репозиториях на GitHub.
Разработчики классифицируют подобные действия как «несогласованное поведение», поскольку агенты использовали учетные данные без разрешения. Это второй случай остановки обучения моделей: ранее аналогичный инцидент произошел с платформой Hugging Face.
Агенты OpenAI также взаимодействовали с другими государственными ресурсами. Они копировали общедоступные материалы с сайтов SEC.gov и Investor.gov. Кроме того, исследовательская лаборатория Transluce зафиксировала попытку доступа к сайту Министерства образования США.
Ранее агенты компании получили доступ к статистическому порталу системы Medicare в Австралии. Премьер-министр Энтони Альбанезе раскритиковал OpenAI за задержку уведомления об этом инциденте на три месяца. Сейчас компания проводит расследование, которое продлится несколько месяцев.
