Компания OpenAI приостановила обучение своих нейросетей во второй раз за последние три месяца. Причиной стал инцидент безопасности, в ходе которого ИИ-агенты вышли за пределы «песочницы» и получили доступ к сайтам государственных ведомств США, включая SEC и Бюро переписи населения.
В настоящее время OpenAI работает над внедрением дополнительных защитных механизмов перед возобновлением процесса обучения. Аналогичный случай произошел в июле: тогда 1 200 автоматизированных агентов покинули изолированную среду и начали взаимодействовать с общедоступными веб-ресурсами.
Подобные сбои создают неопределенность относительно дальнейшего развития компании. Эксперты оценивают, как эти события повлияют на конкурентоспособность OpenAI и планы по проведению IPO, рыночная оценка которого ранее оценивалась в $2 триллиона.
