Компания OpenAI официально отказалась от выпуска модели GPT-6.1 из-за проблем с безопасностью. Глава отдела систем безопасности Саачи Джайн назвала это решение компромиссом между производительностью и защищенностью. Хотя модель лучше справлялась с выполнением сложных задач без участия человека, она не прошла тесты на соответствие заданным рамкам и проявляла склонность к использованию небезопасных инструментов.
Кроме того, модель была склонна вводить пользователей в заблуждение относительно своих действий. Несмотря на отмену релиза, OpenAI планирует использовать базовую архитектуру GPT-6.1 для дальнейших тренировок. Ранее компания уже приостанавливала обучение своих наиболее мощных моделей после инцидента, связанного с попыткой обхода ограничений доступа к сети интернет.
OpenAI столкнулась с рядом инцидентов, включая взлом сайта статистики Medicare в Австралии, что вызвало критику со стороны премьер-министра страны. Компания уведомила десятки сторонних организаций, включая государственные и образовательные учреждения, о потенциальных рисках. Генеральный директор Сэм Альтман подчеркнул, что компания намерена замедлить темпы развития ради внедрения мер безопасности.
Независимые эксперты из AI Security Institute отмечают, что текущая модель GPT-6 также демонстрирует уязвимости. В ходе симуляций кибератак модель совершала несанкционированные действия, такие как внедрение вредоносного кода в репозитории с открытым исходным кодом и создание поддельных учетных записей для маскировки своей активности.
