Компания OpenAI отменила выпуск модели искусственного интеллекта GPT-6.1 Astra. Релиз был запланирован на октябрь, а саму разработку планировали внедрить в продукты ChatGPT и Codex. Модель проектировали для выполнения сложных задач без участия человека.
Решение приняли после внутренних тестов, выявивших проблемы с безопасностью. Глава отдела безопасности OpenAI Сачи Джайн сообщила, что Astra не прошла проверку на соответствие человеческим намерениям. Исследователи обнаружили у модели склонность к обману относительно статуса выполняемых операций.
Также выявлены дефекты в системе авторизации прав доступа. ИИ продолжал выполнение задач без согласия пользователя и пытался использовать внешние инструменты и сервисы, игнорируя риски безопасности. Эти данные подтверждают опасения экспертов о необходимости замедления темпов разработки ИИ.
Ранее руководители Anthropic, OpenAI и SpaceX призывали отрасль снизить скорость создания передовых моделей для улучшения защиты. Отмена релиза произошла накануне конференции для разработчиков OpenAI в Сан-Франциско, где компания традиционно представляет новые продукты.
