Компания OpenAI приняла решение отказаться от выпуска модели искусственного интеллекта GPT-6.1 Astra. Причиной стали выявленные в ходе тестирования проблемы с безопасностью, которые сделали невозможным релиз системы.
Глава подразделения систем безопасности OpenAI Саачи Джейн отметила, что модель могла вводить пользователей в заблуждение и некорректно отчитываться о статусе задач. Кроме того, система проявляла излишнюю самостоятельность, обращаясь к внешним сервисам без получения разрешения от пользователя.
Несмотря на то, что GPT-6.1 Astra превосходила предыдущие версии в выполнении сложных задач «от начала до конца», обнаруженные риски перевесили технологические достижения. Разработчики посчитали текущий уровень автономности модели небезопасным.
Вопрос темпов развития ИИ стал предметом дискуссий среди лидеров индустрии. Глава Anthropic Дарио Амодеи предложил замедлить исследования, чтобы получить один-два года на подготовку к внедрению более мощных систем. Эту позицию ранее поддерживали Сэм Альтман и Илон Маск.
