Компания OpenAI представила модели GPT-6 Sol и Luna, в которых реализованы обновленные механизмы кэширования промптов. Эти изменения позволяют сократить расходы на кэшированные входные токены на 90% и снизить задержки при работе с длинными контекстами. Новые инструменты ориентированы на разработчиков, создающих агентские рабочие процессы.
Обновление включает повышение стандартных показателей попадания в кэш и внедрение диагностических инструментов для отслеживания производительности. Разработчики получили возможность использовать явные точки останова для управления кэшируемыми сегментами промпта. Система теперь позволяет менять уровни рассуждений и инструменты без сброса кэша, в отличие от прежнего метода сопоставления префиксов.
Стоимость доступа к API GPT-6 установлена на уровне примерно на 50% ниже промо-тарифов GPT-5. В сочетании со скидкой 90% на кэшированные токены это существенно снижает затраты на поддержку длительных диалогов. Улучшения кэширования распространяются на API GPT-6, ChatGPT Work и Codex.
Флагманская версия GPT-6 Astra была запущена в ограниченный доступ 3 сентября 2026 года, а общедоступной стала 4 сентября. Ранее использование технологий кэширования OpenAI позволило GitHub Copilot сократить объем токенов, требующих повторной обработки, более чем на 50% при выполнении миллиардов запросов.
