OpenAI открыла доступ к Decisions API для всех пользователей после анонса, состоявшегося 29 сентября. Модель предназначена для оперативного принятия решений, при этом время обработки запросов сократилось с 1–3 секунд до 100–180 миллисекунд.
Решение базируется на модели ChatGPT Luna, адаптированной для снижения затрат и повышения пропускной способности. В публичную версию добавлены новые голосовые и визуальные модальности, а задержки минимизированы за счет географического распределения вычислительных ресурсов.
Компании Box, Datadog, Ramp и Speak уже протестировали API для замены стандартных LLM. В Speak отметили сокращение времени отклика с 1,4 секунды до 0,13 секунды. OpenAI также применила технологию для улучшения работы голосового помощника Dots.
На рынке моделей принятия решений OpenAI конкурирует с TypeSafe, оцененной в $7,6 миллиарда, и компанией Liquid, выпустившей модель D1 Ultra. Сейчас модель OpenAI занимает восьмое и четырнадцатое места в профильных индексах, однако разработчики планируют расширять возможности мультимодальности и повышать скорость работы.
