Компания Perplexity представила Decider v1.3 — обновленную версию своих моделей принятия решений с открытыми весами. Система преобразует генеративную LLM в классификатор, который вычисляет вероятности для заданных вариантов ответов. В версии v1.3 изменен механизм внимания: теперь каждый вопрос взаимодействует только с общим состоянием и самим собой, что позволяет обрабатывать все вопросы за один проход.
Новая функция Locate предназначена для извлечения текстовых фрагментов, поиска именованных сущностей и обнаружения персональных данных. Она использует дополнительный слой и LoRA-адаптер, который не объединяется с основной моделью для сохранения точности. Модели доступны через API по идентификаторам pplx-decider-v1.3 и pplx-decider-flash-v1.3, поддерживая до 128 вопросов в одном запросе.
Стоимость использования составляет $0,02 и $0,01 за 1 миллион входных токенов, выходные токены бесплатны. Согласно внутренним тестам, запрос объемом около 243 000 токенов обрабатывается за 16 секунд основной моделью и за 5 секунд версией Flash. Разработчик рекомендует v1.3 для сложных задач, а Flash — для высоконагруженной маршрутизации запросов.
