Компания Perplexity представила Photon — поисковый движок на языке Rust, который снижает задержку p99 с 800 мс до 65 мс. Инструмент доступен в виде хостинг-API. Чтобы воспользоваться им, разработчикам необходимо указать параметр search_type со значением fast в POST-запросе к API.
Стоимость использования Photon составляет $1 за 1000 запросов. Движок не является проектом с открытым исходным кодом, поэтому его нельзя развернуть на собственных серверах. Архитектура системы включает балансировщик нагрузки, который распределяет запросы между шардами для выполнения поиска и ранжирования.
В ходе внутренних тестов на 3554 задачах режим Fast показал результат 64,3% при стоимости $59,73. Стандартный режим продемонстрировал показатель 64,0% при цене $187,60, что делает новый вариант примерно на 68% дешевле. Разработчики подчеркивают, что это решение оптимизировано для агентских рабочих процессов.
Использование нового режима влияет на качество поиска: показатель релевантности DCG снизился с 2,45 до 2,21, а доступность ответов упала на 2,9 процентного пункта. Perplexity рекомендует применять Fast для повседневных задач, а стандартный режим — для обработки сложных и неоднозначных запросов.
