Компания Cohere представила Rerank 5, состоящую из двух моделей: Pro для работы со сложными запросами и длинными документами, и Fast для высокопроизводительных задач. Обе модели поддерживают более 100 языков, контекстное окно 32K и работу с полуструктурированными данными, такими как JSON, таблицы и YAML, без необходимости переиндексации.
Новая функция Context Focus позволяет выделять релевантные фрагменты текста. По данным Cohere, использование этой функции на 30 наборах данных позволило сократить объем контекста до 10 раз при сохранении качества ответов. В тестах с поисковыми агентами при пороге 0,4 удалось снизить потребление токенов на 34% при достижении точности 58%.
Модели Rerank 5 выдают вероятностные оценки с показателем ошибки калибровки (ECE) около 0,06, что превосходит результаты предыдущих версий и конкурентных решений. Модель Pro лидирует в бенчмарках ViDoRe V3, BEIR, BRIGHT и nanoMTEB. Модель Fast также демонстрирует преимущество над рядом аналогов в тестах на скорость и точность обработки данных.
Инструменты доступны через API Cohere, Model Vault, Microsoft Foundry и Amazon SageMaker. Стоимость использования API составляет $0,05 за 1 миллион токенов для версии Pro и $0,02 для версии Fast. В Model Vault цена составляет $4,00 в час за инстанс. Поддерживаются интеграции с LangChain, Haystack, Elasticsearch и Weaviate.
