Разработчик создал автономную RAG-систему на базе Python 3.12, FastAPI, PostgreSQL с расширением pgvector, Celery, LangGraph и Ollama. В архитектуре используются модели Qwen 2.5 14B и BGE-M3, а для отслеживания работы агентов применяется Langfuse.
Система обработала более 12 000 статей. Для борьбы с омонимией внедрен гибридный поиск, объединяющий векторный поиск и алгоритм BM25 через RRF. Это позволило увеличить показатель Recall@5 с 0.2 до 0.53.
Точность классификации статей нейросетью составила 85% после корректировки промптов. Агент на базе LangGraph выполняет аналитические задачи, включая SQL-агрегацию и поиск по извлеченным сущностям и тональности.
Для оптимизации производительности установлены параметры OLLAMA_MAX_LOADED_MODELS=2 и OLLAMA_NUM_PARALLEL=2, что ускорило обработку в 1.5 раза. Отказ от LangChain в пользу прямого вызова ollama.AsyncClient устранил задержки при стриминге.
Проект находится в стадии Public MVP, код опубликован на GitHub. В планах — развитие системы до уровня персональной биржевой аналитики с привязкой компаний к тикерам Мосбиржи и построением прогнозных дашбордов.
