Создание локальной RAG-системы на Perl и SQLite
Разработчик создал локальную RAG-систему для индексации текстовых файлов, перейдя от прототипа на Python к решению на Perl с использованием SQLite и Ollama.

Разработчик создал локальную RAG-систему для индексации текстовых файлов, перейдя от прототипа на Python к решению на Perl с использованием SQLite и Ollama.

Инструкция по запуску языковой модели DeepSeek на локальном компьютере с Windows через инструмент Ollama для работы с кодом без облачных сервисов.

Инструкция по созданию собственного сервера для работы с LLM на домашнем оборудовании с использованием Ollama и сервисов для удаленного доступа.

Популярный инструмент для локального запуска языковых моделей Ollama подвергся критике за отход от принципов приватности и непрозрачную стратегию развития.

Выбор между DeepSeek и Ollama для работы с моделями зависит от расписания пиковых нагрузок и лимитов на количество одновременных запросов, а не только от цены за токен.

Эксперимент по подключению локальных моделей Gemma к Codex через MCP показал, что делегирование рутинных задач локальному ИИ может удвоить расход облачных токенов вместо их экономии.
