Для запуска локального ИИ-помощника на Windows можно использовать инструмент Ollama. Процесс не требует регистрации, API-ключей, использования Docker или навыков работы в Linux. Настройка занимает около 15 минут без учета времени на загрузку модели.
Для установки необходимо скачать Ollama с официального сайта и выполнить команду 'ollama run deepseek-r1:8b' в командной строке. Размер загружаемого файла модели составляет 5,2 ГБ. Для менее мощных компьютеров доступна облегченная версия deepseek-r1:1.5b.
Автор протестировал работу модели на ноутбуке с 16 ГБ оперативной памяти и видеокартой на 8 ГБ. Инструмент позволяет анализировать код на Python и SQL-запросы без передачи данных во внешний контур, что важно для работы с конфиденциальной информацией.
Локальные модели зависят от производительности оборудования и могут выдавать некорректные ответы, поэтому требуют проверки результатов. Они не являются полноценной заменой облачным сервисам, но подходят для простых задач в закрытом контуре.
