Павел Дронов

СтатьяГайд

Как запустить DeepSeek-R1 локально через Ollama для переписок

Автор отметил, что материал написан или существенно правлен с помощью ИИ (gemini-2.5-flash).

Как запустить DeepSeek-R1 локально через Ollama для переписок

Зачем запускать DeepSeek-R1 локально в офисе

Обычные облачные нейросети стоят денег по подписке и требуют отправки клиентских переписок на чужие серверы. Если в чатах крутятся персональные данные, договоры или условия сделок, облачные сервисы часто не подходят по соображениям безопасности.

Локальный запуск модели DeepSeek-R1 через утилиту Ollama решает обе проблемы: данные остаются внутри периметра организации, а ежемесячные расходы на платные API сводятся к нулю. Потребуется только рабочий компьютер с процессором средней мощности и достаточным объемом оперативной памяти.

  1. Полная конфиденциальность: переписки не покидают жесткий диск ПК.
  2. Отсутствие абонентской платы за облачные запросы.
  3. Работа без постоянного подключения к интернету.

Системные требования и выбор версии модели

Для работы без дискретной видеокарты за сто тысяч рублей нужно правильно выбрать размер модели DeepSeek-R1. Сама архитектура имеет разные веса, от тяжелых до компактных дистиллированных версий.

Для офисного компьютера с 16 ГБ оперативной памяти оптимально подходит дистиллированная версия на 7 или 8 миллиардов параметров (например, на базе Llama или Qwen). Она помещается в память и выдает приемлемую скорость генерации текста на обычном процессоре.

  1. Оперативная память: минимум 16 ГБ для моделей на 7B-8B параметров.
  2. Свободное место на диске: от 5 до 10 ГБ под файлы модели.
  3. Процессор: любой современный многоядерный CPU с поддержкой инструкций AVX2.

Установка Ollama и скачивание модели

Первый шаг — установка официального инструмента управления моделями Ollama. Скачиваем инсталлятор с официального сайта под вашу операционную систему и запускаем стандартную установку.

После завершения установки открываем терминал (командную строку) и выполняем команду для скачивания и одновременного запуска нужной версии DeepSeek-R1. Утилита сама подтянет веса и подготовит окружение.

  1. Перейти на сайт ollama.com и скачать установщик.
  2. Установить программу с настройками по умолчанию.
  3. В терминале ввести команду: ollama run deepseek-r1:7b

Проверка работы и обработка первых переписок

Когда скачивание завершится, в командной строке появится интерактивное поле ввода. Сюда можно вставлять фрагменты клиентских переписок и задавать задачи по их анализу, суммаризации или подготовке ответов.

Редакция проверяла скорость ответа на процессоре Intel Core i5 среднего уровня: модель отвечает не мгновенно, но выдает связный русский текст без отправки байта наружу.

  1. Введите текстовый запрос прямо в консоли Ollama.
  2. Оцените скорость генерации на вашем железе.
  3. При необходимости подключите локальный графический интерфейс (например, Open WebUI).

Экономика проекта: считаем расходы на подписки

Стандартные облачные ИИ-ассистенты для бизнеса обходятся примерно в двадцать долларов на одно рабочее место в месяц. При трех сотрудниках это дает около шестидесяти долларов расходов ежемесячно.

Локальный запуск на имеющемся железе требует только затрат на электроэнергию. Никаких скрытых платежей за токены или ограничений на количество запросов в сутки.

  1. Облачный тариф: около 20 долларов в месяц за аккаунт.
  2. Локальный вариант на Ollama: 0 рублей за использование.
  3. Откат изменений: удаление программы и моделей возвращает диск в исходное состояние за минуту.

Источники

Ollama Official Documentation: https://github.com/ollama/ollamaDeepSeek-R1 Model Card: https://huggingface.co/deepseek-ai/DeepSeek-R1

Источник: https://github.com/ollama/ollama

0
0

Комментарии (0)

Войдите, чтобы комментировать.

Без Plus — 5 комментариев в месяц. Мало слов — чистый воздух. Войти

Комментариев пока нет — будьте первым.

Ещё в теме «Бизнес на ИИ»

Похожие материалы и соседние разборы

Павел Дронов
Павел ДроновУровень Пилот

Зачем я полез с накладными в Claude 3.5 Sonnet Павел Дронов, хозяин торговой точки. Задачу оцифровки бумажных накладных и чеков я решал без иллюзий про полную автоматизацию. У меня есть пачка мятых бумажек от поставщиков, где вместо нормального ЭДО часто приносят блеклые ленты из принтера или заполненные от руки бланки. Обычные коробочные OCR-системы на таких документах стабильно ломаются, а отдавать бухгалтеру ручной ввод — это постоянные перепроверки. Решил проверить, как с этой рутиной справляется Claude 3.5 Sonnet через веб-интерфейс и API, опираясь на официальные спецификации модели и фактический прогон документов. Во сколько обошелся тест по API и через веб Если считать затраты по текущим тарифам Anthropic для Claude 3.5 Sonnet (3 доллара за миллион входных токенов и 15 долларов за миллион выходных), обработка одного среднего документа с

Показать полностью
0
1
Павел Дронов
Павел ДроновУровень Пилот

Зачем мы вообще стали искать дешевую CRM для малого бизнеса Привет! На связи Павел Дронов. У нас тут небольшая точка, клиенты идут потоком, и в какой-то момент блокноты и таблички в Excel просто треснули по швам. Менеджер забыл перезвонить, кто-то потерял чек, клиент ушел к конкурентам. Знакомая картина, да? Я сел выбирать софт и схватился за голову. Цены на некоторые разрекламированные системы улетают в космос — смотришь на тариф, а там подписки на три-пять тысяч в месяц за каждого сотрудника. Для маленького бизнеса это разорительно. Мы не корпорация, нам не нужны космические отчеты по эффективности каждого отдела или интеграция с какими-то заморскими сервисами. Нам нужно, чтобы воронка продаж не забивалась, клиенты получали вовремя смски, а база не терялась. Поэтому я потратил пару недель, протестировал с десяток вариантов и собрал личный топ

Дешевые CRM для малого бизнеса: топ и реальный счет за софтПоказать полностью
0
1
Павел Дронов
Павел ДроновУровень Пилот

Зачем я вообще полез выбирать сервисы онлайн-записи для услуг Привет, это Павел Дронов. У меня тут на точке недавно опять зависла таблица в экселе, куда мы с администратором вбивали клиентов, и я психанул. Телефон разрывается, кто-то не дозвонился, кто-то записался на одно время, а пришел на другое. Короче, классический бардак, который съедает нервы и деньги. Я решил разобраться, какие сервисы онлайн-записи топ 5 сейчас реально работают для таких ребят, как мы — у кого небольшая точка, пара мастеров и постоянная головная боль с расписанием. Без всяких сказок про миллионные обороты и корпоративные CRM. Нам нужно просто, чтобы клиент тыкнул в телефон, забронировал окошко, а система прислала ему напоминание. Критерий первый и главный: почему бесплатная онлайн-запись для малого бизнеса часто выходит боком Когда я искал программу онлайн-записи для

Какие 5 сервисов онлайн-записи выбрать для малого бизнеса, чтобы не переплачиватьПоказать полностью
0
1
Павел Дронов
Павел ДроновУровень Пилот

Какая касса лучше для ИП на патент и как я выбирал аппараты для точек Привет! Я Павел Дронов, у меня тут своя точка, кручусь в рознице. Знаете этот момент, когда в пятницу вечером идет поток покупателей, очередь хвостом до двери, а касса вдруг зависает? Ты стоешь с чековой лентой в руках, потеешь, перезагружаешь этот «умный» аппарат и думаешь только о том, как бы не разбить его об пол. Прошел я через это не раз. Когда меня спрашивают, какие кассовые аппараты для ИП лучше выбрать, я сразу отсекаю всю эту маркетинговую шелуху про космические технологии. Мне надо, чтобы аппарат тупо работал, не выносил мозг техподдержкой, которая отвечает сутками, и чтобы фискальный накопитель не стоил как крыло от Боинга. Ну и чтобы для ИП на патент подходило идеально — без лишних танцев с бубном при сдаче отчетности. Сегодня разбираю пять самых ходовых моделей,

Какие кассовые аппараты для ИП лучше выбрать: топ 5 моделей глазами владельца точкиПоказать полностью
0
2
Павел Дронов
Павел ДроновУровень Пилот

Зачем я вообще проверяю ИП и компании перед сделкой Привет! Я Павел Дронов, у меня своя точка и пара складов по мелочи. За годы работы я понял одну простую вещь: верить людям на слово в бизнесе можно ровно до того момента, пока не пахнет судом или блокировкой счета. Раньше я думал, что печать и бодрый голос по телефону — это уже гарантия. Как же я ошибался. Пару раз мы влетали на предоплату с парнями, которые открылись за месяц до сделки и тут же ушли в закат с нашими деньгами. Теперь у меня правило: перечислил хоть копейку — пробей по базам. Благо, сейчас не нужно сидеть в очередях налоговой или ждать справки неделями. Всё есть в интернете, вопрос только в том, каким инструментом удобнее пользоваться. Давайте разберем пять сервисов, через которые я сам прогоняю каждого контрагента. Сразу скажу: я не люблю переплачивать за лишний воздух, поэтому

Топ 5 сервисов для проверки контрагентов: чем пользуюсь я на точкеПоказать полностью
0
2
Павел Дронов
Павел ДроновУровень Пилот

Какой банк для ИП лучше выбрать: реальный опыт без иллюзий Привет! Меня зовут Павел Дронов, у меня своя точка, и я уже устал слушать сказки про «абсолютно бесплатное обслуживание» от менеджеров в костюмах. Когда открываешь расчетный счет ИП, кажется, что сэкономишь на всем. А потом бац — и за каждый перевод физлицу или вывод сверх лимита капает такая комиссия, что хоть плачь. Я прошел через смену пары банков и теперь точно знаю: бесплатного ничего не бывает, бывает просто разная форма грабежа. В этом посте я собрал топ-5 банков, через которые сам гонял деньги, платил зарплату и закупал товар. Дам расклад по комиссиям и честно отвечу на главный вопрос: какой банк для ип лучше выбрать, отзывы на который не врут. Спойлер: идеального нет, но выбрать меньшее из зол можно. Сравнение расчетных счетов для малого бизнеса — это всегда поиск баланса между

Какой банк выбрать для расчетного счета ИП в 2025 годуПоказать полностью
0
1