Как запускать DeepSeek-R1

Что README просит проверить до запуска: температура, промпт и отличие полного R1 от дистиллята.
Как запускать DeepSeek-R1

Запуск DeepSeek-R1 у себя и разговор в веб-чате — разные действия. README репозитория просит сначала прочитать рекомендации по использованию и не обещает, что полный чекпоинт пойдёт через обычный Transformers. Ниже — эти ограничения и советы так, как они записаны, без самодельной инструкции по сборке сервера.

Как запускать DeepSeek-R1

Какой файл вы вообще запускаете

Полные DeepSeek-R1 и R1-Zero в таблице: 671 млрд параметров всего, 37 млрд активных, контекст 128K. README отправляет за деталями локального запуска полного R1 в репозиторий DeepSeek-V3 и прямо пишет, что прямая поддержка в Transformers на момент той инструкции отсутствовала.

Дистилляты меньше и описаны как модели, которые запускают тем же способом, что Qwen или Llama. В README есть примеры команд vLLM и SGLang для DeepSeek-R1-Distill-Qwen-32B. Имеет смысл брать команду из текущей версии репозитория, а не из пересказа: флаги со временем меняются у самих vLLM и SGLang. Конфиги и токенизатор README просит брать их, потому что авторы слегка изменили настройки относительно исходных баз.

Температура, промпт и шаблон мышления

Для серии R1, включая замеры, README рекомендует температуру от 0,5 до 0,7, предпочтительно 0,6, чтобы не получать бесконечные повторы и бессвязный текст. Системный промпт просят не добавлять: все указания кладут в реплику пользователя. Для математики советуют просить пошаговое рассуждение и финальный ответ в boxed. Для оценки качества — несколько прогонов и среднее, а не один удачный ответ.

Авторы заметили, что модели серии иногда пропускают рассуждение и выдают пустую пару тегов. Их совет для локального запуска: заставлять ответ начинаться с открывающего тега рассуждения. Для веба и приложения того периода README отдельно пишет температуру 0,6 и отсутствие системного промпта, плюс шаблоны для файла и для веб-поиска. Кнопку на сайте того текста звали DeepThink. Журнал от 17 октября 2026 описывает уже другую сборку веба, DeepSeek-V4.1-Flash-1017, поэтому имя кнопки отсюда не переносится вперёд по календарю.

Лицензия перед запуском в продукте

Код и веса серии — MIT, коммерческое использование разрешено, включая дистилляцию в другие модели. Qwen-дистилляты сохраняют связь с Apache 2.0, Llama-дистилляты — с лицензиями Llama 3.1 и Llama 3.3. Это стоит прочитать до того, как встраивать чекпоинт в сервис. Список файлов — на странице открытые веса.

Если нужен не свой сервер

Облачный вызов идёт через API именами deepseek-flash и deepseek-v4-pro, режим рассуждения — полем thinking. Имя deepseek-reasoner после 24 июля 2026 не является способом «запустить R1». Разница чата и API разобрана в статье чат и API. Карточка модели — на странице что такое DeepSeek-R1 и в материале DeepSeek R1. Обычный диалог без своего сервера — на дипсик чате и в обзоре DeepSeek на русском.

Чеклист до первой команды

Прочитайте в README, полный это R1 или дистиллят. Для полного чекпоинта не ищите строку pip install transformers как достаточный шаг: инструкция отсылает к репозиторию DeepSeek-V3 и говорит, что прямой поддержки Transformers тогда не было. Для дистиллята откройте пример vLLM или SGLang в самом репозитории и сверьте имя модели с таблицей, например Distill-Qwen-32B, а не произвольный соседний чекпоинт.

Затем выставьте температуру 0,6 или хотя бы держите её между 0,5 и 0,7. Уберите системный промпт. Для математики добавьте просьбу о шагах и boxed в реплику пользователя. Если ответ пустой между тегами рассуждения, примените совет README: начинать вывод с открывающего тега. Это не параметр API thinking, а приём для локальных весов серии R1.

Не вставляйте в ту же команду имя deepseek-reasoner: после 24 июля 2026 это имя облачного API отключено и к локальному файлу не относится. Облачный режим описан отдельно на странице thinking mode. Если свой запуск не нужен, диалог без сервера есть на дипсик чате.

Откуда взяты сведения

Like this post? Please share to your friends:
DeepSeek
Добавить комментарий

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: