生命不息
折腾不止

用Ollama本地/VPS部署DeepSeek教程:选型、安装到远程访问

先说结论: 用 Ollama 部署 DeepSeek ,其实就三步: 装 Ollama → 运行 ollama run deepseek-r1:7b (或其他尺寸)→ 开始聊天 。普通电脑选 1.5b ~ 8b ,有 16GB 显存选 14b , 24GB 以上可以试 32b 。但要先知道一点: 能在家用电脑上跑的是 ” 蒸馏小模型 ” ,不是官网那个满血版 ,满血版 671b 需要 400GB 级的存储和多卡服务器。

本文模型信息核对自 Ollama 官方模型库( 2026 年 10 月)。

为什么要本地部署?

  • 隐私: 数据不出自己的电脑或服务器,适合处理敏感资料。
  • 离线可用: 没网也能用,不受 ” 服务器繁忙 ” 影响。
  • 可以接入自己的工具: Ollama 提供 API ,可以接网页聊天界面、笔记软件、自动化脚本。

如果你只是日常聊天,直接用官网 chat.deepseek.com 更省事、效果也更好;本地部署适合想折腾、看重隐私或要做二次开发的朋友。

第一步:先看你的电脑 /VPS 能跑哪个版本

Ollama 上的 deepseek-r1 有多个尺寸(下表文件大小来自 Ollama 官方 tags 页,默认是 4 位量化版本):

标签 实际模型 文件大小 建议配置(参考)
deepseek-r1:1.5b R1 蒸馏 Qwen 1.5B 1.1GB 4GB 显存 / 内存即可尝鲜
deepseek-r1:7b R1 蒸馏 Qwen 7B 4.7GB 8GB 显存
deepseek-r1:8b (默认 latest ) R1-0528 蒸馏 Qwen3 8B 5.2GB 8GB 显存
deepseek-r1:14b R1 蒸馏 Qwen 14B 9.0GB 16GB 显存
deepseek-r1:32b R1 蒸馏 Qwen 32B 20GB 24GB ~ 32GB 显存
deepseek-r1:70b R1 蒸馏 Llama 70B 43GB 多卡或大显存服务器
deepseek-r1:671b DeepSeek-R1 满血版 404GB 多卡服务器

几点提醒:

  • 直接运行 ollama run deepseek-r1 不带标签,下载的是默认的 8b 版本,不是满血版。
  • 没有独立显卡也能跑, Ollama 会用 CPU 和内存,只是慢很多。纯 CPU 建议从 1.5b 或 7b 开始。
  • Mac ( Apple 芯片)用的是统一内存, 16GB 内存的 Mac 跑 7b/8b 比较舒服。
  • ” 建议配置 ” 是经验值,上下文开得越长占用越高。

DeepSeek 最新的 V4 系列也开源了权重,但最小的 V4-Flash 也有 2840 亿参数,基本是机房级别的活,个人部署还是以 R1 蒸馏版为主。

第二步:安装 Ollama

Windows / macOS

打开 Ollama 官网 ollama.com/download ,下载对应系统的安装包,双击安装即可。装完后打开终端( Windows 用 PowerShell 或 CMD , Mac 用 ” 终端 ” ),输入:

ollama --version

能显示版本号就说明装好了。

Linux / VPS

一条命令安装(官方脚本):

curl -fsSL https://ollama.com/install.sh | sh

安装脚本会把 Ollama 注册成系统服务。检查是否在运行:

systemctl status ollama

第三步:下载并运行 DeepSeek

按上面的表选一个尺寸,比如 8GB 显存的电脑:

ollama run deepseek-r1:7b

第一次会先下载模型文件( 4.7GB ),下载完自动进入对话。直接输入问题回车就行,输入 /bye 退出。

常用命令:

ollama list              #  查看已下载的模型 
ollama pull deepseek-r1:14b   #  只下载不运行 
ollama rm deepseek-r1:7b      #  删除模型,释放空间 
ollama ps                #  查看正在运行的模型 

R1 系列是推理模型,回答前会输出一段 <think> 思考过程,这是正常现象。

第四步:在 VPS 上部署要注意什么

放在 VPS/ 云服务器上,好处是随时随地能用,还能给团队共享。几个要点:

  1. 配置: 普通无显卡 VPS 只能跑 1.5b/7b ,而且速度慢,建议至少 8GB 内存。想跑 14b 以上,需要带 GPU 的云服务器。
  2. 硬盘: 预留模型大小的 1.5 倍以上空间。
  3. 默认只监听本机: Ollama 默认地址是 127.0.0.1:11434 ,外网访问不到,这是安全的。
  4. 需要远程访问时: 可以设置环境变量 OLLAMA_HOST=0.0.0.0 让它监听所有地址( systemd 服务需在服务配置里加 Environment 后重启)。 但 Ollama 本身没有密码验证 ,千万不要直接把 11434 端口暴露到公网,否则任何人都能用你的服务器。建议用 SSH 隧道、防火墙白名单,或者前面加一层带认证的反向代理。

最简单安全的远程用法是 SSH 隧道,在自己电脑上执行:

ssh -L 11434:127.0.0.1:11434  用户名 @ 你的服务器 IP

之后在本机访问 127.0.0.1:11434 ,就等于在用服务器上的 Ollama 。

第五步:给它装个网页聊天界面(可选)

命令行不好用?可以装 Open WebUI 这类开源界面,体验接近 ChatGPT 网页版。它支持连接 Ollama ,用 Docker 部署比较方便,具体命令以 Open WebUI 官方文档为准。装好后在界面里选择 deepseek-r1 模型就能聊天。

另外 Ollama 自带 API ,开发者可以直接调用:

curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:7b",
  "prompt": " 用一句话解释什么是大模型 "
}'

常见问题排查

  • 下载很慢: 模型文件大,多试几次或换个网络时段; Ollama 支持断点续传,重新执行命令会接着下载。
  • 运行很卡: 模型选大了,换小一号;关掉其他占内存的程序。
  • 回答质量一般: 小尺寸蒸馏模型能力有限,复杂任务还是用官网满血版效果更好。

常见问题( FAQ )

本地部署的 DeepSeek 和官网的一样吗?

不一样。家用电脑能跑的 1.5b ~ 70b 都是用 DeepSeek-R1 数据训练的蒸馏小模型,只有 671b 是 R1 本体。官网现在用的是更新的 V4 系列。

没有显卡能部署吗?

能, Ollama 会用 CPU 运行,建议选 1.5b 或 7b ,速度会比较慢。

8GB 显存选哪个?

选 deepseek-r1:7b 或 8b ,文件约 5GB 。

部署在 VPS 上安全吗?

默认只监听本机是安全的;如果要远程访问,不要直接把 11434 端口暴露到公网,用 SSH 隧道或带认证的反向代理。

本地部署要钱吗?

Ollama 和模型本身免费,成本只有你的电脑电费或服务器租金。

延伸阅读

赞(0)
未经允许不得转载:91云 » 用Ollama本地/VPS部署DeepSeek教程:选型、安装到远程访问

相关推荐

  • 暂无文章

留言 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址