本地部署 DeepSeek 大模型(AnythingLLM+Ollama)的详细教程

一、部署前的准备工作

1. 硬件要求

- **显存与内存**：

- **基础配置**：至少 8GB 内存 + 4GB 显存（如运行 1.5B 参数模型）。

- **高性能配置**：建议 16GB 以上显存（如 NVIDIA RTX 4080）以支持更大模型（如 32B 参数）。

- **存储**：至少 30GB 可用磁盘空间（1.5B 模型约需 4.9GB，更大模型需 1TB 以上）。

- **CPU**：多核 CPU（如 Intel Xeon 或 AMD EPYC）可辅助计算，但非必需。

- **注**：我用的日常笔记本，16G内存，i5-1240P，集成显卡，实测7B参数模型运行正常，对话时CPU和GPU占用率明显上升，见下图。这个硬件配置7B已经上上限了。当然，不执行对话时CPU和GPU还是恢复到正常水平的，不会有明显占用。

2. 软件与环境

- **操作系统**：支持 Windows 10/11、Linux（推荐 Ubuntu 20.04+）或 macOS。

- **部署工具**：推荐使用 **Ollama**（开源本地模型运行工具）。

- **可选可视化工具**：AnythingLLM ，其他Chatbox、Open WebUI 或 Cherry Studio也可以。

二、部署步骤

方法一：通过 Ollama 部署（推荐）

1. **安装 Ollama**

- 访问 [Ollama 官网](网页链接) https://ollama.com/，下载对应操作系统的安装包并完成安装。

- 验证安装：命令行输入 `ollama --version`，显示版本号即成功。

-此时在桌面右下角的角标已经有Ollama的图标了。

2. **下载 DeepSeek 模型**

- 根据硬件选择模型版本（示例命令）：

```bash

# 低配置（4GB 显存）：1.5B 参数模型

ollama run deepseek-r1:1.5b

# 高配置（16GB 显存）：7B 或 14B 参数模型

ollama run deepseek-r1:7b

```

-之后Ollama会显示下载deepseek的进度条，等待即可。

- 下载完成后，通过 `ollama list` 查看本地模型列表。之后实际上已经启动了deepseek，可以直接与deepseek交互了。只是这里还是文本对话形式，要有人机界面并且能导入本地文件的话，还需要安装视化工具如AnythingLLM。

3. **启动模型交互**

- 如果到上一步，deepseek还没启动的话，在ollma命令行输入 `ollama run deepseek-r1:[版本号]` 进入交互模式。

方法二：结合可视化工具（AnythingLLM）

1 **下载 AnythingLLM软件**

AnythingLLM官网地址：

AnythingLLM | The all-in-one AI application for everyone

https://anythingllm.com/

根据自己的电脑情况选择X86 还是ARM的版本，下载安装程序的可执行文件，正常安装即可

安装完桌面会有个图标

---

启动后界面，选择本地大模型，在列表框中选择Ollama，自动就会识别安装了deepseek-r· 7b，下面的网址参数自动获得就行（安装的时候没截图，这块没什么复杂的，注意看看就能弄清）

继续创建工作区

起个名，叫Test吧，点击Save保存。

进入交互界面

下面就可以交互了

四、常见问题解决

1. **模型无法启动**

- 检查显存是否充足，或尝试更小参数模型。

- 确保 Ollama 服务已运行（Windows 需重启终端）。

2. **响应速度慢**

- 关闭后台占用显存的程序（如游戏、视频渲染）。

3. **下载中断**

- 使用稳定的网络环境=。

---

五、本地部署的优势

- **隐私安全**：数据完全本地处理，避免云端泄露。

- **离线使用**：无需网络连接，适合无网环境。

- **灵活定制**：支持微调模型参数和集成自定义功能。