百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

(牛)企业公司本地部署DeepSeek-R1(最全部署过程截图步骤详解)

nanshan 2025-06-15 18:06 10 浏览 0 评论

说明:本人已经成功在公司部署DeepSeek-R1使用,并且已经投入给部分员工使用,我使用的是一台虚拟机centos7.9版本系统,这里我将部署的所有过程都截图记录下来,提供给有需要的人士使用,如觉得好用,点赞收藏转发。(原创)

1、配置主机名

系统需要自己先安装好,安装好系统之后,前提是这台机也能访问互联网,进入系统,修改主机名,这看大家,需不需要修改都可以。

[root@localhost ~]# hostnamectl set-hostname deepsee
[root@localhost ~]# bash

2、关闭防火墙

[root@deepseek ~]# systemctl stop firewalld || systemctl disable firewalld
关闭selinux
[root@deepseek ~]# setenforce 0
把配置SELINUX=enforcing改为SELINUX=disabled
[root@deepseek ~]# sed -i "s/SELINUX=enforcing/SELINUX=disabled/" /etc/selinux/config

3、下载阿里源(可选)

[root@deepseek ~]# wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo

4、进入官网Ollama

4.1 官网网站:https://ollama.com,点击:Download。

4.2 进入下载的界面,也可以window部署,但是我使用Linux部署,然后点击到:Linux,再点击复制命令:curl -fsSL
https://ollama.com/install.sh
| sh

5、下载并且安装

这个下载过程可能有点慢,我大概花40分钟左右,成功安装完成。如果网络快的话,就很快。

[root@localhost ~]# curl -fsSL https://ollama.com/install.sh | sh

6、服务验证以及查看命令是否可以使用

[root@deepseek ~]# ollama list    #查看模型,因为刚刚安装好的还没有,需要下载模型才能看到。
NAME ID SIZE MODIFIED
[root@deepseek ~]# ollama -v #查看ollama安装的版本
ollama version is 0.5.7
[root@deepseek ~]# usermod -aG ollama $USER
[root@deepseek ~]# systemctl start ollama #启动ollama
[root@deepseek ~]# systemctl status ollama #查看ollama状态

7、下载deepseek r1 的模型

Deepseek 模型部署2.1 模型下载与加载,以 deepseek r1 模型为例:

访问官网:
https://ollama.com/library/deepseek-r1,默认为 7b 模型,点击选择的时候可以看到每个模型的下载大小,根据自己的需求下载,如需其他模型,可以在当前页搜索所需模型,选选择模型后,再点击后面的复制按钮即可。比如我复制的命令:ollama run deepseek-r1:1.5b

回到Linux的界面进行执行命令下载,下载有可能会超时,如果超时了,继续执行该命令,等待下载完成即可。下载好就可以在这个界面操作>>>,这里输入文字即可聊天了,但是还需要安装页面,继续往下走。

[root@deepseek ~]# ollama run deepseek-r1:1.5b

各个模型的大小:

ollama run
deepseek-r1:1.5b---------------#大小1.1G

ollama run
deepseek-r1:7b-----------------#大小4.7G

ollama run
deepseek-r1:8b-----------------#大小4.9G

ollama run
deepseek-r1:14b---------------#大小9.0G

ollama run
deepseek-r1:32b---------------#大小20.0G

ollama run
deepseek-r1:70b---------------#大小43G

ollama run
deepseek-r1:671b-------------#大小403G


第二次下载模型(安装时先可忽略)

上是我第一次安装时候下载的模型,我是全部安装好了,再下载大一点的模型,但是下载了好久,然后才慢慢找到规律:基本每次只能跑1%,然后手动结束,再运行,如果要跑到100%,可能需要操作100次。如果长时间没有结束就超时。

下载模型遇到的问题:ollama pull时进度回退,不知是否最近太多人下载导致服务器问题,下载大点的模型经常进度条往回退,解决方法就是每隔一会关闭进程重下载,断点续传可以

继续下载。

摸索着,下载了两天,终于下载完成了。

安装docker

1、时间同步

[root@deepseek ~]# yum install ntp -y #如果没有ntp命令,需要安装

[root@deepseek ~]# timedatectl set-timezone Asia/Shanghai #如果时区不对,就需要变更一下

[root@deepseek ~]# ntpdate ntp1.aliyun.com


2、安装阿里云:

安装先先做一下备份:

[root@deepseek ~]# cd /etc/yum.repos.d
[root@deepseek yum.repos.d]# mkdir back
[root@deepseek yum.repos.d]# cp -ra CentOS-Base.repo back
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo

3、安装依赖包:

[root@deepseek ~]# yum -y install gcc gcc-c++ yum-utils
[root@deepseek ~]# yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo 
[root@deepseek ~]# yum makecache fast

4、安装docker容器。

[root@deepseek ~]# yum install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin -y
安装完成之后,查看版本:
[root@deepseek ~]# docker version
[root@deepseek ~]# docker info #查看加速是否成功
[root@deepseek ~]# systemctl enable --now docker #启动docker
[root@deepseek ~]# systemctl status docker #查看状态

添加配置daemon.json,如果没有这个文件就直接创建即可:

[root@deepseek ~]# vim /etc/docker/daemon.json
{
"registry-mirrors": ["https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}

加载配置和重启docker

[root@deepseek ~]# systemctl daemon-reload
[root@deepseek ~]# systemctl restart docker

5、拉取openui镜像

国内源,就行这个行了。

[root@deepseek ~]# docker pull ghcr.nju.edu.cn/open-webui/open-webui:main

#国外源(可不用执行)

[root@deepseek ~]# docker pull ghcr.io/open-webui/open-webui:main


6、启动openui

docker run -d --net=host \
-e PORT=3000 \
-e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
-e ENABLE_SIGNUP=true \
-e ENABLE_OPENAI_API=False \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main

7、访问页面

7.1 启动好了,就可以访问界面(可能比较慢些,等一会再访问页面),在浏览器中输入链接:http://172.16.3.4:3000,点击下面的开始使用。

7.2 第一次打开界面出现创建管理员的账号,注意:这个是创建管理员账号。输入相关信息后,点击:创建管理员账号。

7.3 创建好账号,进入的界面,点击:确认,开始使用。

7.4 左上角选择你的模型,开始问问题。


8、修改配置

接下来还需要修改一下配置,右上角点击头像,再点击:管理员面板。

在”管理员控制面版“界面,点击”设置---通用“ 的界面,把”允许新用户注册“开关打开,,再点击”默认用户角色“选择”用户“,默认是不开启的。

在”管理员控制面版“界面,点击”设置---模型“ 的界面,

在”可见性“选择”public“,公用的,,下面点击”保持并更新“,这样其他用户才能看到这个模型,注意:默认是不开启的,用户注册了看不到。

然后其他的配置自己可以研究研究,工具自己的需求,还有很多配置可设置的。

第二次我下载的模型:


如果重启了机器,并且服务没有启动,需要手动重启一的open-webui,正常来说会启动。

  • 停止open-webui如果需要停止open-webui,可以使用以下命令:
docker stop open-webui
  • 启动open-webui如果需要启动open-webui,可以使用以下命令:

启动openui

docker run -d --net=host \
-e PORT=3000 \
-e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
-e ENABLE_SIGNUP=true \
-e ENABLE_OPENAI_API=False \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main

注意防火墙是否重启机器后开启了


并且做了压测。

第一次:20核32G,回复问题非常慢,基本都跑不动,CPU跑到100%

第二次:后来我加大CUP的核数,但是还是很慢,32核20G,CPU跑到95%左右了,总比第一次快好多了。

相关推荐

Let’s Encrypt免费搭建HTTPS网站

HTTPS(全称:HyperTextTransferProtocoloverSecureSocketLayer),是以安全为目标的HTTP通道,简单讲是HTTP的安全版。即HTTP下加入...

使用Nginx配置TCP负载均衡(nginx tcp负载)

假设Kubernetes集群已经配置好,我们将基于CentOS为Nginx创建一个虚拟机。以下是实验种设置的详细信息:Nginx(CenOS8Minimal)-192.168.1.50Kube...

Nginx负载均衡及支持HTTPS与申请免费SSL证书

背景有两台minio文件服务器已做好集群配置,一台是192.168.56.41:9000;另一台是192.168.56.42:9000。应用程序通过Nginx负载均衡调用这两台minio服务,减轻单点...

HTTPS配置实战(https配置文件)

原因现在网站使用HTTPS是规范操作之一,前些日子买了腾讯云服务,同时申请了域名http://www.asap2me.top/,目前该域名只支持HTTP,想升级为HTTPS。关于HTTPS的链接过程大...

只有IP地址没有域名实现HTTPS访问方法

一般来说,要实现HTTPS,得有个注册好的域名才行。但有时候呢,咱只有服务器的IP地址,没注册域名,这种特殊情况下,也能照样实现HTTPS安全访问,按下面这些步骤来就行:第一步,先确认公网...

超详解:HTTPS及配置Django+HTTPS开发环境

众所周知HTTP协议是以TCP协议为基石诞生的一个用于传输Web内容的一个网络协议,在“网络分层模型”中属于“应用层协议”的一种。在这里我们并不研究该协议标准本身,而是从安全角度去探究使用该协议传输数...

Godaddy购买SSL之后Nginx配置流程以及各种错误的解决

完整流程:参考地址:https://sg.godaddy.com/zh/help/nginx-generate-csrs-certificate-signing-requests-3601生成NGI...

Nginx从安装到高可用,一篇搞定(nginx安装与配置详解)

一、Nginx安装1、去官网http://nginx.org/下载对应的nginx包,推荐使用稳定版本2、上传nginx到linux系统3、安装依赖环境(1)安装gcc环境yuminstallgc...

阿里云免费证书申请,配置安装,使用tomcat,支持http/https访问

参数说明商品类型默认已选择云盾证书服务(无需修改)。云盾证书服务类型SSL证书服务的类型。默认已选择云盾SSL证书(无需修改),表示付费版SSL证书。如果您需要免费领取或付费扩容DV单域名证书【免费试...

你试过两步实现Nginx的规范配置吗?极速生成Nginx配置小工具

NGINX是一款轻量级的Web服务器,最强大的功能之一是能够有效地提供HTML和媒体文件等静态内容。NGINX使用异步事件驱动模型,在负载下提供可预测的性能。是当下最受欢迎的高性能的Web...

从零开始搭建HTTPS服务(搭建https网站)

搭建HTTPS服务的最初目的是为了开发微信小程序,因为wx.request只允许发起HTTPS请求,并且还必须和指定的域名进行网络通信。要从零开始搭建一个HTTPS的服务需要下面4...

群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问

安全第一步,群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问【新手导向】NAS本质还是一个可以随时随地访问的个人数据存储中心,我们在外网访问的时候,特别是在公网IP下,其实会面临着很多安...

让网站快速升级HTTPS协议提高安全性

为什么用HTTPS网络安全越来越受到重视,很多互联网服务网站,都已经升级改造为https协议。https协议下数据包是ssl/tcl加密的,而http包是明文传输。如果请求一旦被拦截,数据就会泄露产生...

用Https方式访问Harbor-1.9版本(https访问流程)

我上周在头条号写过一篇原创文章《Docker-Harbor&Docker-kitematic史上最详细双系统配置手册》,这篇算是它的姊妹篇吧。这篇文章也将用到我在头条写的另一篇原创文章的...

如何启用 HTTPS 并配置免费的 SSL 证书

在Linux服务器上启用HTTPS并配置免费的SSL证书(以Let'sEncrypt为例)可以通过以下步骤完成:---###**一、准备工作**1.**确保域名已解析**...

取消回复欢迎 发表评论: