不花一分钱!用绿联DXP4800 Plus+Docker打造属于自己的ChatGPT!
nanshan 2025-03-25 15:55 18 浏览 0 评论
一、 AI大模型+Docker+NAS
AI技术其实在很多年前就已经有了,但一直没有找到好的应用场景,所以一直不瘟不火,近些年随着ChatGPT的一夜爆火,各种AI大模型就如雨后春笋般涌现,让人目不暇接。文字、图片、视频、音频一切都可以通过AI来进行创作,未来谁掌握了AI谁就能遥遥领先!
NAS(网络附加存储)作为集中存储的优质解决方案,以强大的数据存储与安全备份能力深受广大消费者喜爱,随着技术的不断发展,NAS配置越来越强、性能越来越好,已经慢慢成为家庭或企业不可或缺的数据中心,办公、娱乐轻松拿捏。Docker作为一个开源容器引擎,可以屏蔽复杂的软件安装过程,只要有镜像就可以几秒钟内完成复杂应用的安装。作为划时代的部署技术,目前主流NAS都支持Docker进行应用部署,成千上万的各种镜像大大增加了NAS的可玩性。今天就让我们一起使用Docker不花一分钱在NAS上部署自己的AI大模型!
二、 绿联DXP4800系列
绿联作为全球科技消费电子领域的知名品牌,其产品从最初的电脑周边慢慢扩展到充电、音频、存储等领域,旗下产品以创新设计、高品质、简单易用、性价比而著称,今年绿联发布了全新的DXP4800系列,硬件方面搭载性能强劲的Intel处理器与DDR5超高频内存,容量最高支持96TB,除4盘位普通硬盘外还支持双NVMe M.2高速固态硬盘,接口方面常见的HDMI、USB3.2、Type-C、双有线网口通通标配。
软件方面更是搭载了自研的新一代UGOS Pro系统,虽然在系统初期存在不少问题,但随着绿联的不断努力,很多初期的问题都得到了一一解决,在广大用户与绿联一起共建下,UGOS Pro会越来越完善。
DXP4800系列总共有两款产品,一款是DXP4800、一款是DXP4800 Plus,DXP4800采用4核4线程,睿频3.4GHz的Intel N100处理器,搭载8G DDR5单通道内存,最高支持16GB内存,拥有两个2.5GbE有线网络接口。DXP4800 Plus则配备了性能更强劲的5核6线程,睿频4.4GHz的Intel 8505处理器,搭载8G DDR5内存,最高容量支持64G,并且支持双通道。另外,有线网络接口一个为2.5GbE,一个为10GbE,散热方面增加了CPU散热风扇,价格方面比DXP4800贵700元。如果预算有限追求性价比可以选择DXP4800,追求更好的性能就选择DXP4800 Plus。
三、 绿联DXP4800 Plus使用体验
因为我比较喜欢折腾,所以选择了性能更强的DXP4800 Plus。DXP4800 Plus采用长方形外观设计,做工非常扎实的黑灰色航空铝加厚机身安全感满满,外壳表面进行了磨砂处理,金属质感直接拉满,论颜值绿联DXP4800 Plus确实比老牌NAS要好看不少。
NAS正面四个硬盘位依次排开,上面还有01、02、03、04的数字标注,每个硬盘仓底部还配置了儿童锁,锁上后硬盘仓就不能被拉出。硬盘仓下面从左到右依次为电源按键、网络指示灯、4个硬盘指示灯、SD卡槽、USB Type-C Gen2接口、USB-A 3.2 Gen2接口。绿联的布局设计非常合理,常用的接口都在前面,使用更加方便快捷,SD卡槽的加入让我们从单反相机拷贝相片、视频更加简单。
背面一如既往的配备了磁吸防尘网罩,拿下防尘网罩即可看到风扇出风孔,绿联DXP4800 Plus采用空气动力学散热设计,14cm大尺寸风扇可以快速带走热量,时刻保持硬盘全速稳定运行。底部为接口区域,从左到右依次为HDMI接口、USB3.2 Gen1接口、两个USB2.0接口、2.5GbE有线网口、10GbE有线网口、复位按键、电源接口,接口配置十分丰富。
将NAS底部面板的螺丝拧下来,拿下面板即可看到两个M.2插槽和两条DDR5内存条插槽,刚好我手头有来自金百达的两根16GB DDR5-5600内存和一块来自希捷的酷鱼530固态硬盘,赶紧给绿联DXP4800 Plus安装上,这样32GB高速DDR5内存搭配2TB高速固态硬盘,加上性能强劲的Intel 8505处理器,性能完全是桌面级了,无论是存储数据还是影音娱乐它都能轻松应对,运行AI本地大模型更加轻松。
绿联DXP4800 Plus安装配置是一如既往的简单,只需几步就可以轻松完成初始化。自研的UGOS Pro系统界面十分清新,左上角为快捷菜单,可以快速打开APP并且支持快速搜索,右上角为CPU、内存、网络使用情况监控、任务中心、通知、搜索、账号管理,桌面左侧为已安装软件列表,界面跟我们常用的Windows类似,即使是新手也能轻松驾驭。
NAS支持Web、PC、手机、电视等多种访问方式,可以非常方便的进行数据集中存储以及读取,同时还提供了专业的客户端管理软件,绿联云APP功能非常全面,只需一个APP就可以搞定所有需求。
除了本地访问以外,绿联DXP4800 Plus还支持通过UGREENlink服务来实现外网直接访问,不需要给NAS配置公网IP更加省事省心,无论你在何地只要能登陆就可以访问NAS的资源,简直是出差人的福音,身在外地也可以随时欣赏NAS中存储的宝宝照片了。
在权限方面绿联DXP4800 Plus提供了个性化权限管理,可以通过角色与用户组来进行灵活的用户授权,而且支持细粒度的读写权限控制,对于共享的文件夹还可以设置使用限额,避免空间被随意占用。
新增用户还新增了邀请注册方式,通过分享链接或二维码图片邀请家人进行注册,家人填写资料后经过管理员审批即可成功注册新用户。
存储方面绿联DXP4800 Plus支持多种RAID模式,比如灵活适配的JBOD、利用率高的Basic、多盘加速RAID0、安全稳定的RAID1、性能均衡的RAID5、安全性高的RAID6以及性能安全兼备的RAID10,大家可以按需进行选择,由于我只使用了两块硬盘所以我选择了安全稳定的RAID1模式。
数据安全方面绿联也考虑得十分周到,除了使用自研的加密技术以外,还内置安全管家可以实现实时防护、定时查杀等功能,安全管家就像一个称职的保镖,24小时保护NAS的安全。为此NAS也通过了美国TRUSTe、南德ETSI EN 303 645认证,并且通过了网络安全等级保护二级测评、360软件安全漏洞测试,大家可以放心使用。
通过NAS内置的应用中心我们可以下载各种软件,轻松搞定NAS管理、同步备份、AI相册、影音娱乐、下载等功能,另外NAS还支持虚拟机与Docker技术,大大增加了可玩性。据可靠消息后续绿联还会支持第三方应用,进一步丰富应用生态。
四、 AI大模型Docker部署
UGOS Pro系统现在支持Docker项目Compose,通过利用别人现成的或自己编写的yaml文件,可以快速创建多个相关联的容器项目,相比以前一个接一个的创建容器、配置容器,部署效率大幅提升。
接下来我们使用Docker进行本地AI大模型部署,首先我们先下载部署工具ollama、openwebui的Docker镜像。
下载完成后进行容器启动配置,选择镜像-》本地镜像-》ollama镜像,点击+号创建容器。
其它参数都不变,只需把网络模式改成Host模式,让容器使用NAS的网络。
容器启动后我们可以查看容器的资源消耗以及日志情况,如果没有报错则新建一个终端。
进入终端,输入ollama run qwen2:0.5b安装千问大模型。
安装完毕后可以直接与千问大模型进行文字对话,由于绿联DXP4800 Plus性能强劲,千问大模型问答相当流畅,没有出现任何卡顿或延迟现象。
接着我们试试更复杂的llama3.1大模型,先运行ollama run llama3.1:8b命令进行安装。
安装完毕后,让AI给我写篇游记大纲也是手到擒来,llama3.1:8b模型比qwen2:0.5b运行要稍微慢一点,但完全能接受。
大家肯定不喜欢一直用命令行来与AI大模型进行交流,这个时候我们就再启动一个openwebui容器,步骤与ollama类似,在配置里面将网络改为host,另外还需要配置一个ollama的访问地址,IP就是NAS的IP,端口是固定的。
容器启动后我们可以通过NAS IP加8080端口进行访问,打开界面我们可以发现它与ChatGPT的页面非常像,在左上角我们可以选择前面安装的两个AI大模型,选择大模型后在底部输入框输入问题即可愉快的与AI进行文字交流了。
绿联DXP4800 Plus得益于Intel 8505处理器+DDR5高频内存的强大硬件配置,除了可以自己部署AI大模型外,绿联还内置了不少基于本地化算力的AI模型,通过这些AI模型可以轻松实现AI智能搜索、图片主体识别、重复照片识别、隐私保护、人脸识别等功能,让相册管理更加轻松快捷。
另外,NAS还支持先进的本地AI自学习识图模型训练,我们可以选择一堆图片进行训练,同时还可以将训练好的模型保存下来,这一切都在NAS本地进行,不需要将图片发往服务器,有效避免隐私泄露。
娱乐方面,UGOS Pro系统集下载、整理、播放、分享全链路于一体,支持常见的下载协议,比如:HTTP、FTP、BT、PT、百度网盘、微软OneDrive网盘等等。整理方面影视中心内置智能算法,可以自动准确的匹配NAS中存储的各种影视信息,打造只属于自己的专属精美影视海报墙,个人感觉绿联的影视中心比第三方的APP更好用。播放方面支持HDR、蓝光、4K、杜比视界,通过电视机连接NAS就可以轻松享受影院级视听体验。分享方面,支持HDMI、DLNA投屏、绿联TV APP、网络挂载访问,另外还支持权限控制,比如:小朋友就只能看适合他们的影片,后续还会上线家长控制模式,可以有效约束孩子的使用行为。
五、 总结
绿联DXP4800 Plus颜值在线、硬件配置强劲、接口丰富,不但可以满足家庭的数据安全存储需求还能为家人带去不一样的娱乐体验,基于AI智能学习的相册、简单易用的影视中心都非常不错。支持虚拟机与Docker大幅提升了NAS的可玩性,绿联DXP4800 Plus既是家庭数据中心又是家庭娱乐中心,装上AI大模型后立马化身为生产力神器。UGOS Pro系统简单易用、安全可靠,每一次更新都有惊喜,未来可期!
相关推荐
- 0722-6.2.0-如何在RedHat7.2使用rpm安装CDH(无CM)
-
文档编写目的在前面的文档中,介绍了在有CM和无CM两种情况下使用rpm方式安装CDH5.10.0,本文档将介绍如何在无CM的情况下使用rpm方式安装CDH6.2.0,与之前安装C5进行对比。环境介绍:...
- ARM64 平台基于 openEuler + iSula 环境部署 Kubernetes
-
为什么要在arm64平台上部署Kubernetes,而且还是鲲鹏920的架构。说来话长。。。此处省略5000字。介绍下系统信息;o架构:鲲鹏920(Kunpeng920)oOS:ope...
- 生产环境starrocks 3.1存算一体集群部署
-
集群规划FE:节点主要负责元数据管理、客户端连接管理、查询计划和查询调度。>3节点。BE:节点负责数据存储和SQL执行。>3节点。CN:无存储功能能的BE。环境准备CPU检查JDK...
- 在CentOS上添加swap虚拟内存并设置优先级
-
现如今很多云服务器都会自己配置好虚拟内存,当然也有很多没有配置虚拟内存的,虚拟内存可以让我们的低配服务器使用更多的内存,可以减少很多硬件成本,比如我们运行很多服务的时候,内存常常会满,当配置了虚拟内存...
- 国产深度(deepin)操作系统优化指南
-
1.升级内核随着deepin版本的更新,会自动升级系统内核,但是我们依旧可以通过命令行手动升级内核,以获取更好的性能和更多的硬件支持。具体操作:-添加PPAs使用以下命令添加PPAs:```...
- postgresql-15.4 多节点主从(读写分离)
-
1、下载软件[root@TX-CN-PostgreSQL01-252software]#wgethttps://ftp.postgresql.org/pub/source/v15.4/postg...
- Docker 容器 Java 服务内存与 GC 优化实施方案
-
一、设置Docker容器内存限制(生产环境建议)1.查看宿主机可用内存bashfree-h#示例输出(假设宿主机剩余16GB可用内存)#Mem:64G...
- 虚拟内存设置、解决linux内存不够问题
-
虚拟内存设置(解决linux内存不够情况)背景介绍 Memory指机器物理内存,读写速度低于CPU一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存...
- Elasticsearch性能调优(5):服务器配置选择
-
在选择elasticsearch服务器时,要尽可能地选择与当前业务量相匹配的服务器。如果服务器配置太低,则意味着需要更多的节点来满足需求,一个集群的节点太多时会增加集群管理的成本。如果服务器配置太高,...
- Es如何落地
-
一、配置准备节点类型CPU内存硬盘网络机器数操作系统data节点16C64G2000G本地SSD所有es同一可用区3(ecs)Centos7master节点2C8G200G云SSD所有es同一可用区...
- 针对Linux内存管理知识学习总结
-
现在的服务器大部分都是运行在Linux上面的,所以,作为一个程序员有必要简单地了解一下系统是如何运行的。对于内存部分需要知道:地址映射内存管理的方式缺页异常先来看一些基本的知识,在进程看来,内存分为内...
- MySQL进阶之性能优化
-
概述MySQL的性能优化,包括了服务器硬件优化、操作系统的优化、MySQL数据库配置优化、数据库表设计的优化、SQL语句优化等5个方面的优化。在进行优化之前,需要先掌握性能分析的思路和方法,找出问题,...
- Linux Cgroups(Control Groups)原理
-
LinuxCgroups(ControlGroups)是内核提供的资源分配、限制和监控机制,通过层级化进程分组实现资源的精细化控制。以下从核心原理、操作示例和版本演进三方面详细分析:一、核心原理与...
- linux 常用性能优化参数及理解
-
1.优化内核相关参数配置文件/etc/sysctl.conf配置方法直接将参数添加进文件每条一行.sysctl-a可以查看默认配置sysctl-p执行并检测是否有错误例如设置错了参数:[roo...
- 如何在 Linux 中使用 Sysctl 命令?
-
sysctl是一个用于配置和查询Linux内核参数的命令行工具。它通过与/proc/sys虚拟文件系统交互,允许用户在运行时动态修改内核参数。这些参数控制着系统的各种行为,包括网络设置、文件...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- linux 查询端口号 (58)
- docker映射容器目录到宿主机 (66)
- 杀端口 (60)
- yum更换阿里源 (62)
- internet explorer 增强的安全配置已启用 (65)
- linux自动挂载 (56)
- 禁用selinux (55)
- sysv-rc-conf (69)
- ubuntu防火墙状态查看 (64)
- windows server 2022激活密钥 (56)
- 无法与服务器建立安全连接是什么意思 (74)
- 443/80端口被占用怎么解决 (56)
- ping无法访问目标主机怎么解决 (58)
- fdatasync (59)
- 405 not allowed (56)
- 免备案虚拟主机zxhost (55)
- linux根据pid查看进程 (60)
- dhcp工具 (62)
- mysql 1045 (57)
- 宝塔远程工具 (56)
- ssh服务器拒绝了密码 请再试一次 (56)
- ubuntu卸载docker (56)
- linux查看nginx状态 (63)
- tomcat 乱码 (76)
- 2008r2激活序列号 (65)