百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

关于存储技术的最强入门科普(存储技术有哪些)

nanshan 2025-02-04 15:20 19 浏览 0 评论

说到“存储”,大家会想到什么?


是这个?

还是这个?

又或者是这个?

哈哈,没错,我们现在处于信息时代,每天都在和电脑、手机打交道。我们的工作和生活,已经完全离不开视频、音乐、图片、文本、表格这样的数据文件。


而所有这些数据文件,都需要通过电子设备进行保存,这就是数据存储,简称存储。



▉ 存储的基本载体——硬盘


存储的载体有很多,例如各种规格的硬盘、光盘、软盘、U盘和磁带等。


对于普通用户来说,最常用的存储设备,就是硬盘。


我们知道,计算机的三大核心硬件,分别是CPU(中央处理器)、内存(Memory)和硬盘(Hard Disk)。CPU负责运算,硬盘负责存储。而内存,是CPU和硬盘之间的桥梁。用于暂时存放CPU中的运算数据。


绝大部分的台式机、服务器、手机,都是内置存储系统。也就是说,它们的硬盘安装在设备内部。


以普通台式机为例,硬盘通过专用接口和数据线,连接在主板上,实现和CPU、内存的数据连接。


常用的硬盘专用接口如下:


手机等数码设备的“硬盘”,则是做成了很小的存储芯片,直接焊在主板上。


我们再来简单看看硬盘的内部结构


目前主流的硬盘类型有两种,分别是传统机械硬盘和SSD固态硬盘。小枣君以大家比较熟悉的机械硬盘为例进行介绍。


硬盘之所以叫硬盘,是因为它的核心部分是一块或多块由坚硬金属材料制成的盘片。盘片上面涂抹了磁性介质,两面都可以记录信息。在盘面上读/写数据的,是磁头


下图显示的是一个盘面:


盘面中一圈圈灰色同心圆为一条条磁道。从圆心向外画直线,可以将磁道划分为若干个弧段,每个弧段被称之为一个扇区(Sector,图中绿色部分)。


从侧面看,如下图所示。我们把磁道从外向内进行编号(最外面是0号),每个盘面中具有相同编号的磁道形成一个圆柱,称之为磁盘的柱面。


所以,磁盘的存储容量 = 磁头数 × 磁道数 × 每磁道扇区数 × 每扇区字节数。


扇区是磁盘的最小组成单元。大家应该看出来了,越靠圆心,扇区越短。那么,是不是越往外,扇区越长,存储的数据越多呢?


不一定。


老式的硬盘,不管靠内还是靠外,每个扇区的大小是一样的,都是512字节。这种硬盘用柱面-磁头-扇区号(CHS,Cylinder-Head-Sector)组成的编号进行寻址。


而现在主流的硬盘,扇区密度是一致的,也就是说,越靠外侧,扇区数越多。每个扇区的大小是4K字节,用一个逻辑块编号寻址(LBA,Logical Block Addressing)。


以扇区为基础,一个或多个连续的扇区组成一个块,叫做物理块。所以,硬盘往往又叫块设备(Block Device)。


除了传统机械硬盘之外,随着自身成本的不断下降,SSD固态硬盘(Solid State Disk或Solid State Drive)正在迅速崛起并成为主流。


这是一种由控制单元和固态存储单元(DRAM或FLASH芯片)组成的硬盘。它的接口规范和定义、功能及使用方法上与普通机械硬盘基本相同,但速度要快得多。


固态硬盘的产品外形和尺寸上也与普通机械硬盘(2.5寸)一致。由于固态硬盘没有普通硬盘的旋转介质,因而抗震性极佳。固态硬盘内部芯片的工作温度范围也很宽(-40~85℃),所以适用于很多较为苛刻的工作环境。


▉ 什么是逻辑卷?什么是文件系统?


为了方便管理,我们可以将硬盘这样的物理块设备,分割成多个逻辑块设备。或者,我们也可以将多个物理块设备,组合成一个容量更大的逻辑块设备。


底层的相关技术和工具,包括RAID(大家可能比较熟悉)、JBOD、卷管理系统(Volume Manager)。


Windows的卷管理系统,就是它自带的磁盘管理工具。而Linux的,是大名鼎鼎的LVM(Logical Volume Manager,逻辑卷管理)。


我们先说说Windows的。


在Windows中,磁盘分为基本磁盘动态磁盘。默认情况下,用户用的都是基本磁盘。


一个基本磁盘可以划分为多个分区,分区类别包括主分区、扩展分区和逻辑分区。


主分区是硬盘的启动分区,我们常说的“C盘”就是硬盘上的主分区。MBR分区表可以划分出4个主分区。如果使用GPT分区,可以管理128个主分区。


除去主分区以外,硬盘剩下的容量就被认定为扩展分区。扩展分区不能直接使用。扩展分区可以分成一个或若干个逻辑分区,也就是我们的“D盘”、“E盘”等。


动态磁盘是基本磁盘的升级模式。在动态磁盘中,分区叫做。卷的出现,就是为了便于对多硬盘进行管理。


简单来说,动态磁盘可以将不同硬盘分到一个卷。假如你手中有160G和250G硬盘各一块,如果想划分90G和320G的分区,就可以借助动态磁盘来完成。


动态磁盘里面的卷,又分为简单卷、跨区卷、带区卷、镜像卷、RAID-5卷。限于篇幅,就不做具体介绍了。基本磁盘里的分区,现在也被微软改叫为卷。


再来看看Linux的LVM工具。


其实LVM和动态磁盘的思路差不多的,也是把物理空间变成逻辑空间。


首先,物理存储介质进行初始化,变成物理卷(PV,physical volume)


然后,一个或多个物理卷组成一个卷组(VG,Volume Group)


创建卷组之后,再创建逻辑卷(LV,logical volume)


整个过程,如下图所示:


好了,不管是Windows还是Linux,逻辑卷都有了,是不是可以直接使用它们啦?


不行,还差一步。那就是文件系统(File System)


文件系统就像仓库管理员。作为用户,你不需要知道仓库里面到底是什么样子,只需要把货物交给他,他会以一个树形结构目录,登记这些货物。你来取的时候,只需要告诉他路径,他就会把货物交给你。

文件系统有很多种类型,常见的有Windows的FAT/FAT32/NTFS(大家应该很熟悉),还有就是Linux的EXT2/EXT3/EXT4/XFS/BtrFS等。


Windows系统下,通过对分区(卷)进行文件系统格式化,再分配一个盘符,我们就可以在“我的电脑”里看到可用的磁盘。Linux系统下,我们需要对逻辑卷进行文件系统格式化,然后执行挂载操作,也就能对存储空间进行使用了。


▉ 什么是DAS/NAS/SAN


除了内置存储之外,随着存储容量需求的不断增加,加上维护便利性的需要,计算机系统开始引入了外挂存储。也就是说,硬盘从计算机的内部,跑到了计算机的外部。


外挂存储分为两种,一种是直连式存储(DAS,Direct Attached Storage),还有一种是网络存储(FAS,Fabric Attached Storage)


DAS直连式存储,一般是使用专用线缆(例如SCSI),与存储设备(例如磁盘阵列)进行直连。


虽然数据存储设备看似在外部,但直接挂接在服务器内部总线上,是整个服务器结构的一部分。


DAS的缺点是存储设备只能连接到一台主机使用,无法共享,成本较高,且安全性可靠性较低。


FAS网络存储,是一种多点连接式的存储。它又分为NAS(Network-attached Storage,网络接入存储)SAN(Storage Area Network,存储区域网络)


这些概念的名字非常像,大家千万别晕。画个图看得明白一些:


NAS与DAS相比,最大的特点是非直连。它可以通过IP网络,实现多台主机与存储设备之间的连接。


NAS大大提高了存储的安全性、共享性和成本。但是I/O(输入输出)渐渐成为性能瓶颈。随着应用服务器的不断增加,网络系统效率会急剧下降。


而SAN并不存在这个问题。


早期的SAN架构专指FC SAN,它通过专用光纤通道交换机访问数据,采用FC协议。FC(光纤通道)的带宽明显高于NAS的以太网,而且稳定性也更好。


后来,有了iSCSI协议(Internet SCSI,2003年正式成为标准)并且主流操作系统开始支持,就有了IP SAN(使用IP网络和设备)。


说白了,iSCSI就是走IP网络的SCSI。一方面扩大了连接距离,另一方面增加了连接的服务器数量(原来的SCSI-3的上限是15)。


SAN和NAS的关键区别,就在于文件系统的位置。画个图就明白了:



可以看出,如果说SAN是一块网络硬盘的话,NAS基本上已经像一台独立的服务器了。NAS拥有文件系统,用户可以通过TCP/IP协议直接访问上面的数据。


现在很多家庭都开始使用小型NAS设备,相当于一个小型服务器。


在NAS的模式下,不同的客户端可以使用网络文件系统(Network File System)访问NAS上的文件。常见的网络文件系统有Windows网络的CIFS(也叫SMB)、类Unix系统网络的NFS等。


FTP、HTTP其实也算是文件存储的某种特殊实现,它们通过某个URL地址来访问一个文件。


▉ 未完待续……


随着互联网的持续发展,网络上的数据量在不断激增,这给存储系统带来了巨大的压力和挑战。


云计算的兴起,会给我们全新的解决方案吗?


请看下期——《对象存储的深度揭秘》


相关推荐

0722-6.2.0-如何在RedHat7.2使用rpm安装CDH(无CM)

文档编写目的在前面的文档中,介绍了在有CM和无CM两种情况下使用rpm方式安装CDH5.10.0,本文档将介绍如何在无CM的情况下使用rpm方式安装CDH6.2.0,与之前安装C5进行对比。环境介绍:...

ARM64 平台基于 openEuler + iSula 环境部署 Kubernetes

为什么要在arm64平台上部署Kubernetes,而且还是鲲鹏920的架构。说来话长。。。此处省略5000字。介绍下系统信息;o架构:鲲鹏920(Kunpeng920)oOS:ope...

生产环境starrocks 3.1存算一体集群部署

集群规划FE:节点主要负责元数据管理、客户端连接管理、查询计划和查询调度。>3节点。BE:节点负责数据存储和SQL执行。>3节点。CN:无存储功能能的BE。环境准备CPU检查JDK...

在CentOS上添加swap虚拟内存并设置优先级

现如今很多云服务器都会自己配置好虚拟内存,当然也有很多没有配置虚拟内存的,虚拟内存可以让我们的低配服务器使用更多的内存,可以减少很多硬件成本,比如我们运行很多服务的时候,内存常常会满,当配置了虚拟内存...

国产深度(deepin)操作系统优化指南

1.升级内核随着deepin版本的更新,会自动升级系统内核,但是我们依旧可以通过命令行手动升级内核,以获取更好的性能和更多的硬件支持。具体操作:-添加PPAs使用以下命令添加PPAs:```...

postgresql-15.4 多节点主从(读写分离)

1、下载软件[root@TX-CN-PostgreSQL01-252software]#wgethttps://ftp.postgresql.org/pub/source/v15.4/postg...

Docker 容器 Java 服务内存与 GC 优化实施方案

一、设置Docker容器内存限制(生产环境建议)1.查看宿主机可用内存bashfree-h#示例输出(假设宿主机剩余16GB可用内存)#Mem:64G...

虚拟内存设置、解决linux内存不够问题

虚拟内存设置(解决linux内存不够情况)背景介绍  Memory指机器物理内存,读写速度低于CPU一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存...

Elasticsearch性能调优(5):服务器配置选择

在选择elasticsearch服务器时,要尽可能地选择与当前业务量相匹配的服务器。如果服务器配置太低,则意味着需要更多的节点来满足需求,一个集群的节点太多时会增加集群管理的成本。如果服务器配置太高,...

Es如何落地

一、配置准备节点类型CPU内存硬盘网络机器数操作系统data节点16C64G2000G本地SSD所有es同一可用区3(ecs)Centos7master节点2C8G200G云SSD所有es同一可用区...

针对Linux内存管理知识学习总结

现在的服务器大部分都是运行在Linux上面的,所以,作为一个程序员有必要简单地了解一下系统是如何运行的。对于内存部分需要知道:地址映射内存管理的方式缺页异常先来看一些基本的知识,在进程看来,内存分为内...

MySQL进阶之性能优化

概述MySQL的性能优化,包括了服务器硬件优化、操作系统的优化、MySQL数据库配置优化、数据库表设计的优化、SQL语句优化等5个方面的优化。在进行优化之前,需要先掌握性能分析的思路和方法,找出问题,...

Linux Cgroups(Control Groups)原理

LinuxCgroups(ControlGroups)是内核提供的资源分配、限制和监控机制,通过层级化进程分组实现资源的精细化控制。以下从核心原理、操作示例和版本演进三方面详细分析:一、核心原理与...

linux 常用性能优化参数及理解

1.优化内核相关参数配置文件/etc/sysctl.conf配置方法直接将参数添加进文件每条一行.sysctl-a可以查看默认配置sysctl-p执行并检测是否有错误例如设置错了参数:[roo...

如何在 Linux 中使用 Sysctl 命令?

sysctl是一个用于配置和查询Linux内核参数的命令行工具。它通过与/proc/sys虚拟文件系统交互,允许用户在运行时动态修改内核参数。这些参数控制着系统的各种行为,包括网络设置、文件...

取消回复欢迎 发表评论: