Redis大量请求导致数据淘汰,不可用的线上问题复盘
nanshan 2025-05-21 15:24 10 浏览 0 评论
问题:凌晨3点,程序员老王被刺耳的报警声惊醒。监控大屏显示:Redis内存爆表、缓存命中率雪崩、订单服务集体躺平!!!
解决方式:紧急定位相关变更,回退相关操作,问题恢复,复盘分析解决!
根本原因:有大量的慢查询请求,打到redis服务,触发了驱逐策略,希望各位小伙伴少踩坑!!!引以为戒!!!
问题链: 大量慢查询->缓冲区打满->内存达到上限->触发驱逐->未开启持久化大导致数据丢失
以下是详细分析介绍:
一、解剖Redis的"消化系统":缓冲区与内存管理的黑暗森林法则
1.客户端输出缓冲区:你以为的"快递柜",其实是"黑洞"
Redis处理客户端请求的核心流程:
客户端请求 → 输入缓冲区解析 → 命令执行 → 输出缓冲区排队 → 网络传输
致命细节:
- 输出缓冲区三巨头:
- 普通客户端:处理常规请求(默认硬限制1GB,软限制256MB/60秒)-此处未限制大小!
- 发布订阅客户端:实时消息投递(默认无限制!)
- 复制客户端:主从同步数据流(默认无限制!)
- 底层数据结构:使用链表(linkedlist)存储响应数据,每个节点存储16KB数据块
// Redis源码片段(networking.c)
typedef struct client {
list *reply; // 输出缓冲区链表
unsigned long reply_bytes; // 当前缓冲区总大小
} client;
暴走原理:
当生产者(Redis)速度 > 消费者(网络传输)速度时,链表无限增长。想象在双11用吸管喝珍珠奶茶——珍珠(数据)疯狂堆积直到杯子(内存)爆炸!
2.内存淘汰策略:你以为的"智能清理",其实是"玄学抽卡"
LRU算法真相:
Redis的LRU并非传统链表实现,而是基于采样的近似LRU:
- 每次淘汰时随机选取5个(可配置)候选键
- 在这5个键中选择最久未使用的淘汰
# 修改采样数量(redis.conf)
maxmemory-samples 10
数学证明:
当采样数为N时,命中理想LRU的概率为:
P = 1 - ( (N-1)/N )^M
(M为当前内存中键数量)
当M=100万,N=5时,P≈67% —— 超过30%的概率误杀热键!
3.持久化的量子纠缠:RDB与AOF的"猫鼠游戏"
RDB的致命温柔:
- COW(Copy-On-Write)陷阱:
- fork() → 创建子进程 → 子进程遍历内存写RDB → 父进程持续处理请求
- 当内存达10GB时,fork耗时可能超过1秒!在此期间所有写操作触发页复制,导致内存双倍膨胀!
AOF的死亡螺旋:
- fsync策略对比:
- 策略同步频率数据安全性能宕机丢数据always每条命令刷盘最高最差0everysec每秒批量刷盘高中等≤1秒no交给操作系统低最高任意量
- 当使用appendfsync no时,Linux默认30秒刷盘——足够让老板心跳停止300次!
RDB和AOP对比
二、内核级解密:操作系统如何给Redis"挖坑"
1.Overcommit的黑暗魔法
Linux内存分配策略:
# 查看当前策略
cat /proc/sys/vm/overcommit_memory
- 0(启发式overcommit):
允许分配CommitLimit = Swap + RAM * overcommit_ratio%
(默认50%,即8GB内存+8GB swap时允许分配12GB) - 2(禁止overcommit):
只能分配Swap + RAM * overcommit_ratio%
Redis的死亡场景:
当使用RDB持久化且overcommit_memory=2时:
fork()需要创建虚拟内存映射 → 申请内存被拒绝 → BGSAVE失败 → 数据无法落盘!
2.Transparent Huge Pages(THP)的温柔一刀
THP的罪与罚:
- 原理:自动将小页(4KB)合并为大页(2MB)
- 对Redis的影响:
- fork时延迟增加300%
- 内存碎片率飙升
# 禁用THP(必须写入rc.local)
echo never > /sys/kernel/mm/transparent_hugepage/enabled
三、从硅基到碳基:人类可理解的解决方案
1.缓冲区防御矩阵(来自Redis源码的启示)
动态调控算法:
Redis实际使用令牌桶算法控制缓冲区:
- 每次写入前检查:
- if (当前缓冲区大小 > 硬限制) → 立即断开连接 elif (当前缓冲区大小 > 软限制 && 持续时间 > 软限制时间) → 断开连接
最佳配置公式:
client-output-buffer-limit <type> <hard> <soft> <soft_seconds>
# 示例:普通客户端256MB硬限制,60秒内持续超过128MB则断开
client-output-buffer-limit normal 256mb 128mb 60
数学推导:
假设客户端最大网络带宽为B(MB/s),则:
hard_limit ≥ B * soft_seconds + initial_buffer
2.内存淘汰的"三体法则"
策略选择决策树:
是否所有数据都可丢失?
├─ 是 → allkeys-lru
└─ 否 → 是否有过期时间设置?
├─ 是 → volatile-lfu
└─ 否 → 混合存储(热数据永不过期+冷数据设置TTL)
LFU算法深度优化:
# 调整LFU衰减因子(默认1)
config set lfu-decay-time 30
- 衰减公式:
- 新频率 = 旧频率 * exp(-衰减时间/半衰期)
- 半衰期越长,历史权重越高
3.持久化的时空穿越术
混合持久化的魔法配方:
# 开启混合模式(Redis 4.0+)
aof-use-rdb-preamble yes
文件结构:
[RDB二进制数据] + [AOF增量命令]
恢复过程对比:
模式 | 10GB数据恢复时间 | 数据完整性 |
纯RDB | 2分钟 | 丢失最后5分钟数据 |
纯AOF | 30分钟 | 最多丢1秒数据 |
混合模式 | 3分钟 | 最多丢1秒数据 |
四、思想的圣殿:分布式系统的熵增哲学
1.CAP定理的Redis变种
在Redis的世界里:
C(一致性)
/ \
/ \
/ \
A(可用性)—— P(分区容忍性)
Redis的选择:
- 主从异步复制 → 放弃强一致性(C)
- 哨兵自动故障转移 → 优先可用性(A)
- 网络分区时 → 可能出现脑裂(牺牲C保AP)
2.墨菲定律的运维启示
Redis死亡四重奏:
未限制缓冲区 + 危险淘汰策略 + 关闭持久化 + 单点部署 = 定时核弹
幸存者公式:
系统存活概率 = 1 - (配置错误概率 × 监控盲区概率 × 告警响应时间)
五、给勇敢者的挑战:Redis内核魔改指南
1.自定义内存驱逐策略
// 示例:优先驱逐大value(需修改redis源码)
int compareKeys(void *privdata, const void *k1, const void *k2) {
size_t size1 = getKeySize(k1);
size_t size2 = getKeySize(k2);
return size2 - size1; // 按value大小降序
}
2.基于AI的预测驱逐
使用LSTM神经网络预测访问模式:
实时监控 → 训练预测模型 → 标记冷热数据 → 动态调整淘汰策略
(注:可能需要把Redis改造成Terminator)
六、终极灵魂拷问
- 当Redis的maxmemory设置为0时,Linux的OOM Killer会如何"优雅"地杀死Redis?
(提示:参考/proc/<pid>/oom_score_adj) - 为什么在Kubernetes中,Redis的used_memory可能比maxmemory还大?
(答案与cgroup的内存统计有关) - 如果同时设置maxmemory 0和client-output-buffer-limit 0 0 0,你的服务器多久会变成砖头?
(欢迎在评论区晒出你的测试结果)
记住:技术没有银弹,但配置错误绝对是木乃伊的诅咒! 现在,是时候用INFO MEMORY命令检查你的Redis了——除非你想体验数据在内存中跳楼的感觉!
相关推荐
- 服务器数据恢复—Raid5数据灾难不用愁,Raid5数据恢复原理了解下
-
Raid5数据恢复算法原理:分布式奇偶校验的独立磁盘结构(被称之为raid5)的数据恢复有一个“奇偶校验”的概念。可以简单的理解为二进制运算中的“异或运算”,通常使用的标识是xor。运算规则:若二者值...
- 服务器数据恢复—多次异常断电导致服务器raid不可用的数据恢复
-
服务器数据恢复环境&故障:由于机房多次断电导致一台服务器中raid阵列信息丢失。该阵列中存放的是文档,上层安装的是Windowsserver操作系统,没有配置ups。因为服务器异常断电重启后,rai...
- 服务器数据恢复-V7000存储更换磁盘数据同步失败的数据恢复案例
-
服务器数据恢复环境:P740+AIX+Sybase+V7000存储,存储阵列柜上共12块SAS机械硬盘(其中一块为热备盘)。服务器故障:存储阵列柜中有磁盘出现故障,工作人员发现后更换磁盘,新更换的磁盘...
- 「服务器数据恢复」重装系统导致XFS文件系统分区丢失的数据恢复
-
服务器数据恢复环境:DellPowerVault系列磁盘柜;用RAID卡创建的一组RAID5;分配一个LUN。服务器故障:在Linux系统层面对LUN进行分区,划分sdc1和sdc2两个分区。将sd...
- 服务器数据恢复-ESXi虚拟机被误删的数据恢复案例
-
服务器数据恢复环境:一台服务器安装的ESXi虚拟化系统,该虚拟化系统连接了多个LUN,其中一个LUN上运行了数台虚拟机,虚拟机安装WindowsServer操作系统。服务器故障&分析:管理员因误操作...
- 「服务器数据恢复」Raid5阵列两块硬盘亮黄灯掉线的数据恢复案例
-
服务器数据恢复环境:HPStorageWorks某型号存储;虚拟化平台为vmwareexsi;10块磁盘组成raid5(有1块热备盘)。服务器故障:raid5阵列中两块硬盘指示灯变黄掉线,无法读取...
- 服务器数据恢复—基于oracle数据库的SAP数据恢复案例
-
服务器存储数据恢复环境:某品牌服务器存储中有一组由6块SAS硬盘组建的RAID5阵列,其中有1块硬盘作为热备盘使用。上层划分若干lun,存放Oracle数据库数据。服务器存储故障&分析:该RAID5阵...
- 「服务器虚拟化数据恢复」Xen Server环境下数据库数据恢复案例
-
服务器虚拟化数据恢复环境:Dell某型号服务器;数块STAT硬盘通过raid卡组建的RAID10;XenServer服务器虚拟化系统;故障虚拟机操作系统:WindowsServer,部署Web服务...
- 服务器数据恢复—RAID故障导致oracle无法启动的数据恢复案例
-
服务器数据恢复环境:某品牌服务器中有一组由4块SAS磁盘做的RAID5磁盘阵列。该服务器操作系统为windowsserver,运行了一个单节点Oracle,数据存储为文件系统,无归档。该oracle...
- 服务器数据恢复—服务器磁盘阵列常见故障表现&解决方案
-
RAID(磁盘阵列)是一种将多块物理硬盘整合成一个虚拟存储的技术,raid模块相当于一个存储管理的中间层,上层接收并执行操作系统及文件系统的数据读写指令,下层管理数据在各个物理硬盘上的存储及读写。相对...
- 「服务器数据恢复」IBM某型号服务器RAID5磁盘阵列数据恢复案例
-
服务器数据恢复环境:IBM某型号服务器;5块SAS硬盘组成RAID5磁盘阵列;存储划分为1个LUN和3个分区:第一个分区存放windowsserver系统,第二个分区存放SQLServer数据库,...
- 服务器数据恢复—Zfs文件系统下误删除文件如何恢复数据?
-
服务器故障:一台zfs文件系统服务器,管理员误操作删除服务器上的数据。服务器数据恢复过程:1、将故障服务器所有磁盘编号后取出,硬件工程师检测所有硬盘后没有发现有磁盘存在硬件故障。以只读方式将全部磁盘做...
- 服务器数据恢复—Linux+raid5服务器数据恢复案例
-
服务器数据恢复环境:某品牌linux操作系统服务器,服务器中有4块SAS接口硬盘组建一组raid5阵列。服务器中存放的数据有数据库、办公文档、代码文件等。服务器故障&检测:服务器在运行过程中突然瘫痪,...
- 服务器数据恢复—Sql Server数据库数据恢复案例
-
服务器数据恢复环境:一台安装windowsserver操作系统的服务器。一组由8块硬盘组建的RAID5,划分LUN供这台服务器使用。在windows服务器内装有SqlServer数据库。存储空间LU...
- 服务器数据恢复—阿里云ECS网站服务器数据恢复案例
-
云服务器数据恢复环境:阿里云ECS网站服务器,linux操作系统+mysql数据库。云服务器故障:在执行数据库版本更新测试时,在生产库误执行了本来应该在测试库执行的sql脚本,导致生产库部分表被tru...
你 发表评论:
欢迎- 一周热门
-
-
爱折腾的特斯拉车主必看!手把手教你TESLAMATE的备份和恢复
-
如何在安装前及安装后修改黑群晖的Mac地址和Sn系列号
-
[常用工具] OpenCV_contrib库在windows下编译使用指南
-
WindowsServer2022|配置NTP服务器的命令
-
Ubuntu系统Daphne + Nginx + supervisor部署Django项目
-
WIN11 安装配置 linux 子系统 Ubuntu 图形界面 桌面系统
-
解决Linux终端中“-bash: nano: command not found”问题
-
NBA 2K25虚拟内存不足/爆内存/内存占用100% 一文速解
-
Linux 中的文件描述符是什么?(linux 打开文件表 文件描述符)
-
K3s禁用Service Load Balancer,解决获取浏览器IP不正确问题
-
- 最近发表
-
- 服务器数据恢复—Raid5数据灾难不用愁,Raid5数据恢复原理了解下
- 服务器数据恢复—多次异常断电导致服务器raid不可用的数据恢复
- 服务器数据恢复-V7000存储更换磁盘数据同步失败的数据恢复案例
- 「服务器数据恢复」重装系统导致XFS文件系统分区丢失的数据恢复
- 服务器数据恢复-ESXi虚拟机被误删的数据恢复案例
- 「服务器数据恢复」Raid5阵列两块硬盘亮黄灯掉线的数据恢复案例
- 服务器数据恢复—基于oracle数据库的SAP数据恢复案例
- 「服务器虚拟化数据恢复」Xen Server环境下数据库数据恢复案例
- 服务器数据恢复—RAID故障导致oracle无法启动的数据恢复案例
- 服务器数据恢复—服务器磁盘阵列常见故障表现&解决方案
- 标签列表
-
- linux 查询端口号 (58)
- docker映射容器目录到宿主机 (66)
- 杀端口 (60)
- yum更换阿里源 (62)
- internet explorer 增强的安全配置已启用 (65)
- linux自动挂载 (56)
- 禁用selinux (55)
- sysv-rc-conf (69)
- ubuntu防火墙状态查看 (64)
- windows server 2022激活密钥 (56)
- 无法与服务器建立安全连接是什么意思 (74)
- 443/80端口被占用怎么解决 (56)
- ping无法访问目标主机怎么解决 (58)
- fdatasync (59)
- 405 not allowed (56)
- 免备案虚拟主机zxhost (55)
- linux根据pid查看进程 (60)
- dhcp工具 (62)
- mysql 1045 (57)
- 宝塔远程工具 (56)
- ssh服务器拒绝了密码 请再试一次 (56)
- ubuntu卸载docker (56)
- linux查看nginx状态 (63)
- tomcat 乱码 (76)
- 2008r2激活序列号 (65)