Redis
2021-04-12 15:32:38 60 举报AI智能生成
登录查看完整内容
Redis是一个开源的内存数据结构存储系统，通常用作数据库、缓存和消息代理。它支持多种数据结构，如字符串、哈希表、列表、集合和有序集合等。Redis具有高性能、高并发和低延迟的特点，适用于各种应用场景，如实时数据处理、分布式锁、计数器等。Redis采用键值对的形式存储数据，支持丰富的操作命令，如设置、获取、删除、更新等。此外，Redis还提供了持久化功能，可以将内存中的数据定期保存到磁盘上，以防止数据丢失。总之，Redis是一个功能强大且灵活的内存数据库，广泛应用于各种软件开发项目中。
作者其他创作
大纲/内容
Redis
Redis简介
Memcache和Redis的区别
Memcache：代码层次类似hash
支持简单数据类型
不支持数据持久化存储
不支持主从
不支持分片
数据类型丰富
支持数据磁盘持久化存储
支持主从
支持分片
为什么Redis能这么快？
100000+QPS（官方数据）
完全基于内存，绝大部分请求是纯粹的内存操作，执行效率高
数据结构简单，对数据操作也简单
采用单线程，单线程也能处理高并发请求，想多核也可启动多实例
使用多路I/O复用模型，非阻塞IO
多路I/O复用模型
一个打开的文件通过唯一的描述符进行引用，该描述符是打开文件的元数据到文件本身的映射
Select系统调用
Redis采用的I/O多路复用函数
epoll
kqueue
evport
select
具体是用哪个函数？
因地制宜
优先选择时间复杂度为O(1)的I/O多路复用函数作为底层实现
以时间复杂度为O(n)的select作为保底
基于React设计模式监听I/O事件
Redis常用数据类型
String
最基本的数据类型，二进制安全
Hash
String元素组成的字典，适合存储对象
List
列表，按照String元素插入顺序排序
Set
String元素组成的无序集合，通过哈希表实现，不允许重复
Sorted Set
通过分数来为集合中的成员进行从小到大的排序
用于计数的HyperLogLog
用于支持存储地理位置信息的Geo
底层数据类型基础
1.简单动态字符串
2.链表
3.字典
4.跳跃表
5.整数集合
6.压缩列表
7.对象
从海量Key里查询出某一固定前缀的Key
留意细节
摸清数据规模，即问清楚边界
使用keys对线上的业务的影响
KEYS pattern：查找所有符合给定模式pattern的key
KEYS指令一次性返回所有匹配的key
键的数量过大会使服务卡顿
SCAN指令
SCAN cursor [MATCH pattern]{COUNT count}
基于游标的迭代器，需要基于上一次的游标延续之前的迭代过程
以0作为游标开始一次新的迭代，知道命令返回游标0完成一次遍历
不保证每次执行都返回某个给定数量的元素，支持模糊查询
一次返回的数量不可控，只能是大概率符合count参数
返回的数据可能会有重复的问题，自己写的程序要注意去重
如何通过Redis实现分布式锁
分布式锁需要解决的问题
互斥性
安全性
死锁
容错
如何通过Redis实现
SETNX key value：如果key不存在。则创建并复制
时间复杂度：O(1)
返回值：设置成功，返回1；设置失败，返回0
如何解决SETNX长期有效的问题
EXPIRE key seconds
设置key的生存时间，当key过期时(生存时间为0)，会被自动删除
缺点：原子性得不到满足
能不能解决呢？
SET key value [EX seconds] [PX milliseconds] [NX|XX]
EX second:设置键的过期时间为second秒
PX millisecond:设置键的过期时间为millisecond毫秒
NX:只在键不存在时，才对键进行设置操作
XX:只在键已经存在时，才对键进行设置操作
SET操作成功完成时，返回OK，否则返回nil
大量key同时过期的注意事项
集中过期，由于清楚大量的key很好使，会出现短暂的卡顿现象
解放方案：在设置key的过期时间的时候，给每个key加上随机值
如何使用Redis做异步队列
使用List作为队列，RPUSH生产消息，LPOP消费消息
缺点：没有等待队列里有值就直接消费
弥补：可以通过在应用层引入Sleep机制去调用LPOP重试
BLPOP key [key...] timeout:阻塞直到队列有消息或超时
缺点：只能供一个消费者消费
pub/sub：主体订阅者模式
发送者(pub)发送消息，订阅者（sub）接收消息
订阅者可以订阅任意数量的频道
缺点
消息的发布是无状态的，无法保证可达
持久化方式之RDB
RDB(快照)持久化：保存某个时间点的全量数据快照
配置信息
save 900 1
900s写入一次触发一次
save 300 10
300秒写入10次触发一次
save 60 10000
60秒写入10000次触发一次
stop-writes-on-bgsave-error yes
当备份进程出错的时候，主进程停止写入操作
rdbcompression no
rdb文件压缩开关，建议关闭，redis属于cpu密集型，开启会影响redis性能
save ""
禁用rdb配置
SAVE:阻塞Redis的服务器进程，直到RDB文件被创建完毕
BGSAVE:Fork出一个子进程来创建RDB文件，不阻塞服务器进程
lastsave：查询上次备份的 时间戳
自动化触发RDB持久化的方式
根据 redis.conf配置里的SAVE m n 定时触发(用的是BGSAVE)
主从复制时，主节点自动触发
执行Debug Reload
执行Shutdown且没有开启AOF持久化
BGSAVE原理
分支主题
系统调用fork（）：创建进程，实现了Copy-on-write
Copy-on-Write
如果有多个调用者同时要求相同资源(如内存或磁盘上的数据存储)，他们会共同获取相同的指针指向相同的资源，直到某个调用者试图修改资源的内容时，系统才会真正复制一份专用副本给该调用者，而其他调用者所见到的最初的资源仍然保持不变
内存数据的全量同步，数据量大会由于I/O而严重影响性能
可能会因为Redis挂掉而丢失从当前至最近一次快照期间的数据
持久化之AOF
AOF(Append-Only-File)持久化:保存写状态
记录下除了查询以外的所有变更数据库状态的指令
以append的形式追加保存到AOF文件中(增量)
默认是关闭的
appendonly yes
控制aof开关
appendfilename "appendonly.aof"
aof文件名
appendsync always/eyerysec/no
always
一旦缓冲区的内容发生变化就执行一次
everysec
将缓冲区内容每隔一秒执行一次
默认
no
将缓冲区内容备份交由操作系统管理，一般是缓冲区被写满时进行备份
日志重写解决AOF文件大小不断增大的问题
原理
子进程把新的AOF写到一个临时文件里，不依赖原来的AOF文件
主进程持续将新的变动同时写到内存和原来的AOF里
主进程获取子进程重写AOF的完成信号，往新AOF同步增量变动
使用新的AOF文件替换掉旧的AOF文件
Redis数据的恢复
RDB和AOF文件共存情况下的恢复流程
RDB和AOF的优缺点
RDB
RDB优点:全量数据快照，文件小，恢复快
RDB缺点:无法保存最近一次快照之后的数据
AOF
AOF优点:可读性高，适合保存增量数据，数据不易丢失
AOF缺点：文件体积大，恢复时间长
RDB-AOF混合持久化方式
Redis3.0提供的默认方式
BGSAVE做镜像全量持久化，AOF做增量持久化
使用Pipeline的好处
Pipeline和linux管道类似
Redis基于请求/响应模型，单个请求处理需要一一应答
Pipline批量执行指令，节省多次IO往返的时间
有顺序依赖的指令建议分批发送
Redis的同步机制
主从同步原理
全同步过程
Salve发送sync命令到Master
Master启动一个后台进程，将Redis中的数据快照保存到文件中
Master将保存数据快照期间接收到的写命令缓存起来
Master完成写文件操作后，将文件发送给salve
Master将这期间收集的增量写命令发送给salve端
增量同步过程
Master接收到用户的操作指令，判断是否需要传播到slave
将操作记录追加到aof文件
将操作传播到其他slave
1:对齐主从库
2.响应缓存写入命令
将缓存中的数据发送给slave
Redis Sentinel
解决主从同步Master宕机后的主从切换问题
监控:检查主从服务器是否运行正常
提醒:通过API向管理员或者其他应用程序发送故障通知
自动故障迁移:主从切换
流言协议Gossip
在杂乱无章中寻求一致
每个节点都随机地与对方通信，最终所有节点的状态达成一致
种子节点定期随机向其他节点发送节点列表以及需要传播的消息
不保证信息一定会传递给所有节点，但是最终会趋于一致
Redis集群（redis cluser）原理
如何从海量数据里快速找到所需？
分片：按照某种规则去划分数据，分散存储在多个节点上
常规的按照哈希划分无法事先节点的动态增减
一致性哈希算法:对2^32取模。将哈希值空间组织成虚拟的圆环
将数据key使用相同的函数Hash计算出哈希值
新增服务器
Hash环的数据倾斜问题
引入虚拟节点解决数据倾斜问题
通常会设置32可能会更大
0 条评论
回复 删除
下一页
