redis持久化详解

Redis 是一个开源 BSD 许可的内存中的数据结构存储系统它可以用作数据库、缓存和消息中间件。它支持的数据类型很丰富如字符串、链表、集 合、以及散列等并且还支持多种排序功能。什么叫持久化用一句话可以将持久化概括为将数据如内存中的对象保存到可永久保存的存储设备中。持久化的主要应用是将内存中的对象存储在数据库中或者存储在磁盘文件中、 XML 数据文件中等等。从应用层与系统层理解持久化同时也可以从应用层和系统层这两个层面来理解持久化应用层如果关闭(Close)你的应用然后重新启动则先前的数据依然存在。系统层如果关闭(Shutdown)你的系统电脑然后重新启动则先前的数据依然存在。Redis 为什么要持久化Redis 中的数据类型都支持 push/pop、add/remove 及取交集并集和差集及更丰富的操作而且这些操作都是原子性的。在此基础上Redis 支持各种不同方式的排序。与 Memcached 一样为了保证效率数据都是缓存在内存中。对数据都是缓存在内存中的当你重启系统或者关闭系统后缓存在内存中的数据都会消失殆尽再也找不回来了。所以为了让数据能够长期保存就要将 Redis 放在缓存中的数据做持久化存储。Redis 怎么实现持久化在设计之初Redis 就已经考虑到了这个问题。官方提供了多种不同级别的数据持久化的方式1、RDB持久化方式能够在指定的时间间隔能对你的数据进行快照存储。2、AOF持久化方式记录每次对服务器写的操作,当服务器重启的时候会重新执行这些命令来恢复原始的数据,AOF命令以redis协议追加保存每次写的操作到文件末尾.Redis还能对AOF文件进行后台重写,使得AOF文件的体积不至于过大。3、如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化方式。4、你也可以同时开启两种持久化方式, 在这种情况下, 当redis重启的时候会优先载入AOF文件来恢复原始的数据,因为在通常情况下AOF文件保存的数据集要比RDB文件保存的数据集要完整。如果你不知道该选择哪一个级别的持久化方式那我们就先来了解一下 AOF 方式和 RDB 方式有什么样的区别并且它们各自有何优劣学习完之后再来考虑该选择哪一种级别。RDB 方式与 AOF 方式的优势对比首先我们来看一看官方对于两种方式的优点描述并做个对比然后再看一看两种方式的缺点描述。RDB 方式的优点RDB 是一个非常紧凑的文件,它保存了某个时间点的数据集,非常适用于数据集的备份,比如你可以在每个小时报保存一下过去24小时内的数据,同时每天保存过去30天的数据,这样即使出了问题你也可以根据需求恢复到不同版本的数据集。RDB 是一个紧凑的单一文件,很方便传送到另一个远端数据中心非常适用于灾难恢复。RDB 在保存 RDB 文件时父进程唯一需要做的就是 fork 出一个子进程,接下来的工作全部由子进程来做父进程不需要再做其他 IO 操作所以 RDB 持久化方式可以最大化 Redis 的性能。与AOF相比,在恢复大的数据集的时候RDB 方式会更快一些。当 Redis 需要保存dump.rdb文件时 服务器执行以下操作:Redis 调用forks. 同时拥有父进程和子进程。子进程将数据集写入到一个临时 RDB 文件中。当子进程完成对新 RDB 文件的写入时Redis 用新 RDB 文件替换原来的 RDB 文件并删除旧的 RDB 文件。这种工作方式使得 Redis 可以从写时复制copy-on-write机制中获益。AOF 方式的优点使用AOF 会让你的Redis更加耐久:你可以使用不同的 fsync 策略无 fsync、每秒 fsync 、每次写的时候 fsync .使用默认的每秒 fsync 策略, Redis 的性能依然很好( fsync 是由后台线程进行处理的,主线程会尽力处理客户端请求),一旦出现故障你最多丢失1秒的数据。AOF文件是一个只进行追加的日志文件,所以不需要写入seek,即使由于某些原因(磁盘空间已满写的过程中宕机等等)未执行完整的写入命令,你也也可使用redis-check-aof工具修复这些问题。Redis 可以在 AOF 文件体积变得过大时自动地在后台对 AOF 进行重写 重写后的新 AOF 文件包含了恢复当前数据集所需的最小命令集合。 整个重写操作是绝对安全的因为 Redis 在创建新 AOF 文件的过程中会继续将命令追加到现有的 AOF 文件里面即使重写过程中发生停机现有的 AOF 文件也不会丢失。 而一旦新 AOF 文件创建完毕Redis 就会从旧 AOF 文件切换到新 AOF 文件并开始对新 AOF 文件进行追加操作。AOF 文件有序地保存了对数据库执行的所有写入操作 这些写入操作以 Redis 协议的格式保存 因此 AOF 文件的内容非常容易被人读懂 对文件进行分析parse也很轻松。 导出export AOF 文件也非常简单 举个例子 如果你不小心执行了 FLUSHALL 命令 但只要 AOF 文件未被重写 那么只要停止服务器 移除 AOF 文件末尾的 FLUSHALL 命令 并重启 Redis 就可以将数据集恢复到 FLUSHALL 执行之前的状态。优点对比总结RDB 方式可以保存过去一段时间内的数据并且保存结果是一个单一的文件可以将文件备份到其他服务器并且在回复大量数据的时候RDB 方式的速度会比 AOF 方式的回复速度要快。AOF 方式默认每秒钟备份1次频率很高它的操作方式是以追加的方式记录日志而不是数据并且它的重写过程是按顺序进行追加所以它的文件内容非常容易读懂。可以在某些需要的时候打开 AOF 文件对其编辑增加或删除某些记录最后再执行恢复操作。RDB 方式与 AOF 方式的缺点对比RDB 方式的缺点如果你希望在 Redis 意外停止工作例如电源中断的情况下丢失的数据最少的话那么 RDB 不适合你.虽然你可以配置不同的save时间点(例如每隔 5 分钟并且对数据集有 100 个写的操作),是 Redis 要完整的保存整个数据集是一个比较繁重的工作,你通常会每隔5分钟或者更久做一次完整的保存,万一在 Redis 意外宕机,你可能会丢失几分钟的数据。RDB 需要经常 fork 子进程来保存数据集到硬盘上,当数据集比较大的时候, fork 的过程是非常耗时的,可能会导致 Redis 在一些毫秒级内不能响应客户端的请求。如果数据集巨大并且 CPU 性能不是很好的情况下,这种情况会持续1秒, AOF 也需要 fork ,但是你可以调节重写日志文件的频率来提高数据集的耐久度。AOF 方式的缺点对于相同的数据集来说AOF 文件的体积通常要大于 RDB 文件的体积。根据所使用的 fsync 策略AOF 的速度可能会慢于 RDB 。 在一般情况下 每秒 fsync 的性能依然非常高 而关闭 fsync 可以让 AOF 的速度和 RDB 一样快 即使在高负荷之下也是如此。 不过在处理巨大的写入载入时RDB 可以提供更有保证的最大延迟时间latency。缺点对比总结RDB 由于备份频率不高所以在回复数据的时候有可能丢失一小段时间的数据而且在数据集比较大的时候有可能对毫秒级的请求产生影响。AOF 的文件提及比较大而且由于保存频率很高所以整体的速度会比 RDB 慢一些但是性能依旧很高。工作原理AOF 重写和 RDB 创建快照一样都巧妙地利用了写时复制机制:Redis 执行 fork() 现在同时拥有父进程和子进程。子进程开始将新 AOF 文件的内容写入到临时文件。对于所有新执行的写入命令父进程一边将它们累积到一个内存缓存中一边将这些改动追加到现有 AOF 文件的末尾,这样样即使在重写的中途发生停机现有的 AOF 文件也还是安全的。当子进程完成重写工作时它给父进程发送一个信号父进程在接收到信号之后将内存缓存中的所有数据追加到新 AOF 文件的末尾。现在 Redis 原子地用新文件替换旧文件之后所有命令都会直接追加到新 AOF 文件的末尾。付诸实践RDB 与 AOF 的实现RDB 方式持久化的开启与配置Redis 默认的持久化方式是 RDB 并且默认是打开的。RDB 的保存有方式分为主动保存与被动保存。主动保存可以在 redis-cli 中输入save即可被动保存需要满足配置文件中设定的触发条件目前官方默认的触发条件可以在redis.conf中看到save 900 1save 300 10save 60 10000复制代码其含义为服务器在900秒之内对数据库进行了至少1次修改服务器在300秒之内对数据库进行了至少10次修改。服务器在60秒之内对数据库进行了至少10000次修改。复制代码满足触发条件后数据就会被保存为快照正是因为这样才说 RDB 的数据完整性是比不上 AOF 的。触发保存条件后会在指定的目录生成一个名为dump.rdb的文件等到下一次启动 Redis 时Redis 会去读取该目录下的dump.rdb文件将里面的数据恢复到 Redis。这个目录在哪里呢我们可以在客户端中输入命令config get dir查看gannicus$ src/redis-cli127.0.0.1:6379 config get dir1) dir2) /home/gannicus/Documents/redis-5.0.0127.0.0.1:6379复制代码返回结果中的/home/gannicus/Documents/redis-5.0.0就是存放dump.rdb的目录。Redis 版本说明在测试之前说明一下前提。redis是直接从官网下载的压缩包解压后得到的redis-x.x.x文件夹比如我的是redis-5.0.0然后进入文件夹在redis-5.0.0项目根目录使用make命令安装。RDB 被动触发保存测试刚才提到它分为主动保存与被动触发现在我们来测试一下被动触发。首先启动redis-server然后再打开客户端redis-cli先增添几条记录127.0.0.1:6379 set lca 1OK127.0.0.1:6379 set lcb 1OK127.0.0.1:6379 set lcc 1OK127.0.0.1:6379 set lcd 1OK127.0.0.1:6379 set lce 1OK127.0.0.1:6379 set lcf 1OK127.0.0.1:6379 set lcg 1OK127.0.0.1:6379 set lch 1OK127.0.0.1:6379 set lci 1OK127.0.0.1:6379 set lcj 1OK127.0.0.1:6379 set lck 1OK127.0.0.1:6379 set lcl 1OK127.0.0.1:6379 set lcm 1OK复制代码可以看到总共添加了 13 条记录127.0.0.1:6379 keys *1) lca2) lcd3) lcg4) lce5) lcb6) lcm7) lcf8) lci9) lcl10) lcc11) lck12) lcj13) lch127.0.0.1:6379复制代码然后发现redis-server端的日志窗口中出现了如下的提示21971:M 21 Oct 2018 16:52:44.062 * 10 changes in 300 seconds. Saving...21971:M 21 Oct 2018 16:52:44.063 * Background saving started by pid 2255222552:C 21 Oct 2018 16:52:44.066 * DB saved on disk21971:M 21 Oct 2018 16:52:44.165 * Background saving terminated with success复制代码从英文提示中可以大概读懂这些内容它检测到 300 秒内有 10 条记录被改动刚才我们添加了 13 条数据记录满足redis.conf中对于 RDB 数据保存的条件所以这里执行数据保存操作并且提示开辟了一个 22552 的进程出来执行保存操作最后提示保存成功。并且在目录内看到有dump.rdb文件生成。现在将redis进程kill哪些数据会被保存通过命令kill -9 pid pid 是进程编号模拟 Redis 异常关闭然后再启动 Redis 我们来看一看到底是只保存了 10 条记录还是 13 条全都保存下来了127.0.0.1:6379 keys *1) lcb2) lcj3) lcd4) lch5) lci6) lcc7) lcf8) lce9) lca10) lcg127.0.0.1:6379复制代码重启后查看记录发现 13 条记录中只有 10 条记录会被保存这也印证了之前所说RDB 方式的数据完整性是不可靠的除非断掉的那一刻正好是满足触发条件的条数。关闭 RDB刚才提到了它是默认启用的如果你不需要它可以在配置文件中将这 3 个配置注释掉并新增save 即可save # save 900 1# save 300 10# save 60 10000复制代码保存配置文件后需要重新启动 Redis 服务才会生效然后继续添加十几条记录127.0.0.1:6379 keys *1) lcb...23) lca24) lcg127.0.0.1:6379复制代码在之前已有 10 条的基础上我再增加了 14 条记录这次同样要通过kill来模拟 Redis 异常关闭再启动服务看一看数据是否还被保存127.0.0.1:6379 keys *1) lcb2) lcj3) lcd4) lch5) lci6) lcc7) lcf8) lce9) lca10) lcg127.0.0.1:6379复制代码发现后面添加的 14 条记录并没有被保存恢复数据的时候仅仅只是恢复了之前的 10 条。并且观察 Redis 服务端窗口日志并未发现像之前一样的触发保存的提示证明 RDB 方式已经被关闭。RDB 主动保存测试通过配置文件关闭被动触发那么主动关闭是否还会生效呢在 Redis 客户端 redis-cli 通过del命令删除几条记录然后输入save命令执行保存操作127.0.0.1:6379 keys *1) lcc2) lch3) lcb4) lci5) lce6) lcj7) lcg8) lca9) lcd10) lcf127.0.0.1:6379 del lca lcb lcc(integer) 3127.0.0.1:6379 saveOK127.0.0.1:6379复制代码可以看到redis-server的日志有新的提示22598:M 21 Oct 2018 17:22:31.365 * DB saved on disk它告诉我们数据已经保存。那么继续模拟异常关闭再打开服务看一看是否真的保存了这些操作127.0.0.1:6379 keys *1) lci2) lcj3) lcd4) lcg5) lcf6) lce7) lch127.0.0.1:6379复制代码果不其然这几个删除操作都被保存了下来恢复过来的数据中已经没有那 3 条记录了证明主动关闭不受 配置文件的影响。除了save还有其他的保存方式么save 和 bgsave 保存有的Redis 提供了save和bgsave这两种不同的保存方式,并且这两个方式在执行的时候都会调用rdbSave函数但它们调用的方式各有不同save直接调用rdbSave方法 阻塞 Redis 主进程直到保存完成为止。在主进程阻塞期间服务器不能处理客户端的任何请求。bgsave则 fork 出一个子进程子进程负责调用rdbSave并在保存完成之后向主进程发送信号通知保存已完成。因为rdbSave在子进程被调用所以 Redis 服务器在bgsave执行期间仍然可以继续处理客户端的请求。save是同步操作bgsave是异步操作。bgsave命令的使用方法和save命令的使用方法是一样的127.0.0.1:6379 keys *1) lci2) lcj3) lcd4) lcg5) lcf6) lce7) lch127.0.0.1:6379 del lci lcj(integer) 2127.0.0.1:6379 bgsaveBackground saving started127.0.0.1:6379 keys *1) lcd2) lcg3) lcf4) lce5) lch127.0.0.1:6379复制代码shutdown 保存事实上shutdown命令也是可以保存数据的惊不惊喜。它会在关闭前将数据保存下来意不意外?127.0.0.1:6379 set app 1OK127.0.0.1:6379 set apps 1OK127.0.0.1:6379 keys *1) apps2) lcd3) lcg4) lcf5) app6) lce7) lch127.0.0.1:6379 shutdownnot connected quitgannicus$复制代码然后 Redis 服务就被关闭掉了。我们需要重新启动 Redis 服务到客户端中看一看是否生效gannicus$ src/redis-cli127.0.0.1:6379 keys *1) lce2) lcf3) lcd4) lch5) lcg复制代码竟然没有生效刺不刺激这是为什么呢明明官方文档之shutdown就说会保存了才退出的你骗人~注意到文档中有一句恍然大悟原来是要在持久化被打开的情况下通过shutdown命令关闭才不会丢失数据那么就到配置文件中将那几个save的配置项打开吧# save save 900 1save 300 10save 60 10000复制代码然后再开启 Redis 服务再尝试一遍过程为添加 - shutdown - 重启服务 - 查看127.0.0.1:6379 set app 1OK127.0.0.1:6379 set apps 1OK127.0.0.1:6379 shutdownnot connected quitgannicus$ src/redis-cli127.0.0.1:6379 keys *1) lce2) lch3) app4) lcf5) apps6) lcd7) lcg127.0.0.1:6379复制代码这下终于弄明白了。AOF 方式持久化的开启与配置开启 AOF默认是不开启 AOF 的如果想要启用则需要到redis.conf配置文件中开启打开redis.conf:$ vim redis.conf复制代码然后在文件中找到appendonly并将no改为yesappendonly yes复制代码即为开启了 AOF 方式的持久化。设置同步方式AOF 还有支持几种同步方式它们分别是appendfsync always # 每次有数据修改发生时都会写入AOF文件安全但是费时。appendfsync everysec # 每秒钟同步一次该策略为AOF的缺省策略。appendfsync no # 从不同步。高效但是数据不会被持久化。复制代码默认配置是everysec你可以根据需求进行调整这里我将配置改成alwaysappendfsync always# appendfsync everysec# appendfsync no复制代码自定义 AOF 记录文件的文件名Redis 设置有默认的文件名在配置中显示为appendfilename appendonly.aof复制代码你可以让其保持默认名字也可以指定其他的文件名比如appendfilename RNGLetme.aof复制代码将appendonly、appendfsync和appendfilename设置好并保存。重新启动 Redis 服务$./redis-server复制代码通过命令ls查看本地文件可以看到新生成了一个名为RNGLetme.aof的文件可以使用:$cat RNGLetme.aof复制代码来查看里面的内容由于当前未进行数据的改动所以是空白的。然后打开 Redis 的客户端$./redis-cli复制代码并且添加几条数据记录127.0.0.1:6379 set rng lplOK127.0.0.1:6379 set ig lplOK127.0.0.1:6379 set edg lplOK127.0.0.1:6379 keys *1) edg2) rng3) ig127.0.0.1:6379复制代码可以看到成功添加了rng、edg、ig这三条记录然后打开RNGLetme.aof文件看看里面的记录*2$6SELECT$10*3$3set$3rng$3lpl*3$3set$2ig$3lpl*3$3set$3edg$3lpl复制代码每一次的数据添加都被记录下来了。那如果是删除操作呢也会被记录下来么127.0.0.1:6379 del edg(integer) 1127.0.0.1:6379 keys *1) rng2) ig127.0.0.1:6379复制代码执行完删除操作后再看一看RNGLetme.aof文件中的记录*2$6SELECT$10*3$3set$3rng$3lpl*3$3set$2ig$3lpl*3$3set$3edg$3lpl*2$3del$3edg复制代码对比之前的记录新增了del edg的操作记录。这就印证了之前对 AOF 的描述以日志的方式将数据变动记录下来。AOF 恢复测试下面同样是通过kill命令模拟 Redis 异常关闭gannicus$ kill -9 22645复制代码然后再重新启动 Redis 服务$ src/redis-server redis.conf复制代码接着通过客户端看一看那些数据是否都在$ src/redis-cli127.0.0.1:6379 keys *1) ig2) rng复制代码可以看到rng和ig都还在意味着持久化是生效的。怎样从RDB方式切换为AOF方式在 Redis 2.2 或以上版本可以在不重启的情况下从 RDB 切换到 AOF 为最新的 dump.rdb 文件创建一个备份、将备份放到一个安全的地方。执行以下两条命令:redis-cli config set appendonly yesredis-cli config set save “”复制代码确保写命令会被正确地追加到 AOF 文件的末尾。 执行的第一条命令开启了 AOF 功能 Redis 会阻塞直到初始 AOF 文件创建完成为止 之后 Redis 会继续处理命令请求 并开始将写入命令追加到 AOF 文件末尾。执行的第二条命令用于关闭 RDB 功能。 这一步是可选的 如果你愿意的话 也可以同时使用 RDB 和 AOF 这两种持久化功能。重要别忘了在redis.conf中打开 AOF 功能否则服务器重启后之前通过CONFIG SET命令设置的配置就会被遗忘 程序会按原来的配置来启动服务器。优先选择 RDB 还是 AOF 呢分析对比两种方式并做了测试后发现这是两种不同风格的持久化方式那么应该如何选择呢对于企业级的中大型应用如果不想牺牲数据完整性但是又希望保持高效率那么你应该同时使用 RDB 和 AOF 两种方式如果你不打算耗费精力在这个地方只需要保证数据完整性那么优先考虑使用 AOF 方式RDB 方式非常适合大规模的数据恢复如果业务对数据完整性和一致性要求不高RDB是很好的选择。备份redis数据的建议确保你的数据有完整的备份磁盘故障、节点失效等问题问题可能让你的数据消失不见 不进行备份是非常危险的。Redis 对于数据备份是非常友好的 因为你可以在服务器运行的时候对 RDB 文件进行复制 RDB 文件一旦被创建 就不会进行任何修改。 当服务器要创建一个新的 RDB 文件时 它先将文件的内容保存在一个临时文件里面 当临时文件写入完毕时 程序才使用rename(2)原子地用临时文件替换原来的 RDB 文件。这也就是说无论何时复制 RDB 文件都是绝对安全的。创建一个定期任务 cron job 每小时将一个 RDB 文件备份到一个文件夹 并且每天将一个 RDB 文件备份到另一个文件夹。确保快照的备份都带有相应的日期和时间信息 每次执行定期任务脚本时 使用find命令来删除过期的快照 比如说 你可以保留最近 48 小时内的每小时快照 还可以保留最近一两个月的每日快照。至少每天一次 将 RDB 备份到你的数据中心之外 或者至少是备份到你运行 Redis 服务器的物理机器之外。Redis 密码持久化在 Redis 中数据需要持久化密码也要持久化。在客户端通过命令config set requirepass zxc9527复制代码可以为 Redis 设置值为zxc9527的密码但是当 Redis 关闭并重新启动后权限验证功能就会失效再也不需要密码。所以密码也需要在redis.conf中持久化。打开redis.conf找到requirepass配置项取消其注释并在后面设置密码requirepass zxc9527复制代码保存后重启 Redis 服务密码持久化即生效。