当前位置: 首页 > news >正文

[Redis][典型运用][缓存]详细讲解

目录

  • 0.什么是缓存?
  • 1.使用Redis作为缓存
    • 1.为什么用?
    • 2.如何用?
  • 2.缓存的更新策略
    • 0.前言
    • 1.定期生成
    • 2.实时生成
  • 3.缓存相关问题
    • 1.缓存预热(Cache Preheating)
    • 2.缓存穿透(Cache Penetration)
    • 3.缓存雪崩(Cache Avalanche)
    • 4.缓存击穿(Cache Breakdown)


0.什么是缓存?

  • 缓存核心思路:把⼀些常⽤的数据放到触⼿可及(访问速度更快)的地⽅,⽅便随时读取
  • 缓存是更快,但是空间上往往是不足的,因此大部分时候,缓存只放一些(热点数据)
  • 二八定律:20%的热点数据,能够应对80%的访问场景

1.使用Redis作为缓存

1.为什么用?

  • 关系型数据库虽然功能强⼤,但是有⼀个很⼤的缺陷:性能不⾼
    • 换⽽⾔之,进⾏⼀次查询操作消耗的系统资源较多
  • 为什么说关系型数据库性能不高?
    • 硬件层面
      • 数据库把数据存储在硬盘上,硬盘的IO速度并不快,尤其是随机访问
      • 如果查询不能命中索引,就需要进⾏表的遍历,这就会⼤⼤增加硬盘IO次数
    • 软件层面
      • 关系型数据库对于SQL的执⾏会做⼀系列的解析,校验,优化⼯作
      • 如果是⼀些复杂查询,⽐如联合查询,需要进⾏笛卡尔积操作,效率更是降低很多
  • 因此,如果访问数据库的并发量比较高,对于数据库的压力是很大的,很容易就会使数据库服务器宕机
  • 如何让数据库能够承担更大的并发量呢?
    • 开源:引入更多的机器,部署更多的数据库实例,构成数据库集群(主从复制,分库分表等)
    • 节流:引入缓存,使用其他的方式保存经常访问的热点数据,从而降低直接访问数据库的请求数量
    • 实际开发中,两种方案往往会搭配使用
  • Redis就是一个用来作为数据库缓存的常见方案
  • Redis访问速度比MySQL快很多,或者说处理同一个访问请求,Redis消耗的系统资源比MySQL少很多,因此Redis能支持的并发量更大
    • Redis数据在内存中,访问内存比硬盘快很多
    • Redis只是支持简单的key-value存储,不涉及复杂查询的那么多限制规则

2.如何用?

  • Redis像一个"护盾"一样,把MySQL给罩住了

    • 客户端访问业务服务器,发起查询请求
    • 业务服务器先查询Redis,看想要的数据是否在Redis中存在
      • 如果已经在Redis中存在了,就直接返回,此时不必访问MySQL了
      • 如果在Redis中存在,再查询MySQL
        请添加图片描述
  • 根据"二八定律",只需要在Redis中放20%的热点数据,就可以使80%的请求不再真正查询数据库了,虽然业务场景可能不同,但是至少绝大多数情况下,使用缓存都能够大大提升整体的访问效率,降低数据库的压力

  • 注意

    • 缓存是用来加快"读操作"的速度的
    • 如果是写操作,还是要老老实实写数据库,缓存并不能提高性能

2.缓存的更新策略

0.前言

  • 如何知道Redis中应该存储哪些数据呢?
  • 如何知道哪些数据是热点数据呢?

1.定期生成

  • 每隔⼀定的周期(⽐如⼀天/⼀周/⼀个⽉),对于访问的数据频次进⾏统计,挑选出访问频次最⾼的前N%的数据
    • 把访问的数据,以日志的形式记录下来
    • 数据量非常大,通常写个程序来统计
  • 这种做法实时性较低,对于一些突然情况应对的并不好
    • 例如:春节期间,春晚这样的词会成为高频词,但是平常则很少会有人搜索
  • 一般性的操作流程?
    • 写一套离线的流程,通过定时任务触发
      • 完成统计热词的过程
      • 根据热词,找到数据
      • 把得到的缓存数据同步到缓存服务器上
      • 控制这些缓存服务器自动重启
  • 优点:上述过程,实际上实现比较简单,过程更可控,方便排查问题
  • 缺点:实时性不够,如果出现一些突发性事件,有一些本不是热词的内容,成了热词,新的热词就可能给后面的数据库啥的带来较大压力

2.实时生成

  • 先给缓存设定容量上限(通过Redis配置⽂件的maxmemory参数设定)
  • 流程
    • 用户的每次查询
      • 如果在Redis中查到了,就直接返回
      • 如果在Redis中不存在,就从数据库查,把查到的结果同时也写入Redis
    • 如果缓存已经满了(达到上限),就触发缓存淘汰策略,把⼀些"相对不那么热⻔"的数据淘汰掉
    • 按照上述流程,持续一段事件之后,Redis内部的数据自然就是"热门数据"了
  • 通用的淘汰策略
    • FIFO(First In First Out)先进先出:把缓存中存在时间最久的(也就是先来的数据)淘汰掉
    • LRU(Least Recently Used)淘汰最久未使⽤的:记录每个key的最近访问时间,把最近访问时间最⽼的key淘汰掉
    • LFU(Least Frequently Used)淘汰访问次数最少的:记录每个key最近⼀段时间的访问次数,把访问次数最少的淘汰掉
    • Random随机淘汰:从所有的key中抽取幸运⼉被随机淘汰掉
  • 上述淘汰策略,可以自己实现,当然Redis也提供了内置的淘汰策略,可供直接使用
    • volatile-lru:当内存不⾜以容纳新写⼊数据时,从设置了过期时间的key使⽤LRU算法进⾏淘汰
    • allkeys-lru:当内存不⾜以容纳新写⼊数据时,从所有key使⽤LRU算法进⾏淘汰
    • volatile-lfu:4.0版本新增,当内存不⾜以容纳新写⼊数据时,在过期的key中,使⽤LFU算法进⾏删除key
    • allkeys-lfu:4.0版本新增,当内存不⾜以容纳新写⼊数据时,从所有key中使⽤LFU算法进⾏淘汰
    • volatile-random:当内存不⾜以容纳新写⼊数据时,从设置了过期时间的key中,随机淘汰数据
    • allkeys-random:当内存不⾜以容纳新写⼊数据时,从所有key中随机淘汰数据
    • volatile-ttl 在设置了过期时间的key中,根据过期时间进⾏淘汰,越早过期的优先被淘汰(相当于FIFO,只不过是局限于过期的key)
    • noeviction默认策略,当内存不⾜以容纳新写⼊数据时,新写⼊操作会报错
      • 不适用于实时更新缓存
  • 整体来说Redis提供的策略和上述介绍的通⽤策略是基本⼀致的,只不过Redis这⾥会针对"过期key"和"全部key"做分别处理
    • 除⾮是Redis中的数据完全不关键,否则不应该使⽤allkeys系列的策略

3.缓存相关问题

1.缓存预热(Cache Preheating)

  • 什么是缓存预热?
    • 使⽤Redis作为MySQL的缓存的时候,当Redis刚刚启动,或者Redis⼤批key失效之后
    • 此时由于Redis⾃⾝相当于是空着的,没啥缓存数据,那么MySQL就可能直接被访问到,从⽽造成较⼤的压⼒
    • 因此就需要提前把热点数据准备好,直接写⼊到Redis中,使Redis可以尽快为MySQL撑起保护伞
  • 热点数据可以基于之前介绍的统计的⽅式⽣成即可,这份热点数据不⼀定⾮得那么"准确",只要能帮助MySQL抵挡⼤部分请求即可
  • 随着程序运⾏的推移,缓存的热点数据会逐渐⾃动调整,来更适应当前情况

2.缓存穿透(Cache Penetration)

  • 什么是缓存穿透?
    • 访问的key在Redis和数据库中都不存在,此时这样的key不会被放到缓存上,后续如果仍然在访问该key,依然会访问到数据库
    • 这就会导致数据库承担的请求太多,压⼒很⼤
  • 如何产生?
    • 业务设计不合理,⽐如缺少必要的参数校验环节,导致⾮法的key也被进⾏查询了
      • 典型问题
    • 开发/运维误操作,不⼩⼼把部分数据从数据库上误删了
      • 没那么典型,表现也是缓存穿透,误删操作不一定能及时发现
    • ⿊客恶意攻击
  • 如何解决?
    • 针对要查询的参数进⾏严格的合法性校验
      • 例如:要查询的key是⽤⼾的⼿机号,那么就需要校验当前key是否满⾜⼀个合法的⼿机号的格式
    • 针对数据库上也不存在的key,也存储到Redis中,可以设成一个非法值
      • 例如value就随便设成⼀个"",避免后续频繁访问数据库
    • 使⽤布隆过滤器先判定key是否存在,再真正查询

3.缓存雪崩(Cache Avalanche)

  • 什么是缓存雪崩?
    • 短时间内⼤量的key在缓存上失效,导致数据库压⼒骤增,甚⾄直接宕机
    • 本来Redis是MySQL的⼀个护盾,帮MySQL抵挡了很多外部的压⼒,⼀旦护盾突然失效了,MySQL⾃⾝承担的压⼒骤增,就可能直接崩溃
  • 如何产生?
    • Redis挂了 -> Redis宕机 / Redis集群模式下大量节点宕机
    • Redis大量的key同时过期
      • Redis正常,但是之前短时间内设置了大量的key,并且设置的过期时间是相同的
  • 如何解决?
    • 部署⾼可⽤的Redis集群,并且完善监控报警体系
    • 不给key设置过期时间或者设置过期时间的时候添加随机时间因⼦(避免同一时间过期)

4.缓存击穿(Cache Breakdown)

  • 此处把breakdown翻译成"击穿",个⼈认为并⾮是⼀个好的选择,容易和缓存穿透混淆
    • 翻译成"瘫痪"或者"崩溃"也许更合适⼀些
  • 什么是缓存击穿?
    • 相当于缓存雪崩的特殊情况,针对热点key突然过期了导致⼤量的请求直接访问到数据库上,甚⾄引起数据库宕机
  • 如何解决?
    • 基于统计的⽅式发现热点key,并设置永不过期
    • 进⾏必要的服务降级
      • 感性理解:本身服务器功能有10个,在特定情况下,适当的关闭一些不重要的功能,只保留核心功能,可以理解成电子设备的"省电模式"
      • 例如:访问数据库的时候使⽤分布式锁,限制同时请求数据库的并发数

相关文章:

[Redis][典型运用][缓存]详细讲解

目录 0.什么是缓存?1.使用Redis作为缓存1.为什么用?2.如何用? 2.缓存的更新策略0.前言1.定期生成2.实时生成 3.缓存相关问题1.缓存预热(Cache Preheating)2.缓存穿透(Cache Penetration)3.缓存雪崩(Cache Avalanche)4.缓存击穿(Cache Breakdo…...

GPG error golang 1.19

1. 问题描述及原因分析 在飞腾2000的服务器,OS为Kylin Linux Advanced Server release V10环境下,docker版本为18.09.0(docker-engine-18.09.0-101.ky10.aarch64),基于容器镜像golang:1.19编译新的容器镜像&#xff0…...

Linux如何查看每个文件及文件夹的大小

查看当前目录下每个文件夹的大小,包括其内部所有文件: du -sh *-s:仅显示每个文件夹的总大小,而不是每个文件。-h:以人类可读的格式显示。...

Word样式的同步与重置

有时候我们需要修改Word中的样式,实现排版的个性化。 如何同步样式到其他电脑上? Word中的样式是由Normal.dotm文件控制的,对样式所有的设置和修改,都会保存到这个问题件中,所以我们只需要在设置好样式以后&#xff…...

力扣 —— 跳跃游戏

题目一(中等) 给你一个非负整数数组 nums ,你最初位于数组的 第一个下标 。数组中的每个元素代表你在该位置可以跳跃的最大长度。 判断你是否能够到达最后一个下标,如果可以,返回 true ;否则,返回 false 。 示例 1&…...

SOCKS5代理和HTTP代理哪个快?深度解析两者的速度差异

在现代互联网环境中,使用代理IP已经成为了许多人日常生活和工作的必备工具。无论是为了保护隐私,还是为了访问某些特定资源,代理IP都扮演着重要的角色。今天,我们就来聊聊SOCKS5代理和HTTP代理,看看这两者到底哪个更快…...

工具介绍---效率高+实用

Visual Studio Code (VS Code) 功能特点: 智能代码提示:内置的智能代码提示功能可以自动完成函数、变量等的输入,提高代码编写速度。插件丰富:支持成千上万的扩展插件,例如代码片段、主题、Linting等,能够…...

本地部署开源在线PPT制作与演示应用PPTist并实现异地远程使用

文章目录 前言1. 本地安装PPTist2. PPTist 使用介绍3. 安装Cpolar内网穿透4. 配置公网地址5. 配置固定公网地址 前言 本文主要介绍如何在Windows系统环境本地部署开源在线演示文稿应用PPTist,并结合cpolar内网穿透工具实现随时随地远程访问与使用该项目。 PPTist …...

leetcode_238:除自身以外数组的乘积

给你一个整数数组 nums,返回 数组 answer ,其中 answer[i] 等于 nums 中除 nums[i] 之外其余各元素的乘积 。 题目数据 保证 数组 nums之中任意元素的全部前缀元素和后缀的乘积都在 32 位 整数范围内。 请 不要使用除法,且在 O(n) 时间复杂…...

网络协议详解--IPv6

IPv6产生背景 (1)地址空间的耗尽:因特网呈指数级发展,导致IPv4地址空间几乎耗尽。虽然采用了子网划分、CIDR和NAT地址转换技术,但这没有从根源解决地址耗尽的问题 (2)IP层安全需求的增长&#x…...

阿里云域名注册购买和备案

文章目录 1、阿里云首页搜索 域名注册2、点击 控制台3、域名控制台 1、阿里云首页搜索 域名注册 2、点击 控制台 3、域名控制台...

【经典机器学习算法】谱聚类算法及其实现(python)

🌈 个人主页:十二月的猫-CSDN博客 🔥 系列专栏: 🏀深度学习_十二月的猫的博客-CSDN博客 💪🏻 十二月的寒冬阻挡不了春天的脚步,十二点的黑夜遮蔽不住黎明的曙光 目录 1. 前言 2. 前…...

【Linux】Linux环境基础开发工具使用

Linux开发工具 Linux编辑器-vim使用 1. vim的基本概念 vim的三种模式,分别是命令模式(command mode)、插入模式(Insert mode)和底行模式(last line mode)。 正常/普通/命令模式: …...

Halcon基础系列1-基础算子

1 窗口介绍 打开Halcon 的主界面主要有图形窗口、算子窗口、变量窗口和程序窗口,可拖动调整位置,关闭后可在窗口下拉选项中找到。 2 显示操作 关闭-dev_close_window() 打开-dev_open_window (0, 0, 712, 512, black, WindowHandle) 显示-dev_display(…...

【AI大模型】深入Transformer架构:编码器部分的实现与解析(上)

目录 🍔 编码器介绍 🍔 掩码张量 2.1 掩码张量介绍 2.2 掩码张量的作用 2.3 生成掩码张量的代码分析 2.4 掩码张量的可视化 2.5 掩码张量总结 🍔 注意力机制 3.1 注意力计算规则的代码分析 3.2 带有mask的输入参数: 3.…...

spring学习日记-day7-整合mybatis

一、学习目标 spring整合MyBatis的原理主要涉及到将MyBatis的Mapper映射文件交由Spring容器管理,并将其注入到MyBatis的SqlSessionFactory中,从而实现两者的整合。 二、整合mybatis 1.写一个mybatis测试案例 项目结构: 1.数据库 CREATE DA…...

【YOLO目标检测行人与车数据集】共5607张、已标注txt格式、有训练好的yolov5的模型

目录 说明图片示例 说明 数据集格式:YOLO格式 图片数量:5607 标注数量(txt文件个数):5607 标注类别数:2 标注类别名称:person、car 数据集下载:行人与车数据集 图片示例 数据集图片: …...

JMeter中线程组、HTTP请求的常见参数解释

在JMeter中,线程组和HTTP请求是进行性能测试的两个核心组件。以下是它们的一些常见相关参数的解释: 线程组参数 线程数 指定模拟的用户数,即并发执行的线程数。 Ramp-Up时间(秒) 指定所有线程启动的时间间隔。在这…...

优化Mysql

目录 Mysql优化就四种:定位慢查询/sql执行计划/索引/Sql优化经验... 2 1Mysql如何定位慢查询?... 2 2Sql语句执行很慢,如何分析呢?... 3 2.1那这个SQL语句执行很慢,如何分析呢?. 3 3.了解过索引吗?(什么是索引)…...

如何使用MethodChannel通信

文章目录 1 概念介绍2 实现方法3 经验总结我们在上一章回中介绍了Visibility组件相关的内容,本章回中将介绍Flutter与原生平台通信相关的内容.闲话休提,让我们一起Talk Flutter吧。 1 概念介绍 在移动开发领域以Android和IOS SDK开发出的应用程序叫原生开发,开发同一个程序…...

ElasticSearch搜索引擎之倒排索引及其底层算法

文章目录 一、搜索引擎1、什么是搜索引擎?2、搜索引擎的分类3、常用的搜索引擎4、搜索引擎的特点二、倒排索引1、简介2、为什么倒排索引不用B+树1.创建时间长,文件大。2.其次,树深,IO次数可怕。3.索引可能会失效。4.精准度差。三. 倒排索引四、算法1、Term Index的算法2、 …...

MySQL 8.0 OCP 英文题库解析(十三)

Oracle 为庆祝 MySQL 30 周年,截止到 2025.07.31 之前。所有人均可以免费考取原价245美元的MySQL OCP 认证。 从今天开始,将英文题库免费公布出来,并进行解析,帮助大家在一个月之内轻松通过OCP认证。 本期公布试题111~120 试题1…...

06 Deep learning神经网络编程基础 激活函数 --吴恩达

深度学习激活函数详解 一、核心作用 引入非线性:使神经网络可学习复杂模式控制输出范围:如Sigmoid将输出限制在(0,1)梯度传递:影响反向传播的稳定性二、常见类型及数学表达 Sigmoid σ ( x ) = 1 1 +...

select、poll、epoll 与 Reactor 模式

在高并发网络编程领域,高效处理大量连接和 I/O 事件是系统性能的关键。select、poll、epoll 作为 I/O 多路复用技术的代表,以及基于它们实现的 Reactor 模式,为开发者提供了强大的工具。本文将深入探讨这些技术的底层原理、优缺点。​ 一、I…...

【学习笔记】深入理解Java虚拟机学习笔记——第4章 虚拟机性能监控,故障处理工具

第2章 虚拟机性能监控,故障处理工具 4.1 概述 略 4.2 基础故障处理工具 4.2.1 jps:虚拟机进程状况工具 命令:jps [options] [hostid] 功能:本地虚拟机进程显示进程ID(与ps相同),可同时显示主类&#x…...

.Net Framework 4/C# 关键字(非常用,持续更新...)

一、is 关键字 is 关键字用于检查对象是否于给定类型兼容,如果兼容将返回 true,如果不兼容则返回 false,在进行类型转换前,可以先使用 is 关键字判断对象是否与指定类型兼容,如果兼容才进行转换,这样的转换是安全的。 例如有:首先创建一个字符串对象,然后将字符串对象隐…...

安宝特方案丨船舶智造的“AR+AI+作业标准化管理解决方案”(装配)

船舶制造装配管理现状:装配工作依赖人工经验,装配工人凭借长期实践积累的操作技巧完成零部件组装。企业通常制定了装配作业指导书,但在实际执行中,工人对指导书的理解和遵循程度参差不齐。 船舶装配过程中的挑战与需求 挑战 (1…...

华为OD机考-机房布局

import java.util.*;public class DemoTest5 {public static void main(String[] args) {Scanner in new Scanner(System.in);// 注意 hasNext 和 hasNextLine 的区别while (in.hasNextLine()) { // 注意 while 处理多个 caseSystem.out.println(solve(in.nextLine()));}}priv…...

Axure 下拉框联动

实现选省、选完省之后选对应省份下的市区...

面试高频问题

文章目录 🚀 消息队列核心技术揭秘:从入门到秒杀面试官1️⃣ Kafka为何能"吞云吐雾"?性能背后的秘密1.1 顺序写入与零拷贝:性能的双引擎1.2 分区并行:数据的"八车道高速公路"1.3 页缓存与批量处理…...