当前位置: 首页 > news >正文

缓存相关知识总结

一、缓存的作用和分类

        缓存可以减少数据库的访问压力提升整个网站的数据访问速度改善数据库的写入性能。缓存可以分为两种:

        缓存在应用服务器上的本地缓存:访问速度快,但受应用服务器内存限制

        缓存在专门的分布式缓存服务器上的远程缓存:访问速度慢,但内存不受限制

二、常见的缓存技术

        MemCache:是一个高性能的分布式内存对象缓存系统,用于动态网络应用以减轻数据库负载。Memcache在内存内维护一个统一的巨大的hash表,数据存在hash表中。

        Redis:是一个开源的使用ANSI C语言编写、支持网络、可给予内存亦可持久化的日志型、Key-Value数据库,支持多种数据类型(key-value,list,set,string,对象等),并提供多种语言的API。

        Squid:Squid是一个高性能的代理缓存服务器,支持FTP,gopher,HTTPS和HTTP协议

        Redis和Memcache对比:

MemcacheRedis
数据类型简单的key/value结构丰富的数据结构
持久性不支持支持
分布式存储客户端哈希分片/一致性哈希主从、哨兵、集群
多线程支持5.0以后的版本支持
内存管理似有内存池/内存池
事务支持不支持有限支持
数据容灾不支持,掉电消失支持

三、缓存与数据库一致性方案

        数据的读取:

                  1. 根据key从缓存中读取数据;

                2. 若缓存中存在,则返回数据;

                3. 若缓存中不存在,则从数据库中读取,并将数据写入缓存 

        数据的插入/更新/删除:

                1. 先操作数据库中的数据内容

                2. 根据操作更新相应缓存中的内容

四、缓存常见问题

        一、缓存雪崩:

                原因大部分缓存同时失效,导致大量数据请求访问数据库,造成数据库崩溃

                解决方案1. 使用队列或锁,保证不会有大量线程对数据库进行高并发的读写

                                   2. 为缓存设置不同的过期时间,固定数值+随即数值

                                   3. 多级缓存,设置失效事件不同的缓存                                

        二、缓存穿刺:

                原因:查询数据库与缓存中都不存在的数据,造成性能浪费

                解决方案:1. 当数据库中的结果为空时,在缓存中加入默认值。

                                   2. 设置布隆过滤器:将所有可能存在的值放入一个bitmap中。

                布隆过滤器介绍:

                        布隆过滤器用于快速识别一个元元素是否在集合中,通过一个长二进制向量和一系

                列随机映射函数记录和识别某个数据是否在一个集合中。

优点缺点

1. 占用内存小

2. 查询效率高

3. 不存储数据本身,数据安全性好

1. 有一定的误判性

2. 一般情况下不能从中删除元素

3. 不能直接获取需要的数据

        三、缓存预热:

                系统启动后,将相关的缓存数据世界加载到缓存系统中。

                实现方案:

                        1. 编写相关的接口或页面

                        2. 数据量不大时,在项目启动后加载数据

                        3. 定时任务刷新缓存

        四、缓存更新:

                1. 定时清理过期缓存

                2. 根据用户操作,将过期的请求更新到缓存中

        五、缓存降级:

                  降级的目的是保证核心服务的可用,通过记日志等方式,将优先级不高的操作记录

五、Redis的相关介绍

        1. Redis支持的数据类型

                String,Hash(字典),List,Set, Sorted Set(有序集合)

        2. Redis数据的淘汰策略

类型策略实现方式
不淘汰noeviction数据不过期,当内存不足时,写入操作报错
设置了过期时间的键空间volatile-random随即删除某个key
volatile-lru优先移除最近没使用过的key
volatile-ttl优先移除剩余生命周期最短的key
全键空间allkeys-random随即删除某个key
volatile-lru优先移除最近没使用过的key

        3. Redis持久化实现方式

                RDB方式:传统数据库中快照的思想,指定时间间隔将数据进行全量备份

                AOF方式:传统数据库中日志的思想,把每条改变数据集的指令追加到AOF文件中

纬度RDB持久化方案AOF持久化方案
备份量重量级的全量备份,整个数据库数据轻量级的增量备份,一次只保存一个操作指令
间隔时间较长较短,默认1秒
还原速度
备份事阻塞情况save会阻塞,bgsave不会不会
备份文件大小小,只有备份时刻的数据大,包括每次操作的指令
安全性低,备份间隔长,容易丢失数据高,备份间隔短,数据精确

        4. Redis分布式存储方式

                主从模式:一主多从,主节点写数据,从节点度数据,主节点故障时手动切换

                哨兵模式:有哨兵的一主多从,哨兵对节点进行健康监控,主节点故障时自动通过选举

        的方式选择新的主节点

                集群模式:分节点对等集群,分slots,不同slots的信息存储到不同的节点

        5. Redis数据切片方案

分片方案分片方式举例
范围分片按数据分为进行分配,如key值的范围如0-999一组,1000-1999一组
哈希分片通过对值进行hash运算后分片hash后的结果对节点数量取余,对取余结果进行分组
一致性哈希哈希分片的升级有利于节点扩展和删除,解决数据在节点上分布不均与

        一致性哈希的实现方式:

                1. 将存储节点抽象成一个环形,每个节点都有对应的值

                2. 对数据进行哈希运算,按顺时针方向将其映射到离其最近的节点上去

                3. 当有节点出现故障离线时,按照算法的映射方法,受影响的仅仅为环上故障节点开始

        逆时针方向至下一个节点之间区间的数据对象

                4. 当有节点插入式,按照算法的映射方法,受影响的仅仅为环上新节点开始逆时针方向

        至下一个节点之间区间的数据对象

相关文章:

缓存相关知识总结

一、缓存的作用和分类 缓存可以减少数据库的访问压力,提升整个网站的数据访问速度,改善数据库的写入性能。缓存可以分为两种: 缓存在应用服务器上的本地缓存:访问速度快,但受应用服务器内存限制 缓存在专门的分布式缓存…...

Mapmost Alpha:开启三维城市场景创作新纪元

🤵‍♂️ 个人主页:艾派森的个人主页 ✍🏻作者简介:Python学习者 🐋 希望大家多多支持,我们一起进步!😄 如果文章对你有帮助的话, 欢迎评论 💬点赞&#x1f4…...

【大模型完全入门手册】——引言

博主作为一名大模型开发算法工程师,很希望能够将所学到的以及实践中感悟到的内容梳理成为书籍。作为先导,以专栏的形式先整理内容,后续进行不断更新完善。希望能够构建起从理论到实践的全流程体系。 助力更多的人了解大模型,接触大模型,一起感受AI的魅力! 在当今人工智能…...

在 Vue 3 中使用 Axios 发送 POST 请求

在 Vue 3 中使用 Axios 发送 POST 请求需要首先安装 Axios,然后在 Vue 组件或 Vuex 中使用它。以下是一个简单的安装和使用案例: 安装 Axios 你可以使用 npm 或 yarn 来安装 Axios: npm install axios # 或者 yarn add axios 使用 Axios…...

【LeetCode刷题记录】189. 轮转数组

189 轮转数组 给定一个整数数组 nums,将数组中的元素向右轮转 k 个位置,其中 k 是非负数。 示例 1: 输入: nums [1,2,3,4,5,6,7], k 3 输出: [5,6,7,1,2,3,4] 解释: 向右轮转 1 步: [7,1,2,3,4,5,6] 向右轮转 2 步: [6,7,1,2,3,4,5] 向右轮转 3 步: …...

1.open3d处理点云数据的常见方法

1. 点云的读取、可视化、保存 在这里是读取的点云的pcd文件,代码如下: import open3d as o3dif __name__ __main__:#1.点云读取point o3d.io.read_point_cloud("E:\daima\huawei\img\change2.pcd")print(">",point)#2.点云可视…...

https和http有什么区别,为什么要用https

HTTPS(Hypertext Transfer Protocol Secure)和HTTP(Hypertext Transfer Protocol)之间的主要区别在于安全性。 安全性: HTTP是一种明文传输协议,数据在客户端和服务器之间以明文形式传输,容易…...

微前端框架主流方案剖析

微前端架构是为了在解决单体应用在一个相对长的时间跨度下,由于参与的人员、团队的增多、变迁,从一个普通应用演变成一个巨石应用(Frontend Monolith)后,随之而来的应用不可维护的问题。这类问题在企业级 Web 应用中尤其常见。 微前端框架内的各个应用都支持独立开发部署、不…...

安卓逆向之-Xposed RPC

引言: 逆向为最终的协议,或者爬虫的作用。 有几种方式,比如直接能力强,搞成协议。 现在好多加密解密都写入到so ,所以可以使用unidbg 一个可以模拟器so 执行的环境的开源项目。RPC 调用,又分为Frida, 还有今天讲的Xposed RPC。 原理: Xposed 可以hook ,然后可以直接…...

【排序 贪心】3107. 使数组中位数等于 K 的最少操作数

算法可以发掘本质,如: 一,若干师傅和徒弟互有好感,有好感的师徒可以结对学习。师傅和徒弟都只能参加一个对子。如何让对子最多。 二,有无限多1X2和2X1的骨牌,某个棋盘若干格子坏了,如何在没有坏…...

预览pdf文件和Excel文件

开发的时候要一个可上传下载预览的静态页面以下是数据html <el-table v-loading"loading" :data"fileList" selection-change"handleSelectionChange"><el-table-column type"selection" width"55" align"ce…...

RT-thread线程间同步:事件集/消息队列/邮箱功能

一,事件集 1,事件集作用 事件集主要用于线程间的同步,与信号量不同,它的特点是可以实现一对多,多对多的同步。即一个线程与多个事件的关系可设置为:其中任意一个事件唤醒线程,或几个事件都到达后才唤醒线程进行后续的处理;同样事件也可以是多个线程同步多个事件。 2,…...

【机器学习】一文掌握机器学习十大分类算法(上)。

十大分类算法 1、引言2、分类算法总结2.1 逻辑回归2.1.1 核心原理2.1.2 算法公式2.1.3 代码实例 2.2 决策树2.2.1 核心原理2.2. 代码实例 2.3 随机森林2.3.1 核心原理2.3.2 代码实例 2.4 支持向量机2.4.1 核心原理2.4.2 算法公式2.4.3 代码实例 2.5 朴素贝叶斯2.5.1 核心原理2.…...

策略模式(知识点)——设计模式学习笔记

文章目录 0 概念1 使用场景2 优缺点2.1 优点2.2 缺点 3 实现方式4 和其他模式的区别5 具体例子实现5.1 实现代码 0 概念 定义&#xff1a;定义一个算法族&#xff0c;并分别封装起来。策略让算法的变化独立于它的客户&#xff08;这样就可在不修改上下文代码或其他策略的情况下…...

Python学习从0开始——专栏汇总

Python学习从0开始——000参考 一、推荐二、基础三、项目一 一、推荐 Hello World in Python - 这个项目列出了用Python实现的各种"Hello World"程序。 Python Tricks - 这个项目包含了Python中的高级技巧和技术。 Think Python - 这是一本教授Python的在线书籍&…...

【iOS ARKit】Web 网页中嵌入 AR Quick Look

在支持 ARKit 的设备上&#xff0c;iOS 12 及以上版本系统中的 Safari浏览器支持 AR Quick Look&#xff0c; 因此可以通过浏览器直接使用3D/AR 的方式展示 Web 页面中的模型文件&#xff0c;目前 Web 版本的AR Quick Look 支持USDZ 格式文件。苹果公司有一个自建的3D模型示例库…...

Java基础-知识点03(面试|学习)

Java基础-知识点03 String类String类的作用及特性String不可以改变的原因及好处String、StringBuilder、StringBuffer的区别String中的replace和replaceAll的区别字符串拼接使用还是使用StringbuilderString中的equal()与Object方法中equals()区别String a new String("a…...

【GIS学习笔记】ArcGIS/QGIS如何修改字段名称、调整字段顺序?

在先前的ArcGIS学习中&#xff0c;了解到字段名称是不能修改的&#xff0c;只能用新建一个字段赋值过去再删除原字段这种方法实现&#xff0c;字段顺序的调整如果通过拖拽也是不能持久的&#xff0c;需要用导出一个新数据这种方法进行保存&#xff0c;可参考以下链接&#xff1…...

Study Pyhton

PyCharm PyCharm是一个写python代码的软件&#xff0c;用PyCharm写代码比较方便。 PyCharm快捷键ctrl alt s打开软件设置ctrl d复制当前行代码 shift alt 上\下将当前行代码上移或下移crtl shift f10运行当前代码文件shiftf6重命名文件 ctrl a全选ctrl c\v\x复制、粘贴、…...

【MySQL】:深入解析多表查询(下)

&#x1f3a5; 屿小夏 &#xff1a; 个人主页 &#x1f525;个人专栏 &#xff1a; MySQL从入门到进阶 &#x1f304; 莫道桑榆晚&#xff0c;为霞尚满天&#xff01; 文章目录 &#x1f4d1;前言一. 自连接1.1 自连接查询1.2 联合查询 二. 子查询2.1 概述2.2 分类2.3 标量子查…...

3步搞定Linux麦克风降噪:NoiseTorch-ng让你的语音通话更清晰

3步搞定Linux麦克风降噪&#xff1a;NoiseTorch-ng让你的语音通话更清晰 【免费下载链接】NoiseTorch Real-time microphone noise suppression on Linux. 项目地址: https://gitcode.com/gh_mirrors/no/NoiseTorch 还在为远程会议中的键盘声、空调噪音烦恼吗&#xff1…...

Uvicorn与AWS Lambda@Edge:边缘计算中的Python服务终极指南

Uvicorn与AWS LambdaEdge&#xff1a;边缘计算中的Python服务终极指南 【免费下载链接】uvicorn An ASGI web server, for Python. &#x1f984; 项目地址: https://gitcode.com/GitHub_Trending/uv/uvicorn Uvicorn作为一款高性能的ASGI Web服务器&#xff0c;为Pytho…...

RWKV7-1.5B-g1a显存优化部署教程:3.8GB实测占用下稳定运行的完整配置

RWKV7-1.5B-g1a显存优化部署教程&#xff1a;3.8GB实测占用下稳定运行的完整配置 1. 模型简介 rwkv7-1.5B-g1a是基于新一代RWKV-7架构的多语言文本生成模型&#xff0c;特别适合中文场景下的轻量级应用。这个1.5B参数的版本在保持良好生成质量的同时&#xff0c;通过架构优化…...

OG 488 DBCO,俄勒冈绿488 二苯并环辛炔,实现对含叠氮基生物分子的特异性标记

一.名称英文名称&#xff1a;OG 488 DBCO&#xff0c;Oregon Green 488 DBCO中文名称&#xff1a;俄勒冈绿488 二苯并环辛炔激发Ex&#xff1a;496nm发射Em&#xff1a;524nm结构式&#xff1a;二.产品形式1.固体/粉末2.溶于大部分有机溶剂&#xff0c;溶于水3.端基取代率95%4.…...

小白友好:通义千问1.8B-GPTQ量化版快速上手与场景应用

小白友好&#xff1a;通义千问1.8B-GPTQ量化版快速上手与场景应用 1. 为什么选择通义千问1.8B-GPTQ量化版 如果你正在寻找一个能在普通电脑上流畅运行的AI对话模型&#xff0c;通义千问1.8B-GPTQ量化版值得考虑。这个版本是阿里云团队专为资源有限环境优化的轻量级模型&#…...

B端拓客号码核验行业现状:困局破解与价值重构氪迹科技法人股东号码筛选核验系统、阶梯式价格

在B端客户拓展的全链条中&#xff0c;企业核心决策层的有效触达是实现合作转化的关键前提&#xff0c;而法人、股东、董监高等核心群体的联系方式&#xff0c;則是搭建这一沟通桥梁的核心载体。作为拓客工作的前置基础性环节&#xff0c;号码核验与筛选的质量、效率&#xff0c…...

Stable Yogi Leather-Dress-Collection实战:基于SpringBoot的智能客服系统集成

Stable Yogi Leather-Dress-Collection实战&#xff1a;基于SpringBoot的智能客服系统集成 最近和几个做电商的朋友聊天&#xff0c;他们都在头疼一件事&#xff1a;客服成本越来越高&#xff0c;用户咨询量一大&#xff0c;人工根本忙不过来&#xff0c;回复慢了还影响转化率…...

PXIE301板卡深度评测:2.5GB/s带宽下的LVDS/RS422混合信号采集方案

PXIE301板卡深度评测&#xff1a;2.5GB/s带宽下的LVDS/RS422混合信号采集方案 在工业自动化与测试测量领域&#xff0c;高速数据采集系统的性能直接决定了整个测试平台的可靠性与效率。PXIE301板卡凭借其独特的混合信号处理架构&#xff0c;成为当前市场上少数能同时满足高速LV…...

[实战指南]ESP-IDF组件管理:从本地开发到Registry发布的完整流程解析

1. ESP-IDF组件管理基础入门 第一次接触ESP-IDF组件管理时&#xff0c;我被官方文档里那些专业术语绕得头晕。直到实际用起来才发现&#xff0c;这套机制其实就像搭积木一样直观。简单来说&#xff0c;组件就是可以复用的代码模块&#xff0c;比如你写了个特别好用的WiFi连接管…...

打卡信奥刷题(3009)用C++实现信奥题 P6273 [eJOI 2017] 魔法

P6273 [eJOI 2017] 魔法 题目描述 给定一个长度为 nnn 的字符串 SSS。设 SSS 中不同的字符数为 kkk 。 定义字符串的子串为该字符串某一连续段。 而 有魔法的子串 被定义为 SSS 的某一非空子串&#xff0c;满足该子串中不同的字符数为 kkk &#xff0c;且每个字符的出现的次…...