消息队列中,如何保证消息的顺序性?
本文选自:advanced-java
作者:yanglbme
问:如何保证消息的顺序性?
面试官心理分析
其实这个也是用 MQ 的时候必问的话题,第一看看你了不了解顺序这个事儿?第二看看你有没有办法保证消息是有顺序的?这是生产系统中常见的问题。
面试题剖析
我举个例子,我们以前做过一个 mysql binlog
同步的系统,压力还是非常大的,日同步数据要达到上亿,就是说数据从一个 mysql 库原封不动地同步到另一个 mysql 库里面去(mysql -> mysql)。常见的一点在于说比如大数据 team,就需要同步一个 mysql 库过来,对公司的业务系统的数据做各种复杂的操作。
你在 mysql 里增删改一条数据,对应出来了增删改 3 条 binlog
日志,接着这三条 binlog
发送到 MQ 里面,再消费出来依次执行,起码得保证人家是按照顺序来的吧?不然本来是:增加、修改、删除;你楞是换了顺序给执行成删除、修改、增加,不全错了么。
本来这个数据同步过来,应该最后这个数据被删除了;结果你搞错了这个顺序,最后这个数据保留下来了,数据同步就出错了。
先看看顺序会错乱的俩场景:
-
RabbitMQ:一个 queue,多个 consumer。比如,生产者向 RabbitMQ 里发送了三条数据,顺序依次是 data1/data2/data3,压入的是 RabbitMQ 的一个内存队列。有三个消费者分别从 MQ 中消费这三条数据中的一条,结果消费者2先执行完操作,把 data2 存入数据库,然后是 data1/data3。这不明显乱了。
![alt](https://img-blog.csdnimg.cn/img_convert/c4563c1f397f74376e013f3f7a6dce45.png)
-
Kafka:比如说我们建了一个 topic,有三个 partition。生产者在写的时候,其实可以指定一个 key,比如说我们指定了某个订单 id 作为 key,那么这个订单相关的数据,一定会被分发到同一个 partition 中去,而且这个 partition 中的数据一定是有顺序的。
消费者从 partition 中取出来数据的时候,也一定是有顺序的。到这里,顺序还是 ok 的,没有错乱。接着,我们在消费者里可能会搞多个线程来并发处理消息。因为如果消费者是单线程消费处理,而处理比较耗时的话,比如处理一条消息耗时几十 ms,那么 1 秒钟只能处理几十条消息,这吞吐量太低了。而多个线程并发跑的话,顺序可能就乱掉了。
![alt](https://img-blog.csdnimg.cn/img_convert/4f468943e7a09448b3e3f304bf286552.png)
解决方案
RabbitMQ
拆分多个 queue,每个 queue 一个 consumer,就是多一些 queue 而已,确实是麻烦点;或者就一个 queue 但是对应一个 consumer,然后这个 consumer 内部用内存队列做排队,然后分发给底层不同的 worker 来处理。
![alt](https://img-blog.csdnimg.cn/img_convert/bd3c983a65e094d3bf6256abb78720ac.png)
Kafka
-
一个 topic,一个 partition,一个 consumer,内部单线程消费,单线程吞吐量太低,一般不会用这个。
-
写 N 个内存 queue,具有相同 key 的数据都到同一个内存 queue;然后对于 N 个线程,每个线程分别消费一个内存 queue 即可,这样就能保证顺序性。
![alt](https://img-blog.csdnimg.cn/img_convert/242c0e7956b7cfa698693efeb1ee9918.png)
顶尖架构师栈
关注回复关键字
【C01】超10G后端学习面试资源
【IDEA】最新IDEA激活工具和码及教程
【JetBrains软件名】 最新软件激活工具和码及教程
工具&码&教程
转载于:https://mp.weixin.qq.com/s/m37BP850gLqSufWZ2_whdw
本文由 mdnice 多平台发布
相关文章:
![](https://img-blog.csdnimg.cn/img_convert/242c0e7956b7cfa698693efeb1ee9918.png)
消息队列中,如何保证消息的顺序性?
本文选自:advanced-java 作者:yanglbme 问:如何保证消息的顺序性? 面试官心理分析 其实这个也是用 MQ 的时候必问的话题,第一看看你了不了解顺序这个事儿?第二看看你有没有办法保证消息是有顺序的…...
![](https://www.ngui.cc/images/no-images.jpg)
Shell别名的使用方法及管理技巧
文章目录 1. 引言1.1 概述1.2 目的1.3 适用范围 2. Shell和别名2.1 Shell简介2.2 别名的作用2.3 别名的语法 3. 创建别名3.1 临时别名3.2 永久别名 4. 别名的应用4.1 简化命令4.2 自定义命令4.3 提高工作效率 5. 管理别名5.1 查看别名5.2 修改别名5.3 删除别名 6. 实例演示6.1 …...
![](https://img-blog.csdnimg.cn/0edebed0ebd54edebd2ae71280d54b0e.png)
C/C++选择题好题分享
...
![](https://img-blog.csdnimg.cn/67c436deca37444d9b46e5bd92095799.png)
kafka副本机制
目录 前言 副本定义 副本角色 In-sync Replicas(ISR) 参考资料 前言 现在的很多的分布式系统都支持副本的机制,比如Mysql就有副本的机制,一般使用副本有如下特性和好处。 提供数据冗余。即使系统部分组件失效,系…...
![](https://img-blog.csdnimg.cn/img_convert/34795ff7a9b23df73dbf547fc250214f.png)
服务注册发现_actuator微服务信息完善
SpringCloud体系里的,服务实体向eureka注册时,注册名默认是IP名:应用名:应用端口名。 问题: 自定义服务在Eureka上的实例名怎么弄呢 在服务提供者pom中配置Actuator依赖 <!-- actuator监控信息完善 --> <dependency><groupId…...
![](https://img-blog.csdnimg.cn/5d34254595694cfdb2c896dd2a73c2b2.png)
常见列表字典排序
一、列表排序 demoList [1, 3, 2, 4, 9 ,7]res sorted(demoList) # 默认升序# 降序 # res sorted(demoList, reverseTrue)print(res)二、字典排序 demoDict {"篮球": 5, "排球": 9, "网球": 6, "足球": 3}# sorted排序 res so…...
![](https://img-blog.csdnimg.cn/251b6ae014964b04842f5803bc0c860d.png)
【Acwing1027】方格取数(动态规划)题解
题目描述 思路分析 错误思路: 贪心法,先走一次求出最大值,把走过的路上面的数值清零,然后用同样的方法再走一遍求最大值,然后让这两个最大值相加就是最后的结果。 很多人在看到这个题目的时候会有上面的思路&#x…...
![](https://www.ngui.cc/images/no-images.jpg)
合并区间:解决区间重叠问题的高效算法
合并区间:解决区间重叠问题的高效算法 leetcode 56. 合并区间 合并区间是一个常见的编程问题,通常涉及到一组区间,你需要将重叠的区间合并成更大的区间。这篇博客将介绍这个问题的背景,然后解释一个高效的解决方案,同…...
![](https://img-blog.csdnimg.cn/edbfaabebcd3438690334a29382cb5a3.png)
万字总结HTML超文本标记语言
一、前言:什么是网页? 网站是指在因特网上根据一定的规则,使用 HTML 等制作的用于展示特定内容相关的网页集合。网页是网站中的一“页”,通常是 HTML 格式的文件,它要通过浏览器来阅读。 网页是构成网站的基本元素,它通常由图片、链接、文字、声音、视频等元素组成。通常…...
![](https://img-blog.csdnimg.cn/20200402003844418.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NtaWxlX2Zyb21fMjAxNQ==,size_16,color_FFFFFF,t_70#pic_center)
Java线程池是如何保证核心线程不被销毁的
来源: Java线程池是如何保证核心线程不被销毁的_朝 花 拾 夕的博客-CSDN博客 对于Java中 Thread 对象,同一个线程对象调用 start 方法后,会在执行完run 后走向终止(TERMINATED)状态,也就是说一个线程对象是不可以通过多…...
![](https://www.ngui.cc/images/no-images.jpg)
新课程标准培养学生“高考物理关键能力”的实践研究课题文献综述
目录 一、高考物理能力的要求与评估标准 二、高考物理关键能力的定义与内涵...
![](https://img-blog.csdnimg.cn/e3256a1ef4fd43a4894724cc88b6002d.png)
急救车工业路由器应用提升急救效率:车联网、数据采集与远程诊疗
急救车作为医院里医疗急救过程中的重要组成部分,在智慧医疗物联网领域中急救车应用4G工业路由器实现网络部署与数据采集,通过工业4G路由器能够实时采集到病患的生理数据、救护现场音频与视频、GPS定位以及车辆运行状态等重要信息。这些数据将被传输到医疗…...
![](https://www.ngui.cc/images/no-images.jpg)
【操作系统】聊聊CPU上下文切换实操
如何查看系统的上下文切换情况 上一篇文章我们说了过多的上下文切换,会把CPU时间消耗在寄存器、内核栈以及虚拟内存等数据的保存和恢复上,那么当出现系统的上下文切换过多的时候,我们如果通过监控指标查看呢。 vmstat 是一个常用的系统性能…...
![](https://img-blog.csdnimg.cn/7a2521d99b0c4e7d8114e83eaf33ce53.png)
【java】【SpringBoot】【四】原理篇 bean、starter、核心原理
目录 一、自动配置 1、bean加载方式(复习) 1.1 加载方式-xml方式生命bean 1.2 加载方式-xml注解方式声明bean 1.3 注解方式声明配置类 1.4 FactoryBean 1.5 proxyBeanMethod属性 1.6 使用Import注解导入 1.7 使用上下文对象在容器初始化完毕后注…...
![](https://img-blog.csdnimg.cn/8bb6b071d00049938e8e8d6f642ba245.png)
【精品资源】Java毕业设计攻略:从选题到答辩,一站式指南
导读: Java毕业设计是计算机科学与技术专业学生展示其编程能力、问题解决能力和创新思维的重要环节。这篇博客将为您提供一站式的Java毕业设计攻略,帮助您从选题到答辩,顺利完成毕业设计。 一、选题阶段 寻找灵感: 探讨热门技术如…...
![](https://img-blog.csdnimg.cn/49f5baeee16d431e9270c25764bc7f3c.png)
文件高效批量重命名,轻松重命名不同类型的文件名并隐藏编号
你是否曾经因为文件名混乱而感到困扰?你是否希望有一种方法可以快速、简单地管理你的文件名?如果你的答案是肯定的,那么我们的产品——文件重命名工具,将是你的完美解决方案! 首先我们要进入文件批量改名高手主页面&a…...
![](https://img-blog.csdnimg.cn/750a9e4f05b54ece861a12ec01867062.png#pic_center)
接口的定义与实现
一个c,代表类(class)。 一个c再加上两竖线,代表抽象类。 一个i,代表接口(interface)。 package com.mypackage.oop.demo12;//接口都需要有一个实现类 public interface UserService {//接口中定…...
![](https://img-blog.csdnimg.cn/img_convert/b20223034e6a9c283e37f7d087ab3982.png)
浅谈低压绝缘监测及定位系统在海上石油平台的研究与应用
安科瑞 华楠 摘要:海上石油平台低压系统与陆地电力系统有很大区别,其属于中性点绝缘系统,在出现单相接地故障时,系统允许带故障正常运行2 h,保证海上重要电气设备不会立即关停。现以渤海某海上平台为例,其…...
![](https://img-blog.csdnimg.cn/6bbb50e902b548f3ae73fc1643cf3c04.png)
Java项目:SSM的食堂点餐系统
作者主页:Java毕设网 简介:Java领域优质创作者、Java项目、学习资料、技术互助 文末获取源码 一、相关文档 系统中的核心用户是系统管理员,管理员登录后,通过管理员菜单来管理后台系统。主要功能有:个人中心、用户管理…...
![](https://img-blog.csdnimg.cn/2d6aa697165548809c7d82677282d6d0.png)
Linux桌面环境中应用程序无法启动图形交互界面
现象: 点击永中office或者金山office快捷图标无法启动对应的程序。 从命令行执行对应的程序则提示 按照提示安装组件 再次执行命令行程序 原因探析: /opt/Yozosoft/Yozo_Office/Yozo_Writer.bin: error while loading shared libraries: libgdk-x11-2.0.…...
![](https://img-blog.csdnimg.cn/9dffbf16bb9241ebb06e111d7e27cd1b.png)
jupyter notebook进不去指定目录怎么办?
首先激活你要使用的虚拟环境 刚开始是现在 (base) C:\Users\lenovo>目录下 直接输入你想进入的盘 (base) C:\Users\lenovo>e:此时再cd (base) C:\Users\lenovo>cd E:\tim\learn_pytorch 就可以进入了 安装3.4.1.15问题 已经有了最新python版本的虚拟环境&#…...
![](https://img-blog.csdnimg.cn/e901d1698c9446c498726b134b89836d.png)
MySQL 高级(进阶) SQL 语句(二) -----存储过程
目录 1 存储过程 1.1 创建存储过程 1.2 调用存储过程 1.3 查看存储过程 1.4 存储过程的参数 1.5 修改存储过程 1.6 删除存储过程 2 条件语句 3 循环语句 1 存储过程 存储过程是一组为了完成特定功能的SQL语句集合。 存储过程在使用过程中是将常用或者复杂的工作预…...
![](https://img-blog.csdnimg.cn/bd897cd143324d68a2a4b2f15e2fb560.png)
机器学习第十三课--主成分分析PCA
一.高维数据 除了图片、文本数据,我们在实际工作中也会面临更多高维的数据。比如在评分卡模型构建过程中,我们通常会试着衍生出很多的特征,最后就得到上千维、甚至上完维特征;在广告点击率预测应用中,拥有几个亿特征也是常见的事…...
![](https://img-blog.csdnimg.cn/d7bd28e8c88c40049d521ebef0eee0eb.png)
钉钉stream机器人-实操详细教程
支持事件订阅、机器人收消息、卡片回调等功能 优点: 配置简单,不依赖也不需要暴露公网IP,无需向公网开放端口 github官方链接:GitHub - open-dingtalk/dingtalk-stream-sdk-python: Python SDK for DingTalk Stream Mode API, Co…...
![](https://www.ngui.cc/images/no-images.jpg)
设计模式:访问者模式(C++实现)
访问者模式通过将对元素的操作与元素本身分离,使得可以在不修改元素类的情况下定义新的操作。 #include <iostream> #include <vector> #include <algorithm>// 前向声明 class ConcreteElementA; class ConcreteElementB;// 访问者接口 class V…...
![](https://www.ngui.cc/images/no-images.jpg)
Pygame中Sprite的使用方法6-6
4 重新绘制界面 每次碰撞发生后,程序界面需要重新绘制,代码如下所示。 screen.fill(WHITE) all_sprites_list.draw(screen) pygame.display.flip() 其中,screen表示程序的整个界面,将其绘制为白色背景;之后通过all_…...
![](https://img-blog.csdnimg.cn/143b6a6d85d74870a71fd88d40731f35.png)
react多条件查询
1、声明一个filter常量 2.filter接受(condition,data)两个参数 3、调用data里面的filter进行筛选 4、任意一个item当筛选条件 5、使用object.key获取对象所有key 6、对每个key使用Array.prototype.every()方法判断是否满足条…...
![](https://img-blog.csdnimg.cn/06348eb2957747b09a225085c13ac7d0.png)
2023/09/17
文章目录 1. vscode展开所有代码快捷键ctrl k j2. git删除所有stash或指定stash git stash drop [可选stash名]3. vue在函数默认参数后增加新参数4. git push 添加“-u”参数5. vscode快捷输入符号$的使用6. WebGL之什么是GLB&GLTF文件?7. WebGL之什么是HDR&a…...
![](https://www.ngui.cc/images/no-images.jpg)
Linux centos7压缩包安装mysql-8.0.34 并设置开机自启
下载安装解包 并解压 wget https://dev.mysql.com/get/Downloads/MySQL-8.0/mysql-8.0.34-linux-glibc2.12-x86_64.tar.xztar -xf mysql-8.0.34-linux-glibc2.12-x86_64.tar.xzmv mysql-8.0.34-linux-glibc2.12-x86_64 /usr/local/mysql初始化数据及安装操作 配置mysql配置文…...
![](https://img-blog.csdnimg.cn/df1a459f65bc499d8cc5ff6ab910d657.gif#pic_center)
iOS——present相关属性以及dismiss多级的方法
push和present 两者的区别 push: push由视图栈控制,每一个视图都入栈,调用之前的视图则需要出栈,可返回任意一层,一般用于同一业务不同界面之间的切换。 push是由UINavigationController管理的视图控制器堆栈,在wind…...
![](https://images2015.cnblogs.com/blog/922893/201609/922893-20160902092638246-1047140775.png)
酉阳网站建设/软文大全800字
在运行程序的时候,我们一般可以进行run configuration的配置,就比如tomcat源码导入eclipse之后,我们可以发现其运行配置如下: 其中Program arguments配置的元素就是我们传入main方法的字符串数组,而VM arguments其实就…...
![](/images/no-images.jpg)
安装wordpress模板/活动推广宣传方案
计算机开放电子书汇总 站点站点源码100个gcc小技巧 在线阅读PDF格式EPUB格式MOBI格式100个gdb小技巧 在线阅读PDF格式EPUB格式MOBI格式关于浏览器和网络的 20 项须知 在线阅读PDF格式EPUB格式MOBI格式2015互联网企业校招笔试题 MEGA下载Github下载3周3页面 在线阅读PDF格式EPUB…...
![](https://img2018.cnblogs.com/blog/1199220/201907/1199220-20190716113605598-1221690279.png)
优秀网站psd/提高工作效率
安装jenkins网上有很多的示例,但是博主在安装的时候没有一次是没有问题的,后来我就将我遇到的问题总结了下,然后写一个从下载软件到安装的完成能使用的版本的博客。毕竟一帆风顺的情况真的还是很少的。 第一步:下载jenkins 地址&a…...
![](https://img-blog.csdnimg.cn/img_convert/8513491014004922581268d5db99398b.png)
金坛做网站/seo关键词
已安装的Node.js和主要相关模块是:node.js v14.15.3npm 6.14.9webpack-cli 4.2.0webpack 5.11.0webpack-dev-server 3.11.0启动 web-dev-server 的命令行为 :npx webpack-dev-server --open执行时报错:Cannot find module webpack-cli/bin/config-yargs 结果如下图问…...
![](https://images.cnblogs.com/OutliningIndicators/ExpandedBlockStart.gif)
创建网络平台/重庆seo
读spring in action. 环境搭建quick-start依赖注入面向切面1.环境搭建 jdk1.8gradle 2.12Intelij idea 2016.2.11.1创建一个gradle项目 在idea中,new -> project -> gradle 创建一个空项目。创建成功后修改build.gradle : group com.test version…...
![](https://img-blog.csdnimg.cn/img_convert/c4052d27001540b03892662861963c1e.png)
做赌博网站条件/seo优化网站
Vivo手机可以使用便签工具,既包括系统自带便签,也可以在手机应用商店搜索安装好用的云便签敬业签。在这款手机云便签中不仅可以使用文字、图片、录音及文件附件等方式添加便签内容,还能设置将便签内容直接显示在手机桌面上。那么,…...