【springboot】闲话 springboot 的几种异步机制 及 长轮询的概念和简单实现
文章目录
- 引子
- springboot的几种异步形式
- 开启异步支持和线程池配置(重要)
- 第一种:@Async
- 第二种:Callable<T>
- 第三种:WebAsyncTask<T>
- 第四种:DeferredResult<T>
- 长轮询的简单实现
- 概念
- 实现
- 服务端
- 客户端
引子
在聊 springboot 的异步机制之前,我们先要搞清楚一个最基础的概念:什么是同步?什么是异步?
其实这个概念理解起来很简单,假设有任务 A 和任务 B,如果必须先完成 A,再去做 B 则可称为同步。而如果在完成 A 的同时,还可以同时去做 B,两个事情互不影响,则完成完成任务 B 的过程可称为异步执行。
springboot提供了四种异步方式。
- 第一种:@Async,被标记了此注解的方法会被丢到异步线程中执行,不会影响接口的返回。
- 第二种:接口返回 Callable类型。此类型对于调用方来说感知上还是同步的,只是后台服务启用了一个异步线程执行而已。
- 第三种:接口返回WebAsyncTask类型,此类型和返回Callable的逻辑大体相同,也只是后台服务启用了一个异步线程执行而已。 但是多了一些使用的自由度,比如自定义超时时间,使用自定义线程池等,下面会详细介绍。
- 第四种:接口返回DeferredResult类型,有别于第一种不影响接口返回,和第二、三种待任务执行完成后返回结果,DeferredResult类型则可以将请求挂起,可以通过其他线程设置返回值,我们也会基于这个来实现长轮询。
springboot的几种异步形式
开启异步支持和线程池配置(重要)
首先开启异步支持:@EnableAsync,如下:
@EnableAsync
@SpringBootApplication
public class Application {public static void main(String[] args) {SpringApplication.run(Application.class, args);}}
其实对于Callable、WebAsyncTask和DeferredResult来说,不开启此配置也可以用(@Async 不行,必须开启才能用,否则不生效)。但是为什么推荐大家开启呢?主要是因为线程池的原因,在默认情况下Callable、WebAsyncTask都需要使用到线程池,但是如果没有使用@EnableAsync开启异步支持,那么他们都是使用SimpleAsyncTaskExecutor,轻看它的几句源码:
protected void doExecute(Runnable task) {Thread thread = (this.threadFactory != null ? this.threadFactory.newThread(task) : createThread(task));thread.start();
}
看到没,随时使用随时创建,用这玩意如果异步太多不把系统资源耗尽了,所以不推荐大家用。而一旦使用@EnableAsync开启异步支持,那么就会默认创建一个线程池。大家可以这么配置,这样就安全多了(当然还可以通过代码配置,这里就不具体说了,只为了让大家知道有这么回事,闲聊嘛,不想太累,而且网上一大把,大家可以自己搜索)
spring:task:execution:pool:core-size: 10
这里主要配置一个核心线程数,其他参数大家可以自己研究下,无非就那几个,这里只为告知其存在。当然生产环境大家都会按需配置,所以大家还是配置一下最为稳妥。
@EnableAsync开启异步支持后,默认情况下:@Async、Callable、WebAsyncTask都使用上面配置的线程池。后续就不再介绍了。
第一种:@Async
此种类型的异步,更多是在主线程完成了主要任务之后,将一些剩余工作比如记录日志,或者通知其他系统的工作交由异步线程来完成。可以如下方式实现:此时调用接口会立马返回 finish,在 10 秒后,后台会打印“异步执行完毕”
@GetMapping("/test-async")
public String testAsync(){asyncService.async();return "finish";
}@Service
public class AsyncService {@Asyncpublic void async() {try {Thread.sleep(10000);} catch (InterruptedException e) {throw new RuntimeException(e);}System.out.println("异步执行完毕");}
}
第二种:Callable
此种类型的存在,主要是为了提升系统的并发能力。我们知道每一个请求 servlet容器(比如 tomcat) 都会为其分配一个处理线程,但这个线程是有数量限制的,一旦被用完就会限制系统其他请求的接入。所以通过将请求放到其他线程池中处理的方式来提升系统的并发能力。例如:
@GetMapping("test-callable")
public Callable<String> testCallable(){Callable<String> callable = new Callable<String>() {@Overridepublic String call() throws Exception {log.info("任务开始callable");Thread.sleep(10000);log.info("任务完成callable");return "任务执行完成";}};return callable;
}
最后接口会返回:任务执行完成
第三种:WebAsyncTask
此类型和Callable异曲同工,只是更加灵活,所以推荐大家使用WebAsyncTask。
@GetMapping("test-webasynctask")public WebAsyncTask<String> testWebAsyncTask() {WebAsyncTask<String> webAsyncTask = new WebAsyncTask<>(20000, new Callable<String>() {@Overridepublic String call() throws Exception {log.info("任务开始webasynctask");Thread.sleep(10000);log.info("任务完成webasynctask");return "任务执行完成";}});webAsyncTask.onError(null);webAsyncTask.onCompletion(null);webAsyncTask.onTimeout(null);return webAsyncTask;}
看到没,有好多回调!还支持超时机制!更加灵活,再看下WebAsyncTask的构造函数:
public WebAsyncTask(Callable<V> callable);
public WebAsyncTask(long timeout, Callable<V> callable);
public WebAsyncTask(@Nullable Long timeout, String executorName, Callable<V> callable);
public WebAsyncTask(@Nullable Long timeout, AsyncTaskExecutor executor, Callable<V> callable);
我们发现,它还支持传入线程池!是不是很灵活!
第四种:DeferredResult
此类型同样是会将请求挂起,待合适的时机再返回!什么是合适的时机?我们先来看一个例子。
@GetMapping("test-deferredResult")
public DeferredResult<String> testDeferredResult(){DeferredResult<String> deferredResult = new DeferredResult<>();asyncService.setDeferredResult(deferredResult);return deferredResult;
}@Async
public void setDeferredResult(DeferredResult<String> deferredResult) {try {log.info("任务开始");Thread.sleep(10000);//设置返回!!!!!deferredResult.setResult("DeferredResult执行成功啦!");log.info("任务完成");} catch (InterruptedException e) {throw new RuntimeException(e);}System.out.println("异步执行完毕");
}
我们看到,在异步线程中通过deferredResult.setResult(T)的方法即可让接口返回!这里我们是借用了@Async 方法,其实这个异步线程可以是任意的其他线程,或者其他请求触发。即只要有一个地方通过deferredResult.setResult(T)设置了返回即可!是不是很酷!
同样,我们再来看看它的其他方法,首先是构造函数(比较简单,就不详细描述了):
public DeferredResult();
public DeferredResult(Long timeoutValue);
public DeferredResult(@Nullable Long timeoutValue, Object timeoutResult);
public DeferredResult(@Nullable Long timeoutValue, Supplier<?> timeoutResult)
再看其他方法:
//是否已经过期或者设置过了结果
boolean setOrExpired = deferredResult.isSetOrExpired();
//获取已经设置的结果
Object result = deferredResult.getResult();
//是否已经设置了结果
boolean hasResult = deferredResult.hasResult();
//这个的 ErrorResult可以是Exception或者Throwable,会当做异常被抛出
deferredResult.setErrorResult(null);
//会对 Result 进一步处理
deferredResult.setResultHandler(null);
//完成回调
deferredResult.onCompletion();
//错误回调
deferredResult.onError();
//超时回调
deferredResult.onTimeout();
长轮询的简单实现
概念
这里简单介绍一下概念:所谓长轮询,其实是一种实时通信技术。即当客户端连接到服务器时,服务器不会立马返回,而是将请求挂起,当有数据(某事件发生,或者数据发生变更)时再返回,这样就达到了实时通信的效果。当然一般客户端和服务端都会有超时时间的存在,当请求超时时,客户端再次发起请求来保持连接。
实现
这里我们基于DeferredResult来实现一个简单的长轮询。这里举一个例子:客户端监控是否有配置变更。如下:
服务端
这里:客户端通过请求test-detect-config-refresh来监听配置变化,而test-set-config接口则用于更新配置。当配置更新时,会响应所有的客户端的请求,达到更新配置的目的!
List<DeferredResult<String>> deferredResults = new ArrayList<>();@GetMapping("test-detect-config-refresh")
public DeferredResult<String> testDetectConfigRefresh() {DeferredResult<String> deferredResult = new DeferredResult<>(10000L);deferredResult.onTimeout(() -> {deferredResults.remove(deferredResult);deferredResult.setResult("empty");});deferredResults.add(deferredResult);return deferredResult;
}@GetMapping("test-set-config")
public String testDetectConfigRefresh(String config) {for (DeferredResult<String> deferredResult : deferredResults) {if (deferredResult.isSetOrExpired()) {continue;}deferredResult.setResult(config);}deferredResults.clear();return "success";
}
客户端
注意客户端的超时时间要大于服务器的超时时间!不然客户端先超时,服务器端还咋返回呢?对吧!
while(true){String result = request("test-detect-config-refresh",20000);if ("empty".equals(result)) {//空返回,再次发起,不做任何处理} else {//更新配置updateConfig(result);}
}private String request(String url, long timeout){//实现请求
}private void updateConfig(String config){//实现更新配置
}
是不是很简单!当然这里只是介绍,存在一些问题,比如,如果恰好配置更新时,客户端超时断开了怎么办?实际生产还是需要更为完备的设计!这里就不过多介绍了,大家可以自行思考!
相关文章:
【springboot】闲话 springboot 的几种异步机制 及 长轮询的概念和简单实现
文章目录 引子springboot的几种异步形式开启异步支持和线程池配置(重要)第一种:Async第二种:Callable<T>第三种:WebAsyncTask<T>第四种:DeferredResult<T> 长轮询的简单实现概念实现服务…...
Mysql---安全值守常用语句
文章目录 目录 文章目录 一.用户权限设置 用户设置 元数据查询 Union联合查询 分组查询 字符串函数 总结 一.用户权限设置 用户设置 #用户创建 create user "用户名""%主机名" identified by "密码" #用户删除 drop user 用户名 #用户查询…...
containerd快速安装指南
1 containerd快速安装指南🚀 本指南旨在提供一个简洁有效的方法来安装containerd。我们将通过一份易于理解的脚本步骤,指导您完成安装🔧。请根据您的实际需求,适当调整containerd版本及其相关依赖。 注意事项: 本安装…...
Javascript - 正则表达式相关的一些基础的范例
很久以前的一些学习资料,归档发布; 正则表达式的基础,以HTML代码来示范: <html><head><title></title><script language"javascript">function test(){//从页面要求客户输入一个字符串…...
JUC:线程活跃性(死锁、活锁、饥饿)
文章目录 线程活跃性死锁活锁解饿 线程活跃性 死锁 两个线程相互等待对方已拥有的锁,就会相互一直等待,不会停止。 t1拥有a锁,等待b锁。 t2拥有b锁,等待a锁。 Slf4j(topic "c.Test3") public class st3 {public st…...
RGB到灰度图像的转换原理及例程
RGB到灰度图像的转换是一种常用的图像处理操作,其原理是根据人眼对不同颜色的敏感度,将彩色图像的红、绿、蓝三个通道的像素值按照一定权重进行加权平均,得到灰度图像的像素值。 在RGB图像中,每个像素点由红、绿、蓝三个分量组成…...
PCA+DBO+DBSCN聚类,蜣螂优化算法DBO优化DBSCN聚类,适合学习,也适合发paper!
PCADBODBSCN聚类,蜣螂优化算法DBO优化DBSCN聚类,适合学习,也适合发paper! 一、蜣螂优化算法 摘要:受蜣螂滚球、跳舞、觅食、偷窃和繁殖等行为的启发,提出了一种新的基于种群的优化算法(Dung Beetle Optim…...
创建数据库与表单以及管理表单和数据
一、用于创建数据库的命令以及作用 命令作用CREATE DATABASE 数据库名称创建新的数据库DESCRIBE 表单名称描述表单UPDATE 表单名称SET attribute新值WHERE attribute>原始值更新表单中的数据USE 数据库名称指定使用的数据库SHOW databases显示当前已有的数据库SHOW tables显…...
Milvus+ATTU环境搭建
1.使用Docker Compose安装Milvus Standalone 下载安装单机版milvus向量数据库 https://milvus.io/docs/install_standalone-docker.md wget https://github.com/milvus-io/milvus/releases/download/v2.2.12/milvus-standalone-docker-compose.yml -O docker-compose.yml sud…...
Python 基于 OpenCV 视觉图像处理实战 之 OpenCV 简单实战案例 之八 简单水彩画效果
Python 基于 OpenCV 视觉图像处理实战 之 OpenCV 简单实战案例 之八 简单水彩画效果 目录 Python 基于 OpenCV 视觉图像处理实战 之 OpenCV 简单实战案例 之八 简单水彩画效果 一、简单介绍 二、简单图像浮雕效果实现原理 三、简单水彩画效果案例实现简单步骤 四、注意事项…...
Chrome浏览器 安装Vue插件vue-devtools
前言 vue-devtools 是一个为 Vue.js 开发者设计的 Chrome 插件。它可以让你更轻松地审查和调试 Vue 应用程序。与普通的浏览器控制台工具不同,Vue.js devtools 专为 Vue 的响应性数据和组件结构量身定做。 1. 功能介绍 组件树浏览:这个功能可以让你查…...
相册清理大师-手机重复照片整理、垃圾清理软件
相册清理大师是一款超级简单实用的照片视频整理工具。通过便捷的操作手势,帮助你极速整理相册中的照片和视频、释放手机存储空间。 【功能简介】 向上滑动:删除不要的照片 向左滑动:切换下一张照片 向右滑动:返回上一张照片 整理分…...
【GitLab】Ubuntu 22.04 快速安装 GitLab
在 Ubuntu 22.04 上安装最新版本的 GitLab,可以按照以下步骤操作: 1. 更新系统: 在终端中执行以下命令以确保系统是最新的: sudo apt update sudo apt upgrade2. 安装依赖: 安装 GitLab 所需的依赖包: …...
Linux重点思考(下)--shell脚本使用以及内核开发
Linux重点思考(下)--shell脚本使用和组合拳 shell脚本的基础算法shell脚本写123...n的值,说思路Shell 脚本用于执行服务器性能测试的死循环Shell 脚本备份和定时清理垃圾文件 shell脚本的内核开发正向映射反向映射 shell脚本的基础算法 shell脚本写123……...
2024世界技能大赛某省选拔赛“网络安全项目”B模块--应急响应解析
广东省第三届职业技能大赛“网络安全项目”B模块任务书 PS: 关注鱼影安全第一部分 网络安全事件响应任务 1:应急响应第二部分 数字取证调查第三部分 应用程序安全:需要环境可以私信博主~PS: 关注鱼影安全 模块 B 竞赛项目试题 本文件为:2024世界技能大赛某省选拔赛-模块 B …...
苹果与百度合作,将在iPhone 16中使用生成式AI
3月25日,《科创板日报》消息,苹果将与百度进行技术合作,为今年即将发布的iPhone16、Mac系统和iOS 18提供生成式AI(AIGC)功能。 据悉,苹果曾与阿里巴巴以及另外一家国产大模型厂商进行了技术合作洽谈。最终…...
java中的单例模式
一、描述 单例模式就是程序中一个类只能有一个对象实例 举个例子: //引出单例模式,一个类中只能由一个对象实例 public class Singleton1 {private static Singleton1 instance new Singleton1();//通过这个方法来获取实例public static Singleton1 getInstance…...
pytorch笔记篇:pandas之数据预处理(更新中)
pytorch笔记篇:pandas之数据预处理 pytorch笔记篇:pandas之数据预处理(更新中)测试例代码相关的算子 pytorch笔记篇:pandas之数据预处理(更新中) 测试例代码 print(train_data.iloc[0:4, [0, 1, 2, 3, -3, -2, -1]]) # (※1) 为什么test_da…...
【安全用电管理系统的应用如何保证用电安全】Acrel-6000安科瑞智慧安全用电解决方案
政策背景 国家部委 ※2017年5月3日国务院安委会召开电气火灾综合治理工作视频会议,决定在全国范围内组织开展为期3年的电气火灾综合治理工作。 公安部领导 ※公安部副部长李伟强调:向科技要战斗力,加快推进“智慧消防”建设不断提升火灾防控…...
数据分析之POWER Piovt透视表分析
将几个数据表之间进行关联 生成数据透视表 超级透视表这里的字段包含子字段 这三个月份在前面的解决办法 1.选中这三个月份,鼠标可移动的时候移动到后面 2.在原数据进行修改 添加列获取月份,借助month的函数双击日期 选择月份这列----按列排序-----选择月…...
19c补丁后oracle属主变化,导致不能识别磁盘组
补丁后服务器重启,数据库再次无法启动 ORA01017: invalid username/password; logon denied Oracle 19c 在打上 19.23 或以上补丁版本后,存在与用户组权限相关的问题。具体表现为,Oracle 实例的运行用户(oracle)和集…...
7.4.分块查找
一.分块查找的算法思想: 1.实例: 以上述图片的顺序表为例, 该顺序表的数据元素从整体来看是乱序的,但如果把这些数据元素分成一块一块的小区间, 第一个区间[0,1]索引上的数据元素都是小于等于10的, 第二…...
label-studio的使用教程(导入本地路径)
文章目录 1. 准备环境2. 脚本启动2.1 Windows2.2 Linux 3. 安装label-studio机器学习后端3.1 pip安装(推荐)3.2 GitHub仓库安装 4. 后端配置4.1 yolo环境4.2 引入后端模型4.3 修改脚本4.4 启动后端 5. 标注工程5.1 创建工程5.2 配置图片路径5.3 配置工程类型标签5.4 配置模型5.…...
python打卡day49
知识点回顾: 通道注意力模块复习空间注意力模块CBAM的定义 作业:尝试对今天的模型检查参数数目,并用tensorboard查看训练过程 import torch import torch.nn as nn# 定义通道注意力 class ChannelAttention(nn.Module):def __init__(self,…...
突破不可导策略的训练难题:零阶优化与强化学习的深度嵌合
强化学习(Reinforcement Learning, RL)是工业领域智能控制的重要方法。它的基本原理是将最优控制问题建模为马尔可夫决策过程,然后使用强化学习的Actor-Critic机制(中文译作“知行互动”机制),逐步迭代求解…...
C++:std::is_convertible
C++标志库中提供is_convertible,可以测试一种类型是否可以转换为另一只类型: template <class From, class To> struct is_convertible; 使用举例: #include <iostream> #include <string>using namespace std;struct A { }; struct B : A { };int main…...
day52 ResNet18 CBAM
在深度学习的旅程中,我们不断探索如何提升模型的性能。今天,我将分享我在 ResNet18 模型中插入 CBAM(Convolutional Block Attention Module)模块,并采用分阶段微调策略的实践过程。通过这个过程,我不仅提升…...
.Net框架,除了EF还有很多很多......
文章目录 1. 引言2. Dapper2.1 概述与设计原理2.2 核心功能与代码示例基本查询多映射查询存储过程调用 2.3 性能优化原理2.4 适用场景 3. NHibernate3.1 概述与架构设计3.2 映射配置示例Fluent映射XML映射 3.3 查询示例HQL查询Criteria APILINQ提供程序 3.4 高级特性3.5 适用场…...
Oracle查询表空间大小
1 查询数据库中所有的表空间以及表空间所占空间的大小 SELECTtablespace_name,sum( bytes ) / 1024 / 1024 FROMdba_data_files GROUP BYtablespace_name; 2 Oracle查询表空间大小及每个表所占空间的大小 SELECTtablespace_name,file_id,file_name,round( bytes / ( 1024 …...
大模型多显卡多服务器并行计算方法与实践指南
一、分布式训练概述 大规模语言模型的训练通常需要分布式计算技术,以解决单机资源不足的问题。分布式训练主要分为两种模式: 数据并行:将数据分片到不同设备,每个设备拥有完整的模型副本 模型并行:将模型分割到不同设备,每个设备处理部分模型计算 现代大模型训练通常结合…...
