当前位置： 首页 > news >正文

flink的物理DataFlow图及Slot处理槽任务分配

news 2026/2/7 23:24:43

背景

在flink中，有几个比较重要的概念，逻辑DataFlow图，物理DataFlow图以及处理槽执行任务，本文就来讲解下这几个概念

概念详解

假设有以下代码：数据源和统计单词算子的并行度是2，数据汇算子的并行度是1，当前集群有100个空闲的处理槽(分别从SLOT_{A,B,C…})
在这里插入图片描述
可以看到最终我们只使用了两个处理槽,分别是SLOT_A和SLOT_B,使用的处理槽的数量和设置的算子最大并行度一样，然后在每个处理槽内，对于每个任务，处理槽会分别开启一个Thread线程进行处理,这里你会不会觉得很奇怪，我还有这么多空闲的处理槽，为何只用了其中的两个？
这其实是由flink的任务调度策略决定的，其决定的依据这样分配当有很多job在同时执行时，可以达到最佳的资源分配，详见官方文档的解释

相关文章：

flink的物理DataFlow图及Slot处理槽任务分配

背景 在flink中，有几个比较重要的概念，逻辑DataFlow图，物理DataFlow图以及处理槽执行任务，本文就来讲解下这几个概念 概念详解 假设有以下代码：数据源和统计单词算子的并行度是2，数据汇算子的并行度是1&…...

编程日记 2023/9/12 14:50:14

与面试相关的redis

这里写自定义目录标题 📝 redis的知识点数据结构及其特性，用途和操作方法持久化高可用分布式锁发布订阅性能优化安全性数据分片缓存策略键过期删除策略内存淘汰策略 🤗 总结归纳📎 参考文章 😀 这里写文章的前言&#…...

编程日记 2023/9/12 14:49:12

MapStruct从0到0.5

MapStruct从0到0.5 开发的过程，经常会用到实体类属性映射，同时为了方便，开发者也很少自己写专门的属性赋值工具类。索性会直接使用Sprrng提供的BeanUtils工具类，然后在性能上和字段属性赋值上的问题，一直是为开发者所…...

编程日记 2023/9/12 14:48:11

STM32H750 HAL CUBEMX 时钟失败及死机无法下载问题解决

芯片采样电压设置，否则 无法运行 解决死机问题 设置swd 模式 短接 boot0 —vcc 3.3v即可正常下载...

编程日记 2023/9/12 14:47:10

paddlespeech on centos7

概述 paddlespeech是百度飞桨平台的开源工具包，主要用于语音和音频的分析处理，其中包含多个可选模型，提供语音识别、语音合成、说话人验证、关键词识别、音频分类和语音翻译等功能。 paddlespeech整体是比较简单易用的，但是安装…...

编程日记 2023/9/12 14:46:09

ROM是什么？ 刷ROM是什么意思?

文章目录 ROM是什么？刷ROM是什么意思 ROM是什么？ ROM是只读内存（Read-Only Memory）的简称，是一种只能读出事先所存数据的固态半导体存储器。其特性是一旦储存资料就无法再将之改变或删除。通常用在不需经常变更资料的…...

编程日记 2023/9/12 14:45:07

华为云Stack的学习（五）

六、华为云stack服务简介 1.云服务在华为云Stack中的位置 云服务对接多个数据中心资源池层提供的资源，并向各种行业应用提供载体。 2.华为云Stack通用服务 2.1 云计算的服务模式 2.2 计算相关的云服务 2.3 存储相关的云服务 2.4 网络相关的云服务 3.云化案例 **…...

编程日记 2023/9/12 14:44:07

【LeetCode-中等题】904. 水果成篮

文章目录 题目方法一：滑动窗口方法二： 题目 题目的意思就是：找至多包含两种元素的最长子串，返回其长度 方法一：滑动窗口 class Solution { // 滑动窗口 找至多包含两种元素的最长子串，返回其长度public …...

编程日记 2023/9/12 14:43:06

【C++】哈希——哈希的概念，应用以及闭散列和哈希桶的模拟实现

前言： 前面我们一同学习了二叉搜索树，以及特殊版本的平衡二叉搜索树，这些容器让我们查找数据的效率提高到了O(log^2 N)。虽然效率提高了很多，但是有没有一种理想的方法使得我们能提高到O(1)呢？其实在C语言数据结构中&a…...

编程日记 2023/9/12 14:42:04

Kubernetes (K8s) 解读：微服务与容器编排的未来

🌷🍁 博主猫头虎（🐅🐾）带您 Go to New World✨🍁 🐅🐾猫头虎建议程序员必备技术栈一览表📖： 🛠️ 全栈技术 Full Stack: &#x1f4da…...

编程日记 2023/9/12 14:41:03

JavaScript学习--Day04

元字符 边界符： /^/：以什么开头 /$/：以什么结尾 量词： 预定义类：...

编程日记 2023/9/12 14:40:02

HCS 基本概念（三）

一、定义 HCS采用FusionSphere OpenStack作为云平台，对各个物理数据中心资源做整合，采用ManageOne作为数据中心管理软件对多个数据中心提供统一管理，通过云平台和数据中心管理软件协同运作，达到多数据中心融合、提升企业整体IT效率…...

编程日记 2023/9/12 14:39:00

通过curl命令分析http接口请求各阶段的耗时等

目录 一、介绍二、功能1、-v 输出请求 响应头状态码 响应文本等信息2、-x 测试代理ip是否能在该网站使用3、-w 额外输出查看接口请求响应的消耗时间4、-o 将响应结果存储到文件里面5、-X post请求测试 (没测成功用的不多) 一、介绍 Curl是一个用于发送和接收请求的命令行工具和…...

编程日记 2023/9/12 14:37:59

Linux工具——gcc

目录 一，gcc简介 二，C语言源文件的编译过程 1.预处理 2.编译 3.汇编 4.链接 5.动静态库 一，gcc简介 相信有不少的小白和我一样在学习Linux之前只听说过visual studio。其实这个gcc这个编译器实现的功能便是和visual studio一样的功能&…...

编程日记 2023/9/12 14:36:59

uni-app 使用uCharts-进行图表展示（折线图带单位）

前言 在uni-app经常是需要进行数据展示，针对这个情况也是有人开发好了第三方包，来兼容不同平台展示 uCharts和pc端的Echarts使用差不多，甚至会感觉在uni-app使用uCharts更轻便，更舒服 但是这个第三方包有优点就会有缺点&#xf…...

编程日记 2023/9/12 14:35:57

180B参数的Falcon登顶Hugging Face，vs chatGPT 最好开源大模型使用体验

文章目录 使用地址使用体验test1：简单喜好类问题test2：知识性问题test3：开放性问题test4：中文支持test5：问题时效性test6：学术问题使用地址 https://huggingface.co/spaces/tiiuae/falcon-180b-demo 使用体验 相比Falcon-7b，Falcon-180b拥有1800亿的参数量...

编程日记 2023/9/12 14:34:54

服务器数据恢复-EMC存储磁盘损坏的RAID5数据恢复案例

服务器数据恢复环境： 北京某单位有一台EMC某型号存储，有一组由10块STAT硬盘组建的RAID5阵列，另外2块磁盘作为热备盘使用。RAID5阵列上层只划分了一个LUN，分配给SUN小机使用，上层文件系统为ZFS。 服务器故障&#xff1…...

编程日记 2023/9/12 14:33:53

Nginx优化文件上传大小限制

Nginx默认配置 Nginx 默认情况下，上传文件的大小为1M，超过1M就会返回413错误。只用对Nginx进行简单配置即可解决问题。 优化Nginx文件上传大小限制 可以在Nginx配置文件中配置 client_max_body_size 配置项。 设置客户端请求正文允许的最大大小。如果…...

编程日记 2023/9/12 14:32:52

navicat SSH连接数据库报错: Putty key format too new

问题 下载 Putty 0.79 生成了密钥，但是在navicat 15 使用SSH通道连接数据库报错: Putty key format too new 错误原因和处理 原来是因为生成的私钥格式是 V3 ， navicat 15 只能识别 V2 所以，在 PuTTYgen Load 私钥，重新保存为 …...

编程日记 2023/9/12 14:31:51

基于大规模MIMO通信系统的半盲信道估计算法matlab性能仿真

目录 1.算法运行效果图预览 2.算法运行软件版本 3.部分核心程序 4.算法理论概述 5.算法完整程序工程 1.算法运行效果图预览 2.算法运行软件版本 matlab2022a 3.部分核心程序 %EM算法收敛所需的迭代 nIter 1; Yp Y(:,1:L_polit,:); %与导频序列相对应的部分 q…...

编程日记 2023/9/12 14:30:50

进程地址空间（比特课总结）

一、进程地址空间 1. 环境变量 1 ）⽤户级环境变量与系统级环境变量 全局属性：环境变量具有全局属性，会被⼦进程继承。例如当bash启动⼦进程时，环 境变量会⾃动传递给⼦进程。 本地变量限制：本地变量只在当前进程(ba…...

编程新知 2025/11/15 6:48:52

盘古信息PCB行业解决方案：以全域场景重构，激活智造新未来

一、破局：PCB行业的时代之问 在数字经济蓬勃发展的浪潮中，PCB（印制电路板）作为 “电子产品之母”，其重要性愈发凸显。随着 5G、人工智能等新兴技术的加速渗透，PCB行业面临着前所未有的挑战与机遇。产品迭代…...

编程新知 2026/2/7 17:29:24

UDP(Echoserver)

网络命令 Ping 命令 检测网络是否连通 使用方法: ping -c 次数 网址ping -c 3 www.baidu.comnetstat 命令 netstat 是一个用来查看网络状态的重要工具. 语法：netstat [选项] 功能：查看网络状态 常用选项： n 拒绝显示别名&#…...

编程新知 2026/1/24 7:56:15

STM32标准库-DMA直接存储器存取

文章目录 一、DMA1.1简介1.2存储器映像1.3DMA框图1.4DMA基本结构1.5DMA请求1.6数据宽度与对齐1.7数据转运DMA1.8ADC扫描模式DMA 二、数据转运DMA2.1接线图2.2代码2.3相关API 一、DMA 1.1简介 DMA（Direct Memory Access）直接存储器存取 DMA可以提供外设…...

编程新知 2026/1/26 10:55:51

【OSG学习笔记】Day 16: 骨骼动画与蒙皮（osgAnimation）

骨骼动画基础 骨骼动画是 3D 计算机图形中常用的技术，它通过以下两个主要组件实现角色动画。 骨骼系统 (Skeleton)：由层级结构的骨头组成，类似于人体骨骼蒙皮 (Mesh Skinning)：将模型网格顶点绑定到骨骼上，使骨骼移动…...

编程新知 2026/2/1 5:42:50

select、poll、epoll 与 Reactor 模式

在高并发网络编程领域，高效处理大量连接和 I/O 事件是系统性能的关键。select、poll、epoll 作为 I/O 多路复用技术的代表，以及基于它们实现的 Reactor 模式，为开发者提供了强大的工具。本文将深入探讨这些技术的底层原理、优缺点。​ 一、I…...

编程新知 2026/2/6 17:10:42

基于SpringBoot在线拍卖系统的设计和实现

摘 要 随着社会的发展，社会的各行各业都在利用信息化时代的优势。计算机的优势和普及使得各种信息系统的开发成为必需。 在线拍卖系统，主要的模块包括管理员；首页、个人中心、用户管理、商品类型管理、拍卖商品管理、历史竞拍管理、竞拍订单…...

编程新知 2026/1/26 13:25:02

Git 3天2K星标：Datawhale 的 Happy-LLM 项目介绍（附教程）

引言 在人工智能飞速发展的今天，大语言模型（Large Language Models, LLMs）已成为技术领域的焦点。从智能写作到代码生成，LLM 的应用场景不断扩展，深刻改变了我们的工作和生活方式。然而，理解这些模型的内部…...

编程新知 2026/1/29 11:06:33

打手机检测算法AI智能分析网关V4守护公共/工业/医疗等多场景安全应用

一、方案背景​ 在现代生产与生活场景中，如工厂高危作业区、医院手术室、公共场景等，人员违规打手机的行为潜藏着巨大风险。传统依靠人工巡查的监管方式，存在效率低、覆盖面不足、判断主观性强等问题，难以满足对人员打手机行为精…...

编程新知 2026/2/7 21:37:35

Vite中定义@软链接

在webpack中可以直接通过符号表示src路径，但是vite中默认不可以。 如何实现： vite中提供了resolve.alias：通过别名在指向一个具体的路径 在vite.config.js中 import { join } from pathexport default defineConfig({plugins: [vue()],//…...

编程新知 2026/1/24 13:26:57