湖南网站建设制作/推广普通话的意义
我们很高兴地宣布WhaleStudio 2.6版本的正式发布!新版本中包含了数据调度模块WhaleScheduler和数据集成模块WhaleTunnel的百余项核心功能更新,本文摘选了WhaleScheduler常用功能更新的概况,关于WhaleTunnel的更新详情将于近期发布,欢迎关注!
WhaleStudio中的调度模块WhaleScheduler作为一款全球领先的数据工作流调度系统,一直致力于为用户提供更加高效、便捷的功能。本次版本更新,我们特别优化和增强了多个功能模块,解决了许多用户在日常工作中遇到的实际问题,详情欢迎查看文末联系方式咨询。
WhaleScheduler是白鲸开源Apache DolphinScheduler核心研发团队打造的新一代调度工具,继承了开源使用简单、分布式、易扩展的优点,同时加入大量商业版本功能,支持多云、信创环境的数据源与环境部署。
实时任务管理支持
现在越来越多的用户开始使用实时数据仓库,从数据CDC抽取到数据实时加工及展示,从而支持风控、经济业务、银行在线分析等实时场景。在2.6版本中,我们还新增了对多种实时任务的全面支持, 用户可以更便捷地进行编辑、管理、控制和删除操作,全面升级用户实时数据仓库开发能力。这些实时任务包括:
- Spark Streaming
- Flink Streaming
- WhaleTunnel Streaming(CDC)
- Java Jar
此外,我们为上述任务提供了高级配置与编辑功能:
- Jar任务托管:可以在资源中心/Git中进行托管并进行部署运维。
- Flink实时组件配置:支持Flink实时组件的原生参数配置。
- WhaleTunnel CDC任务:可以进行参数传递,包括循环调用。
工作流复制功能增强
另一方面,随着用户的产品越来越多,帮助用户提高工作流使用的便捷性,是2.6版本中的重要目标。
在日常工作中,您是否经常遇到这样的场景?不同项目使用的表和处理过程非常相似,然而在使用工作流复制功能时,却发现其中的逻辑节点和子节点无法被复制。这给很多用户带来了不便和额外的工作量。为了解决这个问题,WhaleStudio 2.6版本新增复制逻辑任务节点、支持级联复制子工作流、跨项目复制子工作流功能:
01 支持复制逻辑任务节点
在2.6版本中,工作流复制功能得到了显著增强。现在,您可以轻松地复制包含逻辑任务节点的工作流。这意味着,即使工作流中包含复杂的逻辑判断和处理节点,也可以在不同项目中快速复用,极大地提高了工作效率。
02 级联复制子工作流
另一个令人激动的改进是,当工作流中包含子工作流时,复制操作将支持级联复制子工作流。这意味着,整个工作流结构,包括所有嵌套的子工作流,都可以一并复制,不再需要手动一个一个节点进行复制。这项功能不仅简化了操作流程,还确保了工作流的一致性和完整性。
03 支持跨项目复制子工作流
在2.6版本中,工作流复制功能进一步增强,新增支持跨项目复制工作流。现在,您可以轻松地将工作流从一个项目复制到另一个项目中,实现资源和配置的跨项目共享,进一步提升了工作效率和项目协同能力。
依赖任务功能增强
为了提升依赖任务(DEPENDENT)的灵活性和易用性,我们在2.6版本中进行了多项改进:
- 弱依赖模式:为了提高任务调度的灵活性,我们新增了任务组件的运行标志“失败继续”的弱依赖模式。在这种模式下,当前任务节点执行失败(例如等待1小时还为满足要求,而失败)不会阻断当前流程,后续任务将正常提交执行。
- 业务日期修改为牌日期:明确表示当选择牌日期时将会根据依赖规则在当前工作流的牌所使用的日历上进行查找对应业务日期。
- 新增月维度的时间依赖选项:牌日期依赖新增了月纬度的时间选项,增加了时间依赖的灵活性。
- 依赖所有任务(ALL):不再单独检查任务状态,而是检查整个工作流的执行状态。被依赖的工作流中的任务可以修改和删除了。
- 依赖检查优化:依赖检查时不再取“最后结束时间”而是取“最后开始时间”作为判断最新实例的条件,避免后启动的实例先完成而导致依赖判断出错的问题。
- 自然日时间依赖不使用日历:自然日的时间依赖现在无需使用日历,简化了依赖设置。
多种任务功能增强
为了进一步提升任务功能的多样性和灵活性,我们在2.6版本中进行了多项增强:
01 SQL任务
优化了SQL任务的参数传递。在SQL任务中设置传出参数时,现在能够获取并向后传递多行的返回结果。这一改进大大增强了SQL任务的灵活性和实用性,使得处理复杂查询和数据传递更加方便。
02 DATA QUALITY任务
在2.6版本中,DATA QUALITY任务得到了显著增强。现在,您可以使用参数变量替换表名和过滤条件中的部分字符,从而可以使用循环节点或者前面的SQL节点的内容来批量控制数据质量。这使得数据质量管理更加动态和灵活。
03 BREAK任务
新增了BREAK逻辑任务节点。该节点允许在执行到此节点时自动暂停流程并发送告警通知,从而让用户可以手工参与到工作流的安排中。这一功能使得工作流调度更加灵活,并能够及时响应和处理异常情况。
04 资源池任务优先/工作流优先任选
在 2.6版本中,我们对资源池配置进行了优化,增加了优先策略设置。用户现在可以选择任务优先或工作流优先,这将影响任务在资源池队列中的排序规则。特别是当选择工作流优先时,系统将保证先提交的工作流优先完成。这一功能优化了资源分配和任务调度策略,使调度过程更加高效和合理。
影响分析与展示性能优化
为了提升用户体验和系统性能,2.6版本在整体展示性能上进行了显著优化,现在画布可支持同时展示数千个节点。
此外,我们对展示范围和逻辑进行了重构:
- 展示范围更新:仅展示处于依赖链条上的节点,减少不必要的节点显示,提高画面清晰度和操作性能。
- 展示逻辑重构:以起点(被搜索节点)为中心,按依赖关系的层数由近到远进行展示。具体如下:
- x轴:节点与起点的相隔层数关系,同一层数的节点在同一列。
- y轴:以工作流为纬度,展示节点与起点的相隔关系。
- 画布布局:左侧展示节点的父关系链路,右下侧展示节点的子关系链路。
同时我们对页面的搜索逻辑进行了优化,改进了搜索返回结果的方式。当搜索工作流或节点时,结果将分批返回,提升了搜索效率和页面响应速度。
工作流导入导出及管理优化
我们还改进了工作流的导入导出功能以及管理体验,确保用户在操作时更加便捷和安全:
01 工作流导入新增权限校验
在导入工作流时,新增了权限校验功能。如果您没有文件内工作流配置中引用资源或配置的使用权限,将无法成功导入到目标项目中。这一改进提高了系统的安全性和数据完整性,也避免导入数据后因为权限原因无法执行。
02 工作流Excel导入导出模版更新
我们更新了工作流的Excel导入导出模版,使操作更加直观和易用,进一步提升了用户体验。这样在维护上万个工作流的时候,维护好Excel模板就可以快速导入导出。
03 工作流上下线
现在,工作流上线后允许用户打开查看工作流内的配置信息。这样您可以在工作流上线后依然检查和查看其详细配置,确保一切运行如预期,而不用先下线才能看工作流内部信息。
04 工作流列表优化
我们调整了工作流定义名称列的宽度比例,并增加了列表中每列的宽度上限。这样,即使某些列内容较少,也不会导致某些列特别宽,整体界面更加美观和协调。
小结
WhaleScheduler 2.6版本中,我们发布了多达78项核心功能的更新,旨在全面提升用户体验和系统性能。本次升级涵盖了工作流复制、实时任务管理、导入导出管理、多种任务功能、DEPENDENT任务增强、资源池配置优化,以及影响分析与展示性能优化等多个方面,本文仅摘选了2.6版本当中的一些常用功能更新,如果您对WhaleScheduler或者WhaleStudio感兴趣,欢迎垂询。
- 邮箱: xiyan@whaleops.com
- 加V:17743592110
- 公司网站: www.whaleops.com
白鲸开源
白鲸开源是一家开源原生的DataOps商业公司,是国家高新技术企业,由多个Apache Foundation Member成立,80%员工都是 Apache Committer,运营2个全球Apache开源项目(DolphinScheduler, SeaTunnel)。白鲸开源已根据全球最佳实践发布商业版产品WhaleStudio(含白鲸数据调度平台WhaleScheduler和白鲸数据集成平台WhaleTunnel)。我们致力于打造下一代开源原生的DataOps 平台,助力企业在大数据和云时代,智能化地完成多数据源、多云及信创环境的数据集成、调度开发和治理,以提高企业解决数据问题的效率,提升企业分析洞察能力和决策能力。
本文由 白鲸开源科技 提供发布支持!
相关文章:

WhaleStudio 2.6重磅发布!调度模块WhaleScheduler更新78项核心功能
我们很高兴地宣布WhaleStudio 2.6版本的正式发布!新版本中包含了数据调度模块WhaleScheduler和数据集成模块WhaleTunnel的百余项核心功能更新,本文摘选了WhaleScheduler常用功能更新的概况,关于WhaleTunnel的更新详情将于近期发布,…...
笔记101:OSQP求解器的底层算法 -- ADMM算法
前言1:这篇博客仅限于介绍拉格朗日乘子法,KKT条件,ALM算法,ADMM算法等最优化方法的使用以及简版代码实现,但不会涉及具体的数学推导;不过在下面我会给出具体数学推导的相关文章和截图,供学有余力…...

Java银系统/超市收银系统/智慧新零售/ERP进销存管理/线上商城/h5/小程序
>>>系统简述: 神点收银系统支持B2B2C多商户模式,系统基于前后端分离的架构,后端采用Java SpringBoot Mysql Mybatis Plus,前端基于当前流行的Uniapp、Element UI,支持小程序、h5。架构包含:会员端…...

大学网页制作作品1
作品须知:1.该网页作品预计分为5个页面(其中1个登录页面,1个首页主页面,3个分页面),如需要可自行删改增加页面。(总共约800行html,1200行css,100行js) 2.此网页源代码只用于学习和模…...

【会议征稿,IEEE出版】第三届机器人、人工智能与智能控制国际会议(RAIIC 2024,7月5-7)
第三届机器人、人工智能与智能控制国际会议(RAIIC 2024)将于2024年7月5-7日中国绵阳举行。 RAIIC 2024是汇聚业界和学术界的顶级论坛,会议将邀请国内外著名专家就以传播机器人、人工智能与智能控制领域的技术进步、研究成果和应用做专题报告…...

离线部署OpenIM
目录 1.提取相关安装包和镜像 2.安装docker和docker-compose 3.依次导入镜像 4.解压安装包 5.执行安装命令 6.PC Web 验证 7.开放端口 7.1IM 端口 7.2Chat 端口 7.3 PC Web 及管理后台前端资源端口 “如果您在解决类似问题时也遇到了困难,希望我的经验分享…...

sql:between and日期毫秒精度过多导致的查询bug
复现 一般情况下,前端传的日期值大多都是yyyy-MM-dd HH:mm:ss(标准格式),比如2024-06-25 10:49:50,但是在测试环境,测试人员测出了一个带毫秒的日期:比如2024-06-25 10:49:50.9999999 这种情况下会出现查询bug SELEC…...

【日常记录】【JS】优雅检测用户是否在指定元素的外部点击
文章目录 1、界面基本布局2、代码实现3、参考链接 1、界面基本布局 <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0">…...

MySQL 5.7.42 主从复制环境搭建
MySQL 5.7.42 主从复制环境搭建 下载MySQL二进制包操作系统环境配置安装过程搭建从库 本次安装环境: OS版本:Red Hat Enterprise Linux Server release 6.8 (Santiago) MySQL版本:5.7.42 架构:同一台机器,多实例安装搭…...

【Excel】单元格如何设置可选项、固定表头
设置可选项 固定表头:视图---冻结窗口...

大模型ReAct:思考与工具协同完成复杂任务推理
ReAct: Synergizing Reasoning and Acting in Language Models Github:https://github.com/ysymyth/ReAct 一、动机 人类的认知通常具备一定的自我调节(self-regulation)和策略制定(strategization)的能力࿰…...

深入了解银行核心账务系统及其测试的重要性
在数字化金融时代,银行的核心账务系统是保证银行业务稳定、安全运行的关键所在。这些系统,如核心账务系统、总账系统和财务会计管理系统,宛如银行的“中枢神经”,掌控着资金的流动和账务的处理。无论是存款、取款、贷款还是转账&a…...

实习公司内部OA系统项目经验
文章目录 前言一、请介绍一下你实习所做的项目?二、你觉得你项目的难点有哪些?三、你这个考勤打卡功能可以详细介绍一下吗1. 功能需求分析2. 系统设计与架构3. 数据库设计4. 具体实现5. 测试与优化四、Redis缓存技术用到哪里了请详细介绍一下1.应用场景2.缓存设计3.具体实现4…...

Ansys Zemax|在设计抬头显示器(HUD)时需要使用哪些工具?
附件下载 联系工作人员获取附件 汽车抬头显示器或汽车平视显示器,也被称为HUD,是在汽车中显示数据的透明显示器,不需要用户低头就能看到他们需要的重要资讯。这个名字的由来是由于该技术能够让飞行员在头部“向上”并向前看的情况下查看信息…...

Linux系统移动光标类命令
天行健,君子以自强不息;地势坤,君子以厚德载物。 每个人都有惰性,但不断学习是好好生活的根本,共勉! 文章均为学习整理笔记,分享记录为主,如有错误请指正,共同学习进步。…...

Vitis Accelerated Libraries 学习笔记--Vision 库的组织结构
1. 简介 Vision 库的组织结构如下: ├── L1/ │ ├── README.md │ ├── examples/ │ ├── include/ │ ├── lib/ │ └── tests/ ├── L2/ │ ├── README.md │ ├── examples/ │ └── tests/ ├── L3/ │ ├── R…...

HTML+CSS 彩色浮雕按钮
效果演示 实现了一个彩色按钮特效,包括一个按钮(button)和一个前景色(::before)。按钮具有四种不同的颜色,当鼠标悬停在按钮上时,前景色会出现渐变效果,并且按钮的颜色、文本阴影和边…...

ChatBI开源实现: 基于SuperSonic的AI+BI的产品设计
产品起源 为什么要做这样的产品?文章《ChatBI开源实现: AIBI的产品设计》中有介绍 为什么要自己做这样的产品?1、低成本试错;2、未来数据生态入口; 为什么要基于Supersonic做? 开源协议友好:可魔改商用 社区…...

【嵌入式Linux】i.MX6ULL 外部中断服务函数的初始化
文章目录 1. Cortex-A7 中断系统1.1 分析1.2 具体处理流程 2. 外部中断服务函数的初始化2.1 基本流程分析2.2 具体代码分析2.2.1. 定义中断处理类型和结构体2.2.2. 初始化中断系统2.2.3. 注册中断处理函数2.2.4. 具体的中断处理逻辑2.2.5. 默认的中断处理函数 3. 完整代码 本文…...

线性代数、矩阵计算
一、线性代数 1、对于向量,若a是标量,为a的绝对值乘以b的向量长度。 2、点乘 3、范数:向量或者矩阵的长度 L1范数:(对向量)每个元素的绝对值求和 L2范数:(对向量)torch.…...

PostgreSQL 高级功能(五)
1. 存储过程与函数 1.1 创建存储过程 存储过程是一组预编译的SQL语句,可以简化复杂的操作。以下是一个简单的存储过程示例: CREATE OR REPLACE FUNCTION add_user(username VARCHAR, email VARCHAR) RETURNS VOID AS $$ BEGININSERT INTO users (use…...

食品企业仓储式批发零售一体化解决方案
食品企业需要有效应对日益复杂的市场挑战和消费者需求的快速变化的挑战并提升市场竞争力,仓储式类的批发零售一体化需求应运而生。这一全新的商业模式不仅整合了传统的批发和零售模式,还优化了供应链管理和客户体验,成为食品行业发展的新引擎…...

chrome插件,修改对应URL的http请求的header头,包括ajax请求
要创建一个可以灵活修改HTTP请求头的Chrome扩展,包括一个用户界面来动态设置头部名称和值,可以按照以下步骤进行。我们会用到 chrome.storage API 来保存用户的设置,并在后台脚本中使用这些设置来修改请求头。 文件结构 my_chrome_extensio…...

C语言 | Leetcode C语言题解之第191题位1的个数
题目: 题解: int hammingWeight(uint32_t n) {int ret 0;while (n) {n & n - 1;ret;}return ret; }...

【C++11(二)】lambda表达式和可变参数模板
一、可变参数模板 C11的新特性可变参数模板 能够让您创建可以接受 可变参数的函数模板和类模板 // Args是一个模板参数包,args是一个函数形参参数包 // 声明一个参数包Args...args,这个参数包中可以包含0到任意个模板参数。 template <class ...Arg…...

昇思25天学习打卡营第2天|张量Tensor
张量Tensor 创建张量张量的属性张量索引张量运算 稀疏张量 总结 简单讲讲张量,数学和物理学界以一种方式定义张量,机器学习上则是以另一种方式定义张量,这里的张量也与神经网络联系紧密,神经网络需要进行大量的数学计算࿰…...

[leetcode]valid-triangle-number. 有效三角形的个数
. - 力扣(LeetCode) class Solution { public:int triangleNumber(vector<int>& nums) {int n nums.size();sort(nums.begin(), nums.end());int ans 0;for (int i 0; i < n; i) {for (int j i 1; j < n; j) {int left j 1, righ…...

java SQL server 多实例的情况
而对于java,对付多个数据库实例就有些要注意的了: 首先,同样连接字符串上加上“\实例名”: jdbc:sqlserver://127.0.0.1\\mssqlserver2008;DatabaseNameLPT; 此处应去掉端口1433。因为连接数据库自命名实例的url中没有端口号1433…...

html--404页面
<!DOCTYPE html> <html> <head> <meta http-equiv"Content-Type" content"text/html; charsetUTF-8"> <meta http-equiv"X-UA-Compatible" content"IEedge,chrome1"> <title>404 错误页面不存在&…...

[word] Word如何删除所有的空行? #职场发展#学习方法
Word如何删除所有的空行? 很多网友从网页复制文字粘贴到word文档后发现段落之间有空行,如果文字不多,手动删除这些空行也没有多少工作量,但是如果文字的字数达到成千上万,一个个手动删除这些空行还是很繁琐的。那么&a…...