DB2-Db2DefaultValueConverter
提示:
Db2DefaultValueConverter
类的核心作用是在 Debezium 数据库连接器中处理 IBM DB2 数据库表列的默认值。当 Debezium 监控 DB2 数据库的更改时,它需要能够正确地理解和表示数据库表中列的默认值,尤其是在没有明确值的情况下插入新行时。
文章目录
- 前言
- 一、核心功能
- 二、代码分析
- 总结
前言
提示:
Db2DefaultValueConverter
确保了 Debezium 在捕获和传播 DB2 数据库更改时的准确性,特别是在处理默认值时。这对于数据一致性至关重要,因为默认值可能会影响下游数据处理逻辑。
提示:以下是本篇文章正文内容
一、核心功能
核心功能详细说明
1. 初始化与构造
- Db2DefaultValueConverter 构造器:
- 接收
Db2ValueConverters
和Db2Connection
对象作为参数。 - 初始化
defaultValueMappers
映射,该映射包含对各种数据类型支持的DefaultValueMapper
实例。这些实例负责解析和转换默认值。
- 接收
2. 默认值解析
parseDefaultValue
方法:- 接收
Column
对象和默认值字符串作为输入。 - 根据列的数据类型查找相应的
DefaultValueMapper
。 - 使用找到的
DefaultValueMapper
解析默认值表达式。 - 如果解析成功,调用
convertDefaultValue
方法进行进一步转换;如果解析失败或类型不匹配,则返回Optional.empty()
。
- 接收
3. 默认值转换
convertDefaultValue
方法:- 接收解析后的默认值和
Column
对象。 - 如果配置了
valueConverters
并且默认值非空,则尝试使用valueConverters
将默认值转换为 Kafka Connect 的 Schema 兼容格式。 - 如果转换失败或不需要转换,则直接返回默认值。
- 接收解析后的默认值和
4. 默认值映射器创建
createDefaultValueMappers
方法:- 创建并返回一个
Map
,其中键是 JDBC 数据类型,值是对应的DefaultValueMapper
。 - 注册了对多种数据类型的支持,包括但不限于数值类型、日期/时间类型、字符和 Unicode 字符串类型。
- 每个注册的
DefaultValueMapper
都是一个策略,用于处理特定类型数据的默认值解析。
- 创建并返回一个
5. 特殊处理
nullableDefaultValueMapper
方法:- 提供一种处理可为空默认值的方式,允许将
"NULL"
字符串转换为 Java 的null
值。
- 提供一种处理可为空默认值的方式,允许将
booleanDefaultValueMapper
方法:- 专门用于解析布尔类型的默认值,将
"1"
和"0"
分别转换为true
和false
。
- 专门用于解析布尔类型的默认值,将
castTemporalFunctionCall
方法:- 用于处理日期和时间类型的默认值,特别是当前日期、时间和时间戳的函数调用。
6. 异常与日志处理
- 日志记录:
- 使用 SLF4J 日志框架记录信息和警告级别的消息,例如解析过程的信息和未找到映射器的警告。
二、代码分析
package io.debezium.connector.db2;import java.sql.Time;
import java.sql.Timestamp;
import java.sql.Types;
import java.util.Collections;
import java.util.HashMap;
import java.util.Map;
import java.util.Optional;import org.apache.kafka.connect.data.Field;
import org.apache.kafka.connect.data.Schema;
import org.apache.kafka.connect.data.SchemaBuilder;
import org.apache.kafka.connect.data.Struct;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;import io.debezium.DebeziumException;
import io.debezium.jdbc.JdbcConnection;
import io.debezium.relational.Column;
import io.debezium.relational.DefaultValueConverter;
import io.debezium.relational.ValueConverter;
import io.debezium.util.Strings;/*** Converter for table column's default values.* 该类用于转换数据库表列的默认值。** @author Chris Cranford*/
public class Db2DefaultValueConverter implements DefaultValueConverter {private static final Logger LOGGER = LoggerFactory.getLogger(Db2DefaultValueConverter.class);// 日志记录器,用于输出调试和警告信息private final Db2ValueConverters valueConverters;// Db2ValueConverters 实例,用于类型转换private final Map<Integer, DefaultValueMapper> defaultValueMappers;// 存储不同数据类型对应的默认值映射器// 构造器,初始化 Db2ValueConverters 和 defaultValueMapperspublic Db2DefaultValueConverter(Db2ValueConverters valueConverters, Db2Connection jdbcConnection) {this.valueConverters = valueConverters;this.defaultValueMappers = Collections.unmodifiableMap(createDefaultValueMappers(jdbcConnection));}// 解析并返回给定列的默认值@Overridepublic Optional<Object> parseDefaultValue(Column column, String defaultValue) {LOGGER.info("Parsing default value for column '{}' with expression '{}'", column.name(), defaultValue);// 获取列的 JDBC 数据类型final int dataType = column.jdbcType();// 从 defaultValueMappers 中获取对应数据类型的 DefaultValueMapperDefaultValueMapper mapper = defaultValueMappers.get(dataType);// 如果未找到映射器,检查是否为 DECIMAL FLOAT 类型if (mapper == null) {if (dataType == Types.OTHER) {if (Db2ValueConverters.matches(column.typeName().toUpperCase(), "DECFLOAT")) {mapper = nullableDefaultValueMapper();}}// 如果仍然未找到映射器,输出警告并返回空 Optionalif (mapper == null) {LOGGER.warn("Mapper for type '{}' not found.", dataType);return Optional.empty();}}// 尝试解析默认值try {Object rawDefaultValue = mapper.parse(column, defaultValue != null ? defaultValue.trim() : defaultValue);// 转换默认值Object convertedDefaultValue = convertDefaultValue(rawDefaultValue, column);// 如果转换后的默认值是 Struct 类型,输出警告并返回空 Optionalif (convertedDefaultValue instanceof Struct) {LOGGER.warn("Struct can't be used as default value for column '{}', will use null instead.", column.name());return Optional.empty();}// 返回转换后的默认值return Optional.ofNullable(convertedDefaultValue);}// 捕获并处理解析异常catch (Exception e) {LOGGER.warn("Cannot parse column default value '{}' to type '{}'. Expression evaluation is not supported.", defaultValue, dataType, e);LOGGER.debug("Parsing failed due to error", e);return Optional.empty();}}// 转换默认值private Object convertDefaultValue(Object defaultValue, Column column) {// 如果 valueConverters 不为空且默认值不为空,则进行转换if (valueConverters != null && defaultValue != null) {final SchemaBuilder schemaBuilder = valueConverters.schemaBuilder(column);if (schemaBuilder != null) {final Schema schema = schemaBuilder.build();// 创建 Field 实例final Field field = new Field(column.name(), -1, schema);// 获取 ValueConverter 实例final ValueConverter valueConverter = valueConverters.converter(column, field);// 使用 ValueConverter 转换默认值return valueConverter.convert(defaultValue);}}// 如果不需要转换,直接返回默认值return defaultValue;}// 创建 defaultValueMappers 映射private static Map<Integer, DefaultValueMapper> createDefaultValueMappers(Db2Connection connection) {final Map<Integer, DefaultValueMapper> result = new HashMap<>();// 注册支持的数据类型及其对应的 DefaultValueMapperresult.put(Types.BOOLEAN, nullableDefaultValueMapper(booleanDefaultValueMapper()));result.put(Types.BIGINT, nullableDefaultValueMapper());// ... 其他数据类型 ...// 返回不可修改的映射return result;}// 创建可处理 NULL 的 DefaultValueMapperprivate static DefaultValueMapper nullableDefaultValueMapper() {return nullableDefaultValueMapper(null);}// 创建可处理 NULL 和自定义映射的 DefaultValueMapperprivate static DefaultValueMapper nullableDefaultValueMapper(DefaultValueMapper mapper) {return (column, value) -> {if ("NULL".equalsIgnoreCase(value)) {return null;}if (mapper != null) {return mapper.parse(column, value);}return value;};}// 创建用于布尔类型的 DefaultValueMapperpublic static DefaultValueMapper booleanDefaultValueMapper() {return (column, value) -> {if ("1".equals(value.trim())) {return true;}else if ("0".equals(value.trim())) {return false;}return Boolean.parseBoolean(value.trim());};}// 创建用于日期和时间类型的 DefaultValueMapperprivate static DefaultValueMapper castTemporalFunctionCall(Db2Connection connection, int jdbcType) {return (column, value) -> {// 如果默认值为 CURRENT DATE 或 CURRENT TIME 或 CURRENT TIMESTAMP// ... 处理逻辑 ...// 否则,执行 SQL 查询以解析默认值// ... 查询逻辑 ...};}// 创建用于强制填充字符字段的 DefaultValueMapperprivate static DefaultValueMapper enforceCharFieldPadding() {return (column, value) -> value != null ? Strings.pad(unquote(value), column.length(), ' ') : null;}// 创建用于强制取消引用字符串的 DefaultValueMapperprivate static DefaultValueMapper enforceStringUnquote() {return (column, value) -> value != null ? unquote(value) : null;}// 取消引用字符串private static String unquote(String value) {// 如果字符串以 '(' 开头且以 ')' 结尾,则去掉引号// 如果字符串以单引号开头且以单引号结尾,则去掉引号// 否则,直接返回原字符串return value;}
}
Db2DefaultValueConverter
类的设计体现了面向对象编程的几个关键原则和模式,包括封装、继承、多态、以及策略模式。
-
封装:
- 封装是将数据和操作数据的方法绑定在一起,隐藏对象的属性和实现细节,仅对外暴露接口。
Db2DefaultValueConverter
封装了默认值解析和转换的逻辑,通过公共方法parseDefaultValue
提供给外部调用,而具体的实现细节如defaultValueMappers
映射和转换逻辑被隐藏在类内部。
- 封装是将数据和操作数据的方法绑定在一起,隐藏对象的属性和实现细节,仅对外暴露接口。
-
继承与多态:
- 虽然
Db2DefaultValueConverter
本身没有直接使用继承,但它依赖于DefaultValueMapper
接口的多态性,不同的DefaultValueMapper
实现可以根据具体的数据类型动态选择,这体现了多态的灵活性。
- 虽然
-
策略模式:
- 策略模式允许算法在运行时被替换,
Db2DefaultValueConverter
使用defaultValueMappers
映射来实现这一模式,根据不同的数据类型动态选择合适的DefaultValueMapper
实例,使得系统更加灵活和可扩展。
- 策略模式允许算法在运行时被替换,
设计亮点
-
模块化与解耦:
- 通过将不同的数据类型映射到独立的
DefaultValueMapper
实现,Db2DefaultValueConverter
实现了高度的模块化和解耦。这意味着添加新的数据类型支持或修改现有类型的行为变得简单,只需添加或修改相应的DefaultValueMapper
即可。
- 通过将不同的数据类型映射到独立的
-
异常处理与日志记录:
- 异常处理机制和日志记录的使用展示了良好的错误处理实践。当解析或转换默认值时遇到问题,
Db2DefaultValueConverter
不仅捕获异常,还记录详细的错误信息,有助于调试和维护。
- 异常处理机制和日志记录的使用展示了良好的错误处理实践。当解析或转换默认值时遇到问题,
-
可配置性与扩展性:
- 通过接受
Db2ValueConverters
和Db2Connection
作为构造器参数,Db2DefaultValueConverter
具备了很好的可配置性和扩展性。这允许在运行时动态调整其行为,适应不同的部署环境和需求。
- 通过接受
启发
-
面向对象设计的灵活性:
Db2DefaultValueConverter
的设计展示了面向对象设计的灵活性和可扩展性。通过策略模式和模块化设计,系统可以轻松应对未来的需求变化,无需对核心代码做重大修改。
-
代码复用与维护性:
- 通过将通用的逻辑抽象为接口和类,如
DefaultValueMapper
,代码变得更加易于复用和维护。这种设计鼓励重用现有的组件,减少重复代码,提高开发效率。
- 通过将通用的逻辑抽象为接口和类,如
-
健壮性与错误处理:
- 强调了异常处理和日志记录的重要性,确保了系统的健壮性和可维护性。即使在面对未知的错误或异常情况时,系统也能优雅地降级或恢复,同时提供足够的信息来诊断问题。
总结
提示:Db2DefaultValueConverter
是 Debezium 数据库连接器中的一个核心组件,专注于处理 IBM DB2 数据库表列的默认值解析和转换。其主要职责是确保在监控数据库变更事件时,能够正确识别和表示列的默认值,这对于数据同步和复制的准确性至关重要。
相关文章:
DB2-Db2DefaultValueConverter
提示:Db2DefaultValueConverter 类的核心作用是在 Debezium 数据库连接器中处理 IBM DB2 数据库表列的默认值。当 Debezium 监控 DB2 数据库的更改时,它需要能够正确地理解和表示数据库表中列的默认值,尤其是在没有明确值的情况下插入新行时。…...
(自适应手机端)行业协会机构网站模板
(自适应手机端)行业协会机构网站模板PbootCMS内核开发的网站模板,该模板适用于行业协会网站等企业,当然其他行业也可以做,只需要把文字图片换成其他行业的即可;自适应手机端,同一个后台,数据即时同步&#…...
视频理解调研笔记 | 2021年前视频动作分类发展脉络
前言 参考资料 本文基于以下四个李沐 AI 论文精度视频,对视频理解领域做初步调研 双流网络论文逐段精读 I3D 论文精读 视频理解论文串讲(上) 视频理解论文串讲(下) 相关论文 02014CVPRDeep VideoPDF12014NIPSTwo-Str…...
怎么通过 ssh 访问远程设备
文章目录 什么是 SSH背景环境配置前置准备在 linux 系统中安装 ssh 组件 什么是 SSH ssh 全称是 Secure Shell, 有时候也被叫做 Secure Socket Shell, 这个协议使你能通过命令行的方式安全的连接到远端计算机。当连接建立就会启动一个 shell 会话,这时你就能在你的…...
linux Ubuntu 安装mysql-8.0.39 二进制版本
我看到网上很多都写的乱七八糟, 我自己总结了一个 首先, 去Mysql官网上下载一个mysql-8.0.39二进制版本的安装包 这个你自己去下载我这里就写一个安装过程和遇到的坑 第一步 解压mysql压缩包和创建my.cnf文件 说明: 二进制安装指定版本MySQL的时候,需要手动写配置…...
ZooKeeper日志自动清理实用脚本
ZooKeeper日志自动清理:保持系统整洁的实用脚本 在管理ZooKeeper集群时,定期清理日志文件是一项重要但常被忽视的任务。本文将介绍一个简单而有效的bash脚本,用于自动清理ZooKeeper的日志和快照文件,并讨论如何使用cron来定期执行此脚本。 磁盘告警,所以写了一个脚…...
KVM+GFS分布式存储系统构建高可用
一:部署GFS高可用分布式存储环境 1:安装部署 KVM 虚拟化平台 2:部署 GlusterFS 在所有节点上执行如下命令: (1)关闭防所有节点的防火墙、SELiunx systemctl stop firewalldsystemctl disable firewallds…...
CIFAR-10 数据集图像分类与可视化
数据准备 CIFAR-10 and CIFAR-100 datasets (toronto.edu)在上述网站中下载Python版本的CIFAR-10数据集。 下载后的压缩包解压后会得到几个文件如下: 对应的data_batch_1 ~ data_batch_5 是划分好的训练数据,每个文件里包含10000张图片,test…...
没有了高项!!2024软考下半年软考高级哪个最容易考过?
距离2024上半年软考考试结束已经有一段时间了,有不少小伙伴都在开始准备下半年软考了,值得注意的是:近日各省陆续公布了2024上半年软考合格名单。那么,软考高级通过率到底如何?先来看看吧! 一、上半年软考通…...
用户自定义Table API Connector(Sources Sinks)
目录 概述 Metadata Planning Runtime 扩展点 动态表工厂(Dynamic Table Factories) 动态表(Dynamic Table) 动态表源(Dynamic Table Source) 扫描表源(Scan Table Source) 查找表源(Lookup Table Source) 动态表接收器(Dynamic Table Sink) 编码/解码…...
自闭症儿童能否摘帽?摘帽成功的秘诀揭秘
自闭症,这一曾经被视为不可逆转的障碍,如今在科学的进步与社会的关注下,正逐步展现出被“摘帽”的可能性。那么,自闭症儿童真的能完全摆脱这一标签,实现真正的“摘帽”吗?答案是肯定的,关键在于…...
主题巴巴WordPress主题合辑打包下载+主题巴巴SEO插件
主题巴巴WordPress主题合辑打包下载,包含博客一号、博客二号、博客X、门户一号、门户手机版、图片一号、杂志一号、自媒体一号、自媒体二号和主题巴巴SEO插件。...
git把本地文件上传远程仓库的流程
下载git,并创建一个仓库,这里着重介绍怎么把本地文件上传参考 正确执行步骤:在你需要上传的文件夹空白处下,右键鼠标,点击git bash here $ git init初始化当前目录 $ git status看一下当前分支里面有什么,…...
基于springboot+vue+uniapp的养老院管理系统小程序
开发语言:Java框架:springbootuniappJDK版本:JDK1.8服务器:tomcat7数据库:mysql 5.7(一定要5.7版本)数据库工具:Navicat11开发软件:eclipse/myeclipse/ideaMaven包&#…...
el-popover实现点击空白区域关闭,弹窗区域不关闭
难点: 普通方法会无法关闭,虚拟触发会导致选一个关一个,不用visible显示的方法太麻烦。 所以结合其他人的方法,使用手动监听判断的方法(点击蓝色区域看参考,这大佬vue2的,我vue3) 注…...
Disjoint Set Union
Problem One : 维护区间连通块 F - Range Connect MST (atcoder.jp) 暴力模拟的话,就是基于 Kruskal 的思想,按 c c c 从小到大排序,对于每次询问,枚举检查 j ∈ [ l , r ] j\in [l,r] j∈[l,r] ,只要 j j j 与 …...
手写 Hibernate ORM 框架 05-基本效果测试
手写 Hibernate 系列 手写 Hibernate ORM 框架 00-hibernate 简介 手写 Hibernate ORM 框架 00-环境准备 手写 Hibernate ORM 框架 01-注解常量定义 手写 Hibernate ORM 框架 02-实体 Bean 定义,建表语句自动生成 手写 Hibernate ORM 框架 03-配置文件读取, 数…...
Unity材质球自动遍历所需贴图
Unity材质球自动遍历所需贴图 文章目录 Unity材质球自动遍历所需贴图一、原理二、用法1.代码:2.使用方法 一、原理 例如一个材质球名为:Decal_Text_Cranes_01_Mat , 然后从全局遍历出:Decal_Text_Cranes_01_Albedo赋值给材质球的…...
C++那些事之结构化绑定
C那些事之结构化绑定 在聊结构化绑定之前,有几个面试问题,看看你会不会? 如何使用结构化绑定访问自定义类的私有成员?如何使用结构化绑定修改自定义类的成员呢? 这几个题目估计没几个人能答上来,题目与答案…...
ECRS工时分析软件:工业工程精益生产的智慧引擎
在工业工程学的广阔领域中,程序分析一直扮演着至关重要的角色。其中,ECRS四大原则——取消、合并、重排、简化,作为程序分析的核心,旨在通过优化生产过程,实现成本的节省和精益生产的目标。如今,随着科技的…...
大语言模型的核心岗位及其要求
一、核心岗位 研究科学家(Research Scientist): 负责制定研究计划,探索新算法和模型架构。数据科学家(Data Scientist): 进行数据收集、分析和预处理。机器学习工程师(Machine Lear…...
【屏驱MCU】RT-Thread 文件系统接口解析
本文主要介绍【屏驱MCU】基于RT-Thread 系统的文件系统原理介绍与代码接口梳理 目录 0. 个人简介 && 授权须知1. 文件系统架构1.1 虚拟文件系统目录架构 2. menuconfig 分析3. 代码接口分析3.1 DFS框架挂载目录3.2 【FAL抽象层】分区表和设备表3.3 如何将【文件路径】挂…...
进程管理工具top ps
概述 top 和 ps 是 Linux 系统中两个非常重要的用于管理和监控进程的命令工具。以下是它们的主要功能和区别: 1. 动静 2. 整体 & 详细 top: 动态视图:top 提供了一个实时动态更新的视图,能够持续显示系统中当前正在运行的进程…...
2年社招冲击字节,一天三面斩获offer
在工作满两年的时间选择了求变,带着运气和实力以社招身份重新看今天的互联网环境,从结果看还是复合预期的。 整个面试的流程还挺快的。周中让招聘专员给投递了简历。问什么时候面试,申请了一个周日,直接安排三面。下周周中就开启…...
oppo,埃科光电25届秋招,快手25届技术人才专项计划等几千家企业岗位内推
oppo,埃科光电25届秋招,快手25届技术人才专项计划等几千家企业岗位内推 ①【OPPO】25届秋招开启! 内推简历优先筛选! 【岗位类别】AI/算法类,软件类,硬件类,工程技术类,品牌策划类&a…...
【Vulnhub系列】Vulnhub Lampiao-1 靶场渗透(原创)
【Vulnhub系列靶场】Vulnhub Lampiao-1靶场渗透 原文转载已经过授权 原文链接:Lusen的小窝 - 学无止尽,不进则退 (lusensec.github.io) 一、主机发现 二、端口扫描 三、web框架 四、web渗透 1、信息收集 2、目录扫描 获得版本信息7.56 3、获取shell …...
MySQL:ORDER BY 排序查询
通过 ORDER BY 条件查询语句可以查询到符合用户需求的数据,但是查询到的数据一般都是按照数据最初被添加到表中的顺序来显示。 基本语法 在MySQL中,排序查询主要通过ORDER BY子句实现。其基本语法如下: SELECT column1, column2, ... FR…...
UML类图 详解
总目录 前言 作为一个程序员,我们经常会使用UML来绘制各种图(UML中定义了用例图、类图、时序图、协作图等九种),类图就是其中常用图之一。设计模式中经常会用到的是类图,本文主要是学习UML类图相关资料后的汇总笔记&a…...
【IEEE出版 | 高录用率 | 快速检索 | 有ISBN号!】2024年智能计算与数据挖掘国际学术会议 (ICDM 2024,9月20-22)
智能计算与数据挖掘是当今信息技术领域的研究热点,并在众多领域都有着广泛的应用,如金融、医疗、教育、交通等。随着大数据时代数据量爆炸式增长,如何从海量数据中提取有价值的信息,一直是需要迭代解决的问题。 2024年智能计算与…...
DaoCloud配置不同环境的流水线(Q)
在DaoCloud自动化部署时,不知道如何分别构建生产,测试环境镜像。 Dockfile文件里有 ARG BUILD_ENV"uat" RUN npm run build:${BUILD_ENV} 这样两行代码来区分环境打包的,ARG是用于指定传递给构建运行时的变量,可是…...
初学者拟建网站/百度标注平台怎么加入
1. 给文字加阴影 最近在做一个直播的项目,本来一切顺利,结果UI妹子说要给透明背景下的文字添加阴影效果,第一次遇到这样的需求,于是呢就搜索了一下,木有找到满意的办法。转念一想,属性字符串应该是可以解决…...
昆明餐饮网站建设/启信聚客通网络营销策划
1.你的软件系统有良好定义的结构吗?2.团队里的每一个人都以一致的方式实现特性吗?3.代码库的质量水平一致吗?4.对于如何构建软件,团队有共同的愿景吗?5.团队里的每一个人都得到只够的技术指导了吗?6.有适当的技术领导力吗? 转载于:https://www.cnblogs.com/vi…...
犀牛云做的网站怎么样/网络营销策划模板
为什么晋升的不是你? 本人遇到过一个这样的状况: 昨天刚到办公室的时候,我的一个下属问我:“老大,你现在有空吗?我想找你聊聊。”“好啊,走吧”。除了每月的绩效面谈外,遇到下属主…...
wordpress 革命滑块/最近的国际新闻大事10条
在工作中,camera这一块上,可能会有各种各样的需求。比如有人想新增一个虚拟摄像头,当用户app打开摄像头设备时,打开的不是系统默认的camera hal代码,而是自己指定的代码,用自己事先准备好的视频数据&#x…...
请公司建网站/网络优化器免费
2019独角兽企业重金招聘Python工程师标准>>> JDBC Resultset获取日期时间型的几种方法 2013-01-07 22:03 6291人阅读 评论(2) 举报 分类: java(12) 版权声明:本文为博主原创文章,未经博主允许不得转载。 1…...
营销策略包括哪些内容/西安seo顾问培训
进行Android Service 测试之前要稍微熟悉Android Service的生命周期,onCreate只执行一次,完了后是OnStart()。对于一个已经启动的Service来说,再次调用startService()只会执行OnStart()了。首先我们写一个最简单的Service,建立一个…...