FlinkCDC 数据同步优化及常见问题排查
【面试系列】Swift 高频面试题及详细解答
欢迎来到我的博客,很高兴能够在这里和您见面!欢迎订阅相关专栏:
欢迎关注微信公众号:野老杂谈
⭐️ 全网最全IT互联网公司面试宝典:收集整理全网各大IT互联网公司技术、项目、HR面试真题.
⭐️ AIGC时代的创新与未来:详细讲解AIGC的概念、核心技术、应用领域等内容。
⭐️ 全流程数据技术实战指南:全面讲解从数据采集到数据可视化的整个过程,掌握构建现代化数据平台和数据仓库的核心技术和方法。
文章目录
- Flink 作业优化参数
- Debezium 连接器优化参数
- Kafka Sink 优化参数
- 资源分配
- 监控和调试
- 示例配置
- 常见问题及解决方法
- 总结
Flink CDC 性能优化主要涉及到 Flink 作业的配置、Debezium 连接器的参数调整以及资源的合理分配。以下是一些常用的性能优化参数及其解释:
Flink 作业优化参数
-
并行度(Parallelism):
- 增加作业的并行度可以提高数据处理能力。通过
env.setParallelism(int parallelism)
设置 Flink 作业的并行度。
- 增加作业的并行度可以提高数据处理能力。通过
-
Checkpoint 机制:
- 启用并优化 checkpoint 机制,确保数据的准确性和一致性。设置 checkpoint 的间隔和超时,如
env.enableCheckpointing(10000)
(10秒)。
- 启用并优化 checkpoint 机制,确保数据的准确性和一致性。设置 checkpoint 的间隔和超时,如
-
内存管理:
- 配置 TaskManager 的内存参数,确保作业有足够的内存资源。
- 调整
taskmanager.memory.task.heap.size
和taskmanager.memory.task.off-heap.size
。
-
状态后端(State Backend):
- 使用高性能的状态后端,如 RocksDB 状态后端,并配置合适的参数。
- 设置状态后端如:
env.setStateBackend(new RocksDBStateBackend("hdfs://namenode:40010/flink/checkpoints"))
。
Debezium 连接器优化参数
-
批量大小(Batch Size):
- 调整批量抓取的大小,可以通过
snapshot.fetch.size
参数配置。 - 示例:
snapshot.fetch.size = 1024
。
- 调整批量抓取的大小,可以通过
-
最大缓存行数(Max Queue Size):
- 调整缓存行数,平衡内存使用和吞吐量。配置
max.queue.size
参数。 - 示例:
max.queue.size = 8192
。
- 调整缓存行数,平衡内存使用和吞吐量。配置
-
轮询间隔(Polling Interval):
- 调整轮询数据库变更日志的间隔,减少延迟。配置
poll.interval.ms
参数。 - 示例:
poll.interval.ms = 500
。
- 调整轮询数据库变更日志的间隔,减少延迟。配置
-
数据库连接池大小(Database Connection Pool Size):
- 增加数据库连接池的大小,提高并发查询能力。配置
connection.pool.size
参数。 - 示例:
connection.pool.size = 20
。
- 增加数据库连接池的大小,提高并发查询能力。配置
-
线程池大小(Thread Pool Size):
- 配置处理线程池的大小,增强数据处理能力。配置
max.batch.size
和max.queue.size
。 - 示例:
max.batch.size = 2048
。
- 配置处理线程池的大小,增强数据处理能力。配置
Kafka Sink 优化参数
-
生产者并发度(Producer Parallelism):
- 增加 Kafka 生产者的并发度,提高数据写入性能。
- 示例:
properties.put("num.producers", "3")
。
-
批量大小(Batch Size):
- 调整生产者批量发送的大小,减少网络开销。配置
batch.size
参数。 - 示例:
batch.size = 16384
。
- 调整生产者批量发送的大小,减少网络开销。配置
-
缓冲区内存(Buffer Memory):
- 增加 Kafka 生产者的缓冲区内存,处理高并发的写入请求。配置
buffer.memory
参数。 - 示例:
buffer.memory = 33554432
。
- 增加 Kafka 生产者的缓冲区内存,处理高并发的写入请求。配置
资源分配
-
TaskManager 资源:
- 分配足够的 CPU 和内存资源给 TaskManager,确保 Flink 作业的稳定运行。
- 示例:
taskmanager.numberOfTaskSlots: 4
,taskmanager.memory.process.size: 4096m
。
-
JobManager 资源:
- 确保 JobManager 有足够的资源来管理作业。
- 示例:
jobmanager.memory.process.size: 2048m
。
监控和调试
-
Metrics 监控:
- 启用 Flink 的监控功能,实时监控作业的性能和资源使用情况。
- 配置
metrics.reporter.prom.class: org.apache.flink.metrics.prometheus.PrometheusReporter
。
-
日志级别:
- 调整日志级别,捕捉和分析性能瓶颈。
- 配置
log4j.logger.org.apache.flink=INFO
,必要时调整为DEBUG
级别。
示例配置
# Flink 配置
taskmanager.numberOfTaskSlots: 4
taskmanager.memory.process.size: 4096m
jobmanager.memory.process.size: 2048m
env.parallelism: 4
env.checkpoint.interval: 10000
state.backend: rocksdb# Debezium 配置
snapshot.fetch.size: 1024
max.queue.size: 8192
poll.interval.ms: 500
connection.pool.size: 20
max.batch.size: 2048# Kafka 配置
properties:bootstrap.servers: "localhost:9092"num.producers: 3batch.size: 16384buffer.memory: 33554432
使用 Flink CDC 进行数据同步时,可能会遇到一些常见问题。以下列出了一些常见问题及其解决方法:
常见问题及解决方法
-
高延迟问题
问题描述:数据变更不能及时同步,延迟较高。
解决方法:
- 增加并行度:提高 Flink 作业的并行度,使数据处理速度更快。
- 优化批量大小:调整 Debezium 连接器的
snapshot.fetch.size
和max.batch.size
,确保批处理高效。 - 调整轮询间隔:减少 Debezium 连接器的
poll.interval.ms
,加快数据捕获频率。 - 资源配置:确保 Flink 集群和数据库有足够的资源,防止资源瓶颈。
-
任务重启或失败
问题描述:Flink CDC 作业频繁重启或失败,影响数据同步的稳定性。
解决方法:
- Checkpoint 配置:启用和优化 checkpoint,确保数据的一致性和恢复能力。设置合理的 checkpoint 间隔和超时。
- 错误处理策略:设置适当的错误处理策略,例如重试次数和重启策略。
- 监控和日志:通过 Flink 的监控和日志分析,找出任务失败的原因,针对性地解决问题。
-
数据丢失
问题描述:部分数据未能成功同步到目标系统,导致数据丢失。
解决方法:
- Checkpoint 和保存点:启用 checkpoint 和保存点,确保在任务失败时能够恢复数据。
- 数据源配置:确保 Debezium 连接器正确配置,能够捕获所有的变更日志。
- 消息队列配置:如果使用 Kafka 作为中间层,确保 Kafka 的可靠性配置,如
acks=all
,min.insync.replicas
等。
-
数据不一致
问题描述:源数据库和目标系统的数据不一致。
解决方法:
- 事务支持:确保源数据库的事务支持,Debezium 连接器能够正确处理事务。
- 数据验证:定期进行数据验证,确保源数据和目标数据的一致性。
- 故障恢复:在发生故障时,通过 checkpoint 恢复,确保数据不丢失。
-
性能瓶颈
问题描述:数据量较大时,Flink 作业或数据库出现性能瓶颈。
解决方法:
- 水平扩展:增加 Flink 集群的节点数和并行度,提升整体处理能力。
- 索引优化:优化数据库表的索引,提高查询和数据捕获的性能。
- 批处理优化:调整批处理大小和平衡,确保数据处理的高效。
-
网络问题
问题描述:网络延迟或不稳定导致数据同步中断或延迟。
解决方法:
- 网络监控:监控网络状况,及时发现并解决网络问题。
- 重试机制:设置合理的重试机制,确保在网络中断时能够恢复数据传输。
- 网络优化:优化网络配置,确保网络带宽和延迟在可控范围内。
-
版本兼容性
问题描述:Flink CDC 组件与 Flink、Debezium、数据库或目标系统的版本不兼容,导致功能异常或错误。
解决方法:
- 版本检查:在部署前,检查 Flink、Debezium、数据库和目标系统的版本兼容性。
- 升级策略:制定合理的升级策略,确保版本更新时各组件的兼容性。
- 社区支持:关注 Flink CDC 和 Debezium 社区,获取最新的版本信息和支持。
总结
使用 Flink CDC 进行数据同步时,常见问题包括高延迟、任务重启或失败、数据丢失、数据不一致、性能瓶颈、网络问题和版本兼容性问题。通过增加并行度、优化批量大小和轮询间隔、启用 checkpoint 和保存点、优化索引、监控网络、检查版本兼容性等方法,可以有效解决这些问题,确保数据同步的高效性和稳定性。定期进行数据验证和监控,及时发现和解决问题,是保证数据同步系统稳定运行的关键。
优化 Flink CDC 的性能需要从 Flink 作业配置、Debezium 连接器参数、Kafka Sink 参数以及资源分配等多方面进行综合考虑和调整。合理配置这些参数,可以显著提升数据处理的吞吐量和降低延迟,确保数据同步的高效性和稳定性。通过监控和调试,可以持续发现并解决性能瓶颈,保证系统的高效运行。
💗💗💗 如果觉得这篇文对您有帮助,请给个点赞、关注、收藏吧,谢谢!💗💗💗
相关文章:
![](https://www.ngui.cc/images/no-images.jpg)
FlinkCDC 数据同步优化及常见问题排查
【面试系列】Swift 高频面试题及详细解答 欢迎来到我的博客,很高兴能够在这里和您见面!欢迎订阅相关专栏: 欢迎关注微信公众号:野老杂谈 ⭐️ 全网最全IT互联网公司面试宝典:收集整理全网各大IT互联网公司技术、项目、…...
![](https://img-blog.csdnimg.cn/img_convert/3ac84db30c4dd41edb4371e07353a6b2.webp?x-oss-process=image/format,png)
手把手edusrc漏洞挖掘和github信息收集
0x1 前言 这里主要还是介绍下新手入门edusrc漏洞挖掘以及在漏洞挖掘的过程中信息收集的部分哈!(主要给小白看的,大佬就当看个热闹了)下面的话我将以好几个不同的方式来给大家介绍下edusrc入门的漏洞挖掘手法以及利用github信息收…...
![](https://img-blog.csdnimg.cn/direct/c256ebb7583547098cd18dbc73a0b3dc.png)
linux系统中的各种命令的解释和帮助(含内部命令、外部命令)
目录 一、说明 二、命令详解 1、帮助命令的种类 (1)help用法 (2)--help用法 2、如何区别linux内部命令和外部命令 三、help和—help 四、man 命令 1、概述 2、语法和命令格式 (1)man命令的格式&…...
![](https://img-blog.csdnimg.cn/direct/29167a55757d423995dc67fdad5ed1e4.png)
Gemma轻量级开放模型在个人PC上释放强大性能,让每个桌面秒变AI工作站
Google DeepMind团队最近推出了Gemma,这是一个基于其先前Gemini模型研究和技术的开放模型家族。这些模型专为语言理解、推理和安全性而设计,具有轻量级和高性能的特点。 Gemma 7B模型在不同能力领域的语言理解和生成性能,与同样规模的开放模型…...
![](https://img-blog.csdnimg.cn/direct/be0e113f58734277950d36d47bb1d279.png)
Git使用中遇到的问题(随时更新)
问题1.先创建本地库,后拉取远程仓库时上传失败的问题怎么解决? 操作主要步骤: step1 设置远程仓库地址: $ git remote add origin gitgitee.com:yourAccount/reponamexxx.git step2 推送到远程仓库: $ git push -u origin "master&qu…...
![](https://www.ngui.cc/images/no-images.jpg)
php 跨域问题
设置header <?php $origin isset($_SERVER[HTTP_ORIGIN])? $_SERVER[HTTP_ORIGIN]:;$allow_originarray(http://www.aaa.com,http://www.bbb.com, ); if( $origin in $allow_origin ){header("Access-Control-Allow-Origin:".$origin);header("Access-Co…...
![](https://www.ngui.cc/images/no-images.jpg)
【leetcode52-55图论、56-63回溯】
图论 回溯...
![](https://img-blog.csdnimg.cn/direct/eec7d071c8ec4655b2cbc5d7224c5ebb.png)
2024 年江西省研究生数学建模竞赛题目 A题交通信号灯管理---完整文章分享(仅供学习)
问题: 交通信号灯是指挥车辆通行的重要标志,由红灯、绿灯、黄灯组成。红灯停、绿灯行,而黄灯则起到警示作用。交通信号灯分为机动车信号灯、非机动车信号灯、人行横道信号 灯、方向指示灯等。一般情况下,十字路口有东西向和南北向…...
![](https://img-blog.csdnimg.cn/img_convert/6e933d74161a5458afce1df0145eca4f.png)
日志可视化监控体系ElasticStack 8.X版本全链路实战
目录 一、SpringBoot3.X整合logback配置1.1 log4j、logback、self4j 之间关系 1.2 SpringBoot3.X整合logback配置 二、日志可视化分析ElasticStack 2.1为什么要有Elastic Stack 2.2 什么是Elastic Stack 三、ElasticSearch8.X源码部署 四、Kibana源码部署 五、LogSta…...
![](https://www.ngui.cc/images/no-images.jpg)
【LinuxC语言】定义线程池结果
文章目录 前言任务结构体线程池定义总结前言 在并发编程中,线程池是一种非常重要的设计模式。线程池可以有效地管理和控制线程的数量,避免线程频繁创建和销毁带来的性能开销,提高系统的响应速度。在Linux环境下,我们可以使用C语言来实现一个简单的线程池。 线程池的主要组…...
![](https://www.ngui.cc/images/no-images.jpg)
uniapp分包
分包是为了优化小程序的下载和启动速度 小程序启动默认下载主包并启动页面,当用户进入分包时,才会下载对应的分包,下载完进行展示。 /* 在manifest.json配置下添加optimization,开启分包优化 */ "mp-weixin" : {/**分包…...
![](https://img-blog.csdnimg.cn/direct/81b14da72bd44e73a0e030aa8603a781.png)
Python 生成Md文件带超链 和 PDF文件 带分页显示内容
software.md # -*- coding: utf-8 -*- import os f open("software.md", "w", encoding"utf-8") f.write(内部测试版2024 MD版\n) for root, dirs, files in os.walk(path): dax os.path.basename(root)if dax "":print("空白…...
![](https://img-blog.csdnimg.cn/direct/97d0fc245928474083774b491dbb301a.png#pic_center)
行业模板|DataEase旅游行业大屏模板推荐
DataEase开源数据可视化分析工具于2022年6月发布模板市场(https://templates-de.fit2cloud.com),并于2024年1月新增适用于DataEase v2版本的模板分类。模板市场旨在为DataEase用户提供专业、美观、拿来即用的大屏模板,方便用户根据…...
![](https://img-blog.csdnimg.cn/direct/9e23c60d80104bc89df5a32d498cdc98.png)
this.$refs[tab.$attrs.id].scrollIntoView is not a function
打印this.$refs[tab.$attrs.id].scrollIntoView 在控制台看到的是一个undefined 是因为this.$refs[tab.$attrs.id] 不是一个dom 是一个vuecomponent 如图所示: 所以我用的这个document.querySelector(.${tab.$attrs.id})获取dom document.querySelector(.${tab.$attrs.id})…...
![](https://img-blog.csdnimg.cn/direct/3d09537374b7414e955d0f31040f1c7c.png#pic_center)
【AI是在帮助开发者还是取代他们?】AI与开发者:合作与创新的未来
目录 前言一、AI工具现状(一)GitHub Copilot(二)TabNine 二、AI对开发者的影响(一)影响和优势(二)新技能和适应策略(三)保持竞争力的策略 三、AI开发的未来&a…...
![](https://img-blog.csdnimg.cn/img_convert/879da86781c758a1b517917cf2c43ce9.png)
【SpringBoot Web框架实战教程(开源)】01 使用 pom 方式创建 SpringBoot 第一个项目
导读 这是一系列关于 SpringBoot Web框架实战 的教程,从项目的创建,到一个完整的 web 框架(包括异常处理、拦截器、context 上下文等);从0开始,到一个可以直接运用在生产环境中的web框架。而且所有源码均开…...
![](https://www.ngui.cc/images/no-images.jpg)
Boosting【文献精读、翻译】
Boosting Bhlmann, P., & Yu, B. (2009). Boosting. Wiley Interdisciplinary Reviews: Computational Statistics, 2(1), 69–74. doi:10.1002/wics.55 摘要 在本文中,我们回顾了Boost方法,这是分类和回归中最有效的机器学习方法之一。虽然我们也讨…...
![](https://www.ngui.cc/images/no-images.jpg)
保姆级教程|如何配置ROS1主从机
在机器人开发经常遇到使用两个板子通信问题,比如一个板子跑底层的运动控制,一个板子跑定位导航。为了确保两个板子之间的ROS通信流畅,我们需要在两个板子的.bashrc文件中添加必要的环境变量配置。首先,确保你的 /etc/hosts 文件中…...
![](https://www.ngui.cc/images/no-images.jpg)
贝叶斯优化算法(Bayesian Optimization)及其Python 和 MATLAB 实现
贝叶斯优化算法(Bayesian Optimization)是一种基于贝叶斯统计理论的优化方法,通常用于在复杂搜索空间中寻找最优解。该算法能够有效地在未知黑盒函数上进行优化,并在相对较少的迭代次数内找到较优解,因此在许多领域如超…...
![](https://www.ngui.cc/images/no-images.jpg)
NLP - 基于bert预训练模型的文本多分类示例
项目说明 项目名称 基于DistilBERT的标题多分类任务 项目概述 本项目旨在使用DistilBERT模型对给定的标题文本进行多分类任务。项目包括从数据处理、模型训练、模型评估到最终的API部署。该项目采用模块化设计,以便于理解和维护。 项目结构 . ├── bert_dat…...
![](https://www.ngui.cc/images/no-images.jpg)
数据库备份和还原
一、备份 备份类型 1.完全备份 全备份是指对整个数据集进行完整备份。每次备份都会复制所有选定的数据,无论这些数据是否发生了变化。 2.增量备份 增量备份是指仅备份自上次备份(无论是全备份还是增量备份)以来发生变化的数据。它记录了…...
![](https://img-blog.csdnimg.cn/direct/c9e31647013549afadee8ec16483ab71.png)
谷粒商城-个人笔记(集群部署篇一)
前言 学习视频:Java项目《谷粒商城》架构师级Java项目实战,对标阿里P6-P7,全网最强学习文档: 谷粒商城-个人笔记(基础篇一)谷粒商城-个人笔记(基础篇二)谷粒商城-个人笔记(基础篇三)谷粒商城-个人笔记(高级篇一)谷粒商城-个…...
![](https://img-blog.csdnimg.cn/direct/e1e5898025e84b64a79024a0e9dcca27.png)
Linux环境下的字节对齐现象
在Linux环境下,字节对齐是指数据在内存中的存储方式。字节对齐是为了提高内存访问的效率和性能。 在Linux中,默认情况下,结构体和数组的成员会进行字节对齐。具体的对齐方式可以通过编译器选项来控制。 在使用C语言编写程序时,可…...
![](https://img-blog.csdnimg.cn/direct/87dbaea3bbe94048a7a794f24d853b2c.png)
没有调用memcpy却报了undefined reference to memcpy错误
现象 在第5行出现了,undefined reference to memcpy’ 1 static void printf_x(unsigned int val) 2{ 3 char buffer[32]; 4 const char lut[]{0,1,2,3,4,5,6,7,8,9,A,B,C,D,E,F}; 5 char *p buffer; 6 while (val || p buffer) { 7 *(p) …...
![](https://www.ngui.cc/images/no-images.jpg)
import和require的区别
import是ES6标准中的模块化解决方案,require是node中遵循CommonJS规范的模块化解决方案。 后者支持动态引入,也就是require(${path}/xx.js),前者目前不支持,但是已有提案。 前者是关键词,后者不是。 前者是编译时加…...
![](https://www.ngui.cc/images/no-images.jpg)
白骑士的Python教学高级篇 3.3 数据库编程
系列目录 上一篇:白骑士的Python教学高级篇 3.2 网络编程 SQL基础 Structured Query Language (SQL) 是一种用于管理和操作关系型数据库的标准语言。SQL能够执行各种操作,如创建、读取、更新和删除数据库中的数据(即CRUD操作)&a…...
![](https://www.ngui.cc/images/no-images.jpg)
macOS 安装redis
安装Redis在macOS上通常通过Homebrew进行,Homebrew是macOS上一个流行的包管理器。以下是安装Redis的步骤: 一 使用Homebrew安装Redis 1、安装Homebrew(如果尚未安装): 打开终端(Terminal)并执…...
![](https://img-blog.csdnimg.cn/direct/94c52b8d53d549c893b91e03ea38b79b.jpeg)
【AIGC评测体系】大模型评测指标集
大模型评测指标集 (☆)SuperCLUE(1)SuperCLUE-V(中文原生多模态理解测评基准)(2)SuperCLUE-Auto(汽车大模型测评基准)(3)AIGVBench-T2…...
![](https://img-blog.csdnimg.cn/img_convert/52f8e27902bb8278a28f8d01ef9aad64.png)
工厂模式之简单工厂模式
文章目录 工厂模式工厂模式分为工厂模式的角色简单工厂模式案例代码定义一个父类,三个子类定义简单工厂客户端使用输出结果 工厂模式 工厂模式属于创造型的模式,用于创建对象。 工厂模式分为 简单工厂模式:定义一个简单工厂类,根…...
![](https://img-blog.csdnimg.cn/df70959d7ca340e78131304ae4cf964b.gif#pic_center)
2.(vue3.x+vite)调用iframe的方法(vue编码)
1、效果预览 2.编写代码 (1)主页面 <template><div><button @click="sendMessage">调用iframe,并发送信息...
![](https://img-blog.csdnimg.cn/direct/3421613c25994e7597072b84d45a3390.jpeg)
实战项目——用Java实现图书管理系统
前言 首先既然是管理系统,那咱们就要实现以下这几个功能了--> 分析 1.首先是用户分为两种,一个是管理员,另一个是普通用户,既如此,可以定义一个用户类(user),在定义管理员类&am…...
![](https://img-blog.csdnimg.cn/img_convert/3175b0b03dba692823d02190b50ab2f2.jpeg)
利用DeepFlow解决APISIX故障诊断中的方向偏差问题
概要:随着APISIX作为IT应用系统入口的普及,其故障定位能力的不足导致了在业务故障诊断中,APISIX常常成为首要的“嫌疑对象”。这不仅导致了“兴师动众”式的资源投入,还可能使诊断方向“背道而驰”,从而导致业务故障“…...
![](https://www.ngui.cc/images/no-images.jpg)
sqlalchemy获取数据条数
1、sqlalchemy获取数据条数 在SQLAlchemy中,你可以使用count()函数来获取数据表中的记录条数。 from sqlalchemy import create_engine, MetaData, Table# 数据库连接字符串 DATABASE_URI = dialect+driver://username:password@host:port/database# 创建引擎 engine = crea…...
![](https://img-blog.csdnimg.cn/direct/f48eb522a23645038b9a40f47f06e098.png)
SpringBoot的自动配置核心原理及拓展点
Spring Boot 的核心原理几个关键点 约定优于配置: Spring Boot 遵循约定优于配置的理念,通过预定义的约定,大大简化了 Spring 应用程序的配置和部署。例如,它自动配置了许多常见的开发任务(如数据库连接、Web 服务器配…...
![](https://img-blog.csdnimg.cn/img_convert/ee6f9987906740c645b0a9c110df57f3.webp?x-oss-process=image/format,png)
用随机森林算法进行的一次故障预测
本案例将带大家使用一份开源的S.M.A.R.T.数据集和机器学习中的随机森林算法,来训练一个硬盘故障预测模型,并测试效果。 实验目标 掌握使用机器学习方法训练模型的基本流程;掌握使用pandas做数据分析的基本方法;掌握使用scikit-l…...
![](https://img-blog.csdnimg.cn/direct/7fcc36b23bd54e98ac7229011751d313.png)
24位DAC转换的FPGA设计及将其封装成自定义IP核的方法
在vivado设计中,为了方便的使用Block Desgin进行设计,可以使用vivado软件把自己编写的代码封装成IP核,封装后的IP核和原来的代码具有相同的功能。本文以实现24位DA转换(含并串转换,使用的数模转换器为CL4660)为例,介绍VIVADO封装IP核的方法及调用方法,以及DAC转换的详细…...
![](https://img-blog.csdnimg.cn/direct/fcfb43b1d27a442fbb7744dcac41844f.png)
【大模型LLM面试合集】大语言模型基础_llm概念
1.llm概念 1.目前 主流的开源模型体系 有哪些? 目前主流的开源LLM(语言模型)模型体系包括以下几个: GPT(Generative Pre-trained Transformer)系列:由OpenAI发布的一系列基于Transformer架构…...
![](https://img-blog.csdnimg.cn/direct/2eab7e16162344fda3911debb2cd07d4.png)
Qt时间日期处理与定时器使用总结
一、日期时间数据 1.QTime 用于存储和操作时间数据的类,其中包括小时(h)、分钟(m)、秒(s)、毫秒(ms)。函数定义如下: //注:秒(s)和毫秒(ms)有默认值0 QTime::QTime(int h, int m, int s 0, int ms 0) 若无须初始化时间数据,可…...
![](https://www.ngui.cc/images/no-images.jpg)
数据结构——Hash Map
1. Hash Map简介 Hash Map是一种基于键值对的数据结构,通过散列函数将键映射到存储位置,实现快速的数据查找和存储。它可以在常数时间内完成查找、插入和删除操作,因此在需要频繁进行这些操作时非常高效。 2. Hash Map的定义 散列表ÿ…...
![](https://img-blog.csdnimg.cn/img_convert/e6ae1b18297748fa1d50c37630182550.jpeg)
剪画小程序:视频剪辑-视频播放倍数的调整与应用
在这个快节奏的时代,时间变得越来越宝贵,而视频倍数播放功能就像是我们的时间管理小助手,为我们的视频观看带来了极大的便利。你是否好奇它到底能在哪些地方发挥作用呢?让我们一起来看看! 只要使用小程序【剪画】的里…...
![](https://img-blog.csdnimg.cn/img_convert/62070e9a90928f67228a797ab8497aed.png)
使用 Java Swing 和 XChart 创建多种图表
在现代应用程序开发中,数据可视化是一个关键部分。本文将介绍如何使用 Java Swing 和 XChart 库创建各种类型的图表。XChart 是一个轻量级的图表库,支持多种类型的图表,非常适合在 Java 应用中进行快速的图表绘制。 1、环境配置 在开始之前&…...
![](https://img-blog.csdnimg.cn/img_convert/965cdaa6abaaaf1a5357d72caf3550bd.png)
信息系统运维管理:实践与发展
信息系统运维管理:实践与发展 信息系统运维管理在现代企业中扮演着至关重要的角色,确保信息系统的高效、安全和稳定运行。本文结合《信息系统运维管理》文档内容,探讨了服务设计阶段、服务转换阶段、委托系统维护管理三个主要章节࿰…...
![](https://img-blog.csdnimg.cn/588a2c28d5a24f1cbdf2195b2569be92.jpg)
html+js+css登录注册界面
拥有向服务器发送登录或注册数据并接收返回数据的功能 点赞关注 界面 源代码 <!DOCTYPE html> <html lang"en"> <head> <meta charset"UTF-8"> <title>Login and Registration Form</title> <style> * …...
![](https://www.ngui.cc/images/no-images.jpg)
英伟达(NVIDIA)数据中心GPU介绍
英伟达(NVIDIA)数据中心GPU按性能由高到低排行: 1. NVIDIA H100 架构:Hopper 核心数量:18352 CUDA Cores, 1456 Tensor Cores 显存:80 GB HBM3 峰值性能: 单精度(FP32)…...
![](https://www.ngui.cc/images/no-images.jpg)
Leetcode 3202. Find the Maximum Length of Valid Subsequence II
Leetcode 3202. Find the Maximum Length of Valid Subsequence II 1. 解题思路2. 代码实现 题目链接:3202. Find the Maximum Length of Valid Subsequence II 1. 解题思路 这一题的话是上一题3201. Find the Maximum Length of Valid Subsequence I的升级版&am…...
![](https://www.ngui.cc/images/no-images.jpg)
通过Spring Boot结合实时流媒体技术对考试过程进行实时监控
本章将深入探讨考试系统中常见的复杂技术问题,并提供基于Spring Boot 3.x的解决方案。涵盖屏幕切换检测与防护、接打电话识别处理、行为监控摄像头使用、网络不稳定应对等,每篇文章详细剖析问题并提供实际案例与代码示例,帮助开发者应对挑战&…...
![](https://www.ngui.cc/images/no-images.jpg)
智能扫地机器人避障与防跌落问题解决方案
智能扫地机器人出现避障与防跌落问题时,可以通过以下几种方式来解决: 一、避障问题的解决方案 1.升级避障技术: ① 激光雷达避障:激光雷达通过发射和接收激光信号来判断与障碍物的距离,具有延迟低、效果稳定、准确度…...
![](https://img-blog.csdnimg.cn/img_convert/0708625db5d4d97efff088e41003973d.png)
德旺训练营称重问题
这是考小学的分治策略,小学的分治策略几乎都是分三组。本着这个策略,我们做看看。 第一次称重: 分三组,16,16,17,拿两个16称,得到A情况,一样重,那么假铜钱在那组17个里面。B情况不…...
![](https://www.ngui.cc/images/no-images.jpg)
数据决策系统详解
文章目录 数据决策系统的核心组成部分:1. **数据收集与整合**:2. **数据处理与分析**:3. **数据可视化**:4. **决策支持**: 数据决策系统的功能:决策类型:数据决策系统对企业的重要性࿱…...
![](https://www.ngui.cc/images/no-images.jpg)
JSON 简述与应用
1. JSON 简述 JSON(JavaScript Object Notation)是一种轻量级的数据交换格式,常用于客户端与服务器之间的数据传递。它基于JavaScript对象表示法,但独立于语言,可以被多种编程语言解析和生成。 1.1 特点 轻量级&#…...
![](https://i-blog.csdnimg.cn/direct/afd843d778d6486683d7317e71ffd320.png)
软件运维服务方案(Word原件2024)
软件运维服务方案(Word原件) 1. 服务简述 我们提供全面的软件运维服务,确保软件系统的稳定运行。 1.1 服务内容 包括监控、维护、故障排查与优化。 1.2 服务方式 结合远程与现场服务,灵活响应客户需求。 1.3 服务要求 高效响应&am…...
![](https://www.ngui.cc/images/no-images.jpg)
python学习2-数据结构与算法-链表
单链表是一种链式存取的数据结构,用一组地址任意的存储单元存放线性表中的数据元素。链表中的数据是以结点来表示的,每个结点的构成:元素(数据元素的映象) 指针(指示后继元素存储位置),元素就是存储数据的存储单元,指…...
![](https://i-blog.csdnimg.cn/direct/6a341c8dd96d43aa89920ac0f0568767.png)
网络基础:IS-IS协议
IS-IS(Intermediate System to Intermediate System)是一种链路状态路由协议,最初由 ISO(International Organization for Standardization)为 CLNS(Connectionless Network Service)网络设计。…...
![](https://img-blog.csdnimg.cn/direct/074b23e5b81f4fd2a10455f51f47d7f5.png)
docker -run hello-world超时
主要原因就是尝试拉取库的时候没有从阿里云镜像里拉,所以设置一下就好了 这里使用的是ubuntu系统(命令行下逐行敲就行了) sudo mkdir -p /etc/docker sudo tee /etc/docker/daemon.json <<-EOF {"registry-mirrors": [&quo…...
![](https://img-blog.csdnimg.cn/direct/efab85d8342c4db9be797f5eb04eec5c.png)
基于Python的自动化测试框架-Pytest总结-第一弹基础
Pytest总结第一弹基础 入门知识点安装pytest运行pytest测试用例发现规则执行方式命令行执行参数 配置发现规则 如何编写测试Case基础案例断言语句的使用pytest.fail() 和 Exceptions自定义断言函数异常测试测试类形式 pytest的Fixture使用Fixture入门案例使用fixture的Setup、T…...
![](https://img-blog.csdnimg.cn/direct/136e992e2374431fbc2c9998712a19b4.png)
k8s离线安装安装skywalking9.4
目录 概述资源下载Skywalking功能介绍成果速览实践rbacoapoap-svcuiui-svc 结束 概述 k8s 离线安装安装 skywalking9.4 版本,环境:k8s版本为:1.27.x 、spring boot 2.7.x spring cloud :2021.0.5 、spring.cloud.alibab࿱…...
![](https://www.ngui.cc/images/no-images.jpg)
领克07EM-P正式上市,优惠价16.38万元起!
领克07 EM-P作为一款定位高端市场的混合动力车型,搭载的超级增程电动解决方案,不仅承载了年轻消费者对速度与激情的追求,更以高性价比满足了他们对燃油经济性和舒适性的双重需求。这一方案为驾驶者提供了四种不同的驾驶模式,包括纯电动模式、性能模式、超级增程模式以及个性…...
![](https://www.ngui.cc/images/no-images.jpg)
AIONVPlus让选车不再纠结
工薪阶层的一员,选购一辆新车无疑是一项重大决策,让人倍感纠结。随着时间的推移,我已经步入了人生的“中年”阶段,工作也已有十余年。虽然事业上或许尚未达到自己预期的成就,但年龄已然到了“而立之年”。在这个阶段,我内心深处不禁涌起一股想要“提升形象”的冲动,换句…...
![](http://dingyue.ws.126.net/2024/0528/d85825bfj00se6dxr0035d000u000mim.jpg)
淡黄色,才是牙医公认的健康色号
牙齿越白越好吗?在各种牙膏广告里,牙齿总是白到发光,令多少人羡慕不已,不管怎么美白总是微微发黄。这是为何?事实上,根据牙医专家指出,健康牙齿的颜色并非纯白,淡黄色的牙齿表明牙釉质钙化程度高,是牙齿健康的表现!▲图源:央视网牙齿由外表面的牙釉质和内部的牙本质…...
![](https://img-blog.csdnimg.cn/direct/6fa90f1c990a454b87381fc28b621221.png)
【UnityShader入门精要学习笔记】第十五章 使用噪声
本系列为作者学习UnityShader入门精要而作的笔记,内容将包括: 书本中句子照抄 个人批注项目源码一堆新手会犯的错误潜在的太监断更,有始无终 我的GitHub仓库 总之适用于同样开始学习Shader的同学们进行有取舍的参考。 文章目录 使用噪声上…...
![](https://img-blog.csdnimg.cn/direct/9921262b87314a2392b9ad8d8d579fc9.png)
1.Redis之初识Redis分布式系统
1.初识Redis 1.1 官网 Redis中文网 Redis 教程 | 菜鸟教程 (runoob.com) 1.2 解释 在内存中存储数据 定义变量,不就是在内存中存储数据嘛?? Redis 是在分布式系统(进程的隔离性:Redis 就是基于网络,可以把自己内存中的变量给别的进程…...
![](https://img-blog.csdnimg.cn/direct/43bf2d6dbc6d46278a8fcd5f3c979fc7.jpeg)
揭秘:如何使用Python统计女友生日还剩几天?
新书上架~👇全国包邮奥~ python实用小工具开发教程http://pythontoolsteach.com/3 欢迎关注我👆,收藏下次不迷路┗|`O′|┛ 嗷~~ 目录 一、引言:为何需要统计生日天数? 二、需求分析与准备 1. 用户输入格…...