PostgreSQL Replication Slots
一、PostgreSQL的网络测试
安装PostgreSQL客户端
sudo yum install postgresql
进行网络测试主要是验证客户端是否能够连接到远程的PostgreSQL服务器。以下是使用psql命令进行网络测试的基本步骤:
-
连接到数据库:
使用psql命令连接到远程的PostgreSQL数据库服务器。命令的基本格式如下:psql -h 主机名或IP地址 -p 端口号 -U 用户名 -d 数据库名其中,
-h后面跟的是PostgreSQL数据库服务器的主机名或IP地址。-p后面跟的是PostgreSQL数据库服务器的端口号,默认为5432。-U后面跟的是连接数据库时使用的用户名。-d后面跟的是要连接的数据库名。
例如,连接到IP地址为192.168.1.128,端口为5432,用户名为postgres,数据库名为mydb的PostgreSQL服务器,命令如下:
psql -h 192.168.1.128 -p 5432 -U postgres -d mydb -
输入密码:
如果连接的用户设置了密码,系统会提示你输入密码。输入正确的密码后,即可成功连接到远程的PostgreSQL数据库服务器。 -
执行命令:
连接到数据库后,你可以在psql提示符下执行SQL命令或查询。例如,你可以使用\l命令列出所有的数据库,或使用\c命令切换到其他数据库。 -
退出psql:
使用\q命令退出psql提示符,结束与数据库的连接。
请注意,进行网络测试前,需要确保PostgreSQL服务器已经正确配置,允许远程连接,并且防火墙设置不会阻止客户端的连接请求。
二、PostgreSQL Replication Slots 介绍
PostgreSQL的复制槽(Replication Slots)主要用于物理复制数据的场景,可以视为数据库复制的一种中间件,用于在源节点和目标节点之间传输数据变动信息。其主要作用包括:
- 确保数据的完整性和一致性:复制槽能够确保下游节点保留所有需要的WAL(Write Ahead Log)文件,以便在发生故障时可以进行恢复。
- 作为中间件:在进行物理复制时,复制槽可以作为一个中间件,将逻辑数据变动信息从源节点传输到目标节点。
关于复制槽的使用场景,以下是一些关键点:
- 流复制:在PostgreSQL的流复制机制中,复制槽起到了关键作用。通过创建和使用复制槽,可以确保主节点上的WAL文件被正确地保留并传输到备节点,从而实现数据的实时同步。
- 结合Flink:虽然Flink本身并不直接使用PostgreSQL的复制槽功能,但在某些场景下,Flink可以与PostgreSQL的复制功能结合使用。例如,Flink CDC(Change Data Capture)功能可以基于PostgreSQL的逻辑复制功能来捕获数据变更,并将这些变更实时地传输到目标系统。在这个过程中,虽然Flink CDC直接连接到PostgreSQL的主库以获取数据变更,但PostgreSQL的复制槽功能仍然在主库上创建和管理逻辑复制槽,以确保数据的完整性和一致性。
复制槽的使用需要注意以下几点:
- 非持久化:默认情况下,复制槽只在源数据库的当前会话中有效,关闭会话后将丢失。如果需要在数据库重启后仍然保留复制槽,需要手动将其持久化。
- 唯一性:每个复制槽都必须具有唯一的名称,以便于管理和识别。
- 输出插件:复制槽必须与输出插件关联,以确定要将更改如何传播到目标数据库。常见的输出插件包括pgoutput、wal2json等。
总之,PostgreSQL的复制槽功能是实现物理复制的重要工具,能够确保数据的完整性和一致性,并提供高效的复制方式。在使用复制槽时,需要仔细评估和计划,并确保有足够的技术支持来应对可能出现的问题。
三、PostgreSQL Replication Slots 相关的 SQL 操作与概念
在 PostgreSQL 中,replication slots 是用于保证逻辑复制一致性的重要机制。当使用逻辑复制时,主服务器上的 WAL(Write-Ahead Logging)日志会不断地被生成并发送到备服务器。而 replication slots 的作用就是确保即使备服务器暂时无法消费这些 WAL 日志,主服务器也不会清理这些日志,从而避免数据丢失。
以下是关于 replication slots 的一些常见 SQL 操作和概念,以博客格式呈现:
1. 查询 Replication Slots
要查看当前数据库中所有的 replication slots,可以使用以下 SQL 查询:
SELECT active_pid, slot_name, database, active, pg_size_pretty( pg_wal_lsn_diff(pg_current_wal_lsn(), restart_lsn) ) AS wal_lag_pretty, pg_size_pretty( pg_wal_lsn_diff(confirmed_flush_lsn, restart_lsn) ) AS wal_lag_confirmed_pretty, pg_size_pretty( pg_wal_lsn_diff(pg_current_wal_lsn(), confirmed_flush_lsn) ) AS wal_lag_unconfirmed_pretty, wal_status, *
FROM pg_replication_slots
ORDER BY pg_wal_lsn_diff(pg_current_wal_lsn(), restart_lsn) DESC;
上述查询会返回 replication slots 的详细信息,包括当前活动的进程 ID(如果有的话)、slot 名称、数据库、是否活跃、WAL 延迟(以易于阅读的格式显示)等。
2.查询相关的 WAL 设置
要查看与 WAL 相关的配置设置,可以使用以下 SQL 查询:
SELECT * FROM pg_settings WHERE name IN ('wal_level', 'max_wal_senders', 'wal_sender_timeout', 'max_replication_slots'); |
这将返回 wal_level(WAL 的级别)、max_wal_senders(可以同时连接到主服务器进行 WAL 发送的最大备服务器数量)、wal_sender_timeout(WAL 发送进程的超时时间)和 max_replication_slots(可以创建的最大 replication slots 数量)等设置的值。
3.删除 Replication Slot
当不再需要某个 replication slot 时,可以使用以下 SQL 命令来删除它:
SELECT pg_drop_replication_slot('test_base_dws_1'); |
这将删除名为 test_base_dws_1 的 replication slot。请注意,在删除之前,请确保没有备服务器正在使用该 slot,否则可能会导致数据丢失。
4.创建 Logical Replication Slot
要创建一个逻辑 replication slot,可以使用以下 SQL 命令:
SELECT pg_create_logical_replication_slot('test_base_dws_1', 'decoderbufs'); |
这将创建一个名为 test_base_dws_1 的逻辑 replication slot,并使用 decoderbufs 作为输出插件(通常用于逻辑复制)。
5.终止后端进程
如果你需要终止一个与 replication slot 相关的后端进程(例如,一个停滞的 WAL 发送进程),可以使用以下 SQL 命令(但请注意,这通常是一个较为激进的操作,应谨慎使用):
SELECT pg_terminate_backend(<pid>); |
将 <pid> 替换为要终止的进程的进程 ID。这将发送一个 SIGTERM 信号给该进程,尝试优雅地终止它。如果进程没有响应,可以使用 SIGKILL 信号(但通常不建议这样做,因为它不会给进程任何清理的机会)。
6.REPLICA IDENTITY处理增量数据不写入的问题
ALTER TABLE public.base_test_info REPLICA IDENTITY FULL;
在 PostgreSQL 中,REPLICA IDENTITY 是一个与逻辑复制相关的设置,它决定了当在复制的主库上执行删除或更新操作时,哪些列的信息应该包含在 WAL(Write-Ahead Logging)记录中,以便备库能够正确地识别哪些行被删除或更新。
REPLICA IDENTITY 可以设置为以下几种类型:
DEFAULT: 只包括主键列(如果存在的话)。FULL: 包括所有列。NOTHING: 不包括任何列(通常不推荐)。USING INDEX <index_name>: 使用指定的索引来确定哪些列应该被包括
相关文章:
PostgreSQL Replication Slots
一、PostgreSQL的网络测试 安装PostgreSQL客户端 sudo yum install postgresql 进行网络测试主要是验证客户端是否能够连接到远程的PostgreSQL服务器。以下是使用psql命令进行网络测试的基本步骤: 连接到数据库: 使用psql命令连接到远程的PostgreSQL数据库服务器…...
centos7搭建zookeeper 集群 1主2从
centos7搭建zookeeper 集群 准备前提规划防火墙开始搭建集群192.168.83.144上传安装包添加环境变量修改zookeeper 的配置 192.168.83.145 和 192.168.83.146 配置 启动 集群 准备 vm 虚拟机centos7系统zookeeper 安装包FinalShell或者其他shell工具 前提 虚拟机安装好3台cen…...
Arrays.asList 和 java.util.ArrayList 区别
理解 Java 中的 Arrays.asList 和 java.util.ArrayList 的区别 在 Java 编程中,Arrays.asList 方法和 java.util.ArrayList 是两种常用的处理列表数据的方式。虽然它们在功能上看起来相似,但在内部实现和使用上有着本质的不同。本文将探讨这两种方式的区…...
代码随想录-Day44
322. 零钱兑换 给你一个整数数组 coins ,表示不同面额的硬币;以及一个整数 amount ,表示总金额。 计算并返回可以凑成总金额所需的 最少的硬币个数 。如果没有任何一种硬币组合能组成总金额,返回 -1 。 你可以认为每种硬币的数…...
CriticGPT: 用 GPT-4 找出 GPT-4 的错误
CriticGPT 是 OpenAI 发布的一个基于 GPT-4 的模型,它可以帮助我们人类 Review 并纠正 ChatGPT 在生成代码时的错误。使用 CriticGPT 审查代码时,有 60% 的概率生成的代码更好更正确。...
SpringBoot:SpringBoot中调用失败如何重试
一、引言 在实际的应用中,我们经常需要调用第三方API来获取数据或执行某些操作。然而,由于网络不稳定、第三方服务异常等原因,API调用可能会失败。为了提高系统的稳定性和可靠性,我们通常会考虑实现重试机制。 Spring Retry为Spri…...
2024-06-24 问AI: 在大语言模型中,什么是ray?
文心一言 在大语言模型中,Ray是一个开源的统一框架,用于扩展AI和Python应用程序,特别是在机器学习领域。以下是关于Ray的详细解释: 核心功能: Ray为并行处理提供了计算层,使得用户无需成为分布式系统专家…...
仓库管理系统09--修改用户密码
1、添加窗体 2、窗体布局控件 UI设计这块还是传统的表格布局,采用5行2列 3、创建viewmodel 4、前台UI绑定viewmodel 这里要注意属性绑定和命令绑定及命令绑定时传递的参数 <Window x:Class"West.StoreMgr.Windows.EditPasswordWindow"xmlns"http…...
在Spring Data JPA中使用@Query注解
目录 前言示例简单示例只查询部分字段,映射到一个实体类中只查询部分字段时,也可以使用List<Object[]>接收返回值再复杂一些 前言 在以往写过几篇spring data jpa相关的文章,分别是 Spring Data JPA 使用JpaSpecificationExecutor实现…...
【UE5.1】Chaos物理系统基础——01 创建可被破坏的物体
目录 步骤 一、通过笔刷创建静态网格体 二、破裂静态网格体 三、“统一” 多层级破裂 四、“簇” 群集化的破裂 五、几何体集的材质 六、防止几何体集自动破碎 步骤 一、通过笔刷创建静态网格体 1. 可以在Quixel Bridge中下载两个纹理,用于表示石块的内外纹…...
Linux下SUID提权学习 - 从原理到使用
目录 1. 文件权限介绍1.1 suid权限1.2 sgid权限1.3 sticky权限 2. SUID权限3. 设置SUID权限4. SUID提权原理5. SUID提权步骤6. 常用指令的提权方法6.1 nmap6.2 find6.3 vim6.4 bash6.5 less6.6 more6.7 其他命令的提权方法 1. 文件权限介绍 linux的文件有普通权限和特殊权限&a…...
Redis主从复制搭建一主多从
1、创建/myredis文件夹 2、复制redis.conf配置文件到新建的文件夹中 3、配置一主两从,创建三个配置文件 ----redis6379.conf ----redis6380.conf ----redis6381.conf 4、在三个配置文件写入内容 redis6379.conf里面的内容 include /myredis/redis.conf pidfile /va…...
GPT-4o文科成绩超一本线,理科为何表现不佳?
目录 01 评测榜单 02 实际效果 什么?许多大模型的文科成绩竟然超过了一本线,还是在竞争激烈的河南省? 没错,最近有一项大模型“高考大摸底”评测引起了广泛关注。 河南高考文科今年的一本线是521分,根据这项评测&…...
Lombok的hashCode方法
Lombok对于重写hashCode的算法真的是很经典,但是目前而言有一个令人难以注意到的细节。在继承关系中,父类的hashCode针对父类的所有属性进行运算,而子类的hashCode却只是针对子类才有的属性进行运算,立此贴提醒自己。 目前重写ha…...
关于springboot创建kafkaTopic
工具类提供,方法名见名知意。使用kafka admin import org.apache.kafka.clients.admin.*; import org.apache.kafka.common.KafkaFuture;import java.util.*; import java.util.concurrent.ExecutionException;import org.apache.kafka.clients.admin.AdminClient; …...
OOAD的概念
面向对象分析与设计(OOAD, Object-Oriented Analysis and Design)是一种软件开发方法,它利用面向对象的概念和技术来分析和设计软件系统。OOAD 主要关注对象、类以及它们之间的关系,通过抽象、封装、继承和多态等面向对象的基本原…...
Day47
Day47 手写Spring-MVC之DispatcherServlet DispatcherServlet的思路: 前端传来URI,在TypeContainer容器类中通过uri得到对应的类描述类对象(注意:在监听器封装类描述类对象的时候,是针对于每一个URI进行封装的&#x…...
【面试系列】后端开发工程师 高频面试题及详细解答
欢迎来到我的博客,很高兴能够在这里和您见面!欢迎订阅相关专栏: ⭐️ 全网最全IT互联网公司面试宝典:收集整理全网各大IT互联网公司技术、项目、HR面试真题. ⭐️ AIGC时代的创新与未来:详细讲解AIGC的概念、核心技术、…...
mac|浏览器链接不上服务器但可以登微信
千万千万千万不要没有关梯子直接关机,不然就会这样子呜呜呜 设置-网络,点击三个点--选择--位置--编辑位置(默认是自动) 新增一个,然后选中点击完成 这样就可以正常上网了...
Spring Cloud Alibaba之负载均衡组件Ribbon
一、什么是负载均衡? (1)概念: 在基于微服务架构开发的系统里,为了能够提升系统应对高并发的能力,开发人员通常会把具有相同业务功能的模块同时部署到多台的服务器中,并把访问业务功能的请求均…...
生成xcframework
打包 XCFramework 的方法 XCFramework 是苹果推出的一种多平台二进制分发格式,可以包含多个架构和平台的代码。打包 XCFramework 通常用于分发库或框架。 使用 Xcode 命令行工具打包 通过 xcodebuild 命令可以打包 XCFramework。确保项目已经配置好需要支持的平台…...
大数据学习栈记——Neo4j的安装与使用
本文介绍图数据库Neofj的安装与使用,操作系统:Ubuntu24.04,Neofj版本:2025.04.0。 Apt安装 Neofj可以进行官网安装:Neo4j Deployment Center - Graph Database & Analytics 我这里安装是添加软件源的方法 最新版…...
Swift 协议扩展精进之路:解决 CoreData 托管实体子类的类型不匹配问题(下)
概述 在 Swift 开发语言中,各位秃头小码农们可以充分利用语法本身所带来的便利去劈荆斩棘。我们还可以恣意利用泛型、协议关联类型和协议扩展来进一步简化和优化我们复杂的代码需求。 不过,在涉及到多个子类派生于基类进行多态模拟的场景下,…...
智能在线客服平台:数字化时代企业连接用户的 AI 中枢
随着互联网技术的飞速发展,消费者期望能够随时随地与企业进行交流。在线客服平台作为连接企业与客户的重要桥梁,不仅优化了客户体验,还提升了企业的服务效率和市场竞争力。本文将探讨在线客服平台的重要性、技术进展、实际应用,并…...
【论文笔记】若干矿井粉尘检测算法概述
总的来说,传统机器学习、传统机器学习与深度学习的结合、LSTM等算法所需要的数据集来源于矿井传感器测量的粉尘浓度,通过建立回归模型来预测未来矿井的粉尘浓度。传统机器学习算法性能易受数据中极端值的影响。YOLO等计算机视觉算法所需要的数据集来源于…...
【C语言练习】080. 使用C语言实现简单的数据库操作
080. 使用C语言实现简单的数据库操作 080. 使用C语言实现简单的数据库操作使用原生APIODBC接口第三方库ORM框架文件模拟1. 安装SQLite2. 示例代码:使用SQLite创建数据库、表和插入数据3. 编译和运行4. 示例运行输出:5. 注意事项6. 总结080. 使用C语言实现简单的数据库操作 在…...
Redis的发布订阅模式与专业的 MQ(如 Kafka, RabbitMQ)相比,优缺点是什么?适用于哪些场景?
Redis 的发布订阅(Pub/Sub)模式与专业的 MQ(Message Queue)如 Kafka、RabbitMQ 进行比较,核心的权衡点在于:简单与速度 vs. 可靠与功能。 下面我们详细展开对比。 Redis Pub/Sub 的核心特点 它是一个发后…...
R语言速释制剂QBD解决方案之三
本文是《Quality by Design for ANDAs: An Example for Immediate-Release Dosage Forms》第一个处方的R语言解决方案。 第一个处方研究评估原料药粒径分布、MCC/Lactose比例、崩解剂用量对制剂CQAs的影响。 第二处方研究用于理解颗粒外加硬脂酸镁和滑石粉对片剂质量和可生产…...
mac 安装homebrew (nvm 及git)
mac 安装nvm 及git 万恶之源 mac 安装这些东西离不开Xcode。及homebrew 一、先说安装git步骤 通用: 方法一:使用 Homebrew 安装 Git(推荐) 步骤如下:打开终端(Terminal.app) 1.安装 Homebrew…...
【网络安全】开源系统getshell漏洞挖掘
审计过程: 在入口文件admin/index.php中: 用户可以通过m,c,a等参数控制加载的文件和方法,在app/system/entrance.php中存在重点代码: 当M_TYPE system并且M_MODULE include时,会设置常量PATH_OWN_FILE为PATH_APP.M_T…...
