PostgreSQL 流复制监控脚本 https://github.com/AndyYHM/Writing/blob/PostgreSQL/20181219-PostgreSQL%20Stream%20MON.md 整理之前的脚本文档,搬家至博客园,梳理一下之前写的shell脚本 适用于PostgreSQL版本10.版本9替换函数名称即可,系统centos 7验证 _xlog_location<=> _wal_lsn _location <=> _lsn 1. 脚本输出效果 1.1…

QA PgPool-II 同步 Postgresql X1 服务器准备 192.168.59.121 PostgreSQL10 192.168.59.120 PGPool-II 3.7 X2 安装PostgreSQL #M1 下载 $ https://yum.postgresql.org/ $ yum install https://download.postgresql.org/pub/repos/yum/10/redhat/rhel-7-x86_64/pgdg-centos10-10-2.n…

#!/bin/bash :<<BLOCK Version : v1.0 2018-12-21 MySQL多源复制检测脚本 监控配置放在 $CONFIG_FILE 中,内容如下 #mysql_port:channel_name1:channel_name2:... 3306:master196:master194 检查结果存在 $RESULT_FILE 中,结果如下 #mysql_port:channel_name1:io_thread:sql_thread:slave_lag:transact…

原理机制 参考--https://yq.aliyun.com/articles/51009 主备总体结构 PG主备流复制的核心部分由walsender,walreceiver和startup三个进程组成. walsender进程是用来发送WAL日志记录的 walreceiver进程是用来接收WAL日志记录的 startup进程是用来apply日志的 配置环境 主机名 IP地址 角色 数据目录 postgres202 192.168.1.202 primary /home/postgres/dat…

转自:http://my.oschina.net/Kenyon/blog/152234PostgreSQL 9.2.4 主机:192.25.10.76 从机:192.25.10.71 做postgresql的流复制主从时,会遇到调整max_wal_sengers这个参数,官方文档对这个参数做了一个简要的说明(9.2.4比早先版本多了几句话并做了一些微调),但没有实际的例子. 1.参数说明: Specifies the maximum number of concurrent connection…

参考了别人的部分,添加了自己在实践中的内容,仅做记录. 1.同步流复制中 主机操作 1.1postgresql.conf wal_level = hot_standby # 这个是设置主为wal的主机 max_wal_senders # 这个设置了可以最多有几个流复制连接,差不多有几个从,就设置几个 wal_keep_segments # 设置流复制保留的最多的xlog数目 wal_sender_timeout = 60s # 设置流复制主机发送数据的超时时间 max_connections #…

基本环境说明: os:FreeBSD 9.3 postgresql version: master:192.168.56.101 standby:192.168.56.102 安装过程略,基于pkg包 1.配置master端 # psql -U pgsql -d postgres -c "CREATE USER rep REPLICATION LOGIN ENCRYPTED PASSWORD 'password';" # cd /usr/local/pgsql # vim data/p…

一.配置环境: 示例环境 主机名 IP 角色 系统版本 数据目录 pg版本 db1 192.168.128.128 主库 RedHat5.3 /app/postgreSQL/data 9.1.7 db2 192.168.129.129 备库 RedHat5.3 /app/postgreSQL/data 9.1.7 二.postgresql安装(略) 主库完全安装 .备库安装只需要到make install即可   不需要initdb. 三.主库配置(在192.168.128.128操作配置) 1…

前言 在MySQL被收购之后,虽然有其替代品为: MariaDB,但是总感觉心里有点膈应.大家发现了另一款开源的数据库: PostgreSQL. 虽然centos自带版本9.2也可以用,但是最近的几次升级支持了更多更新的内容,比如,PostgreSQL有一个MySQL无法比拟的优势,那就是PostGIS,PostGIS可以完美支持空间数据存储和空间分析:从PostgreSQL9.3起就内置了JSON数据类型,而9.4又开始支持JSONB,这标志着PostgreSQL实际上已经是一个关系型数据库和…

生命不息,test不止. 最近组里面修改了几个postgresql的bug,要进行回归测试,除了前面提到的WAL的RT测试和Mirroring Controller的RT测试,还要测试下postgresql的hot standby功能. 要进行该项测试,就要首先搭建hot standby环境. 本文主要记录下搭建hot standby环境的过程以及其中遇到的问题及解决方法. 首先介绍下系统环境: 操作系统:RHEL_6_x64 postgresql版本:9.5.4 首先至少要有两台机器,其次这两…

一.系统环境 操作系统:Windows Server 2003/2008 两个节点分别为master与slave. 主节点master:172.27.19.28 备机点slave:172.27.19.31 PostgreSQL Plus Advanced Server:9.2.1.3 二.安装EnterpriseDB 安装EnterpriseDB时,请将master节点和slave节点设置为相同的密码! 在Windows中安装PPAS需要注意一点:不要将PPAS安装在带有空格的目录中,例如默认安…

primary:10.189.102.118 standby:10.189.100.195 1. 配置ssh互信机制 在primary主库执行 $ ssh-keygen -t rsa $ cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys $ ssh-copy-id postgres@10.189.100.195 在standby备库执行 $ ssh-keygen -t rsa $ cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_…

原文出处 http://mysql.taobao.org/monthly/2015/10/04/ PostgreSQL在9.0之后引入了主备流复制机制,通过流复制,备库不断的从主库同步相应的数据,并在备库apply每个WAL record,这里的流复制每次传输单位是WAL日志的record.而PostgreSQL9.0之前提供的方法是主库写完一个WAL日志文件后,才把WAL日志文件传送到备库,这样的方式导致主备延迟特别大.同时PostgreSQL9.0之后提供了Hot Standby,备库在应用…

1 总体规划   Master库 Slave库 操作系统 CentOS Linux release 7.5.1804 CentOS Linux release 7.5.1804 处理器 1 1 内存 4G 4G 硬盘 38G 38G 主机名称 SHSNC-DB01 SHSNC-DB02 IP地址 192.168.1.61 192.168.1.62 具体安装步骤,可以查看<PostgreSQL数据库的安装>,不在本文的介绍范围内. 2 PostgreSQL主从异步流复制搭建 2.1 参数检查 检…

bitnami-docker-postgresql 仓库 源码:bitnami-docker-postgresql https://github.com/bitnami/bitnami-docker-postgresql 流复制相关环境变量 使用以下环境变量,可以使用 Bitnami PostgreSQL Docker 镜像 轻松设置流复制集群: POSTGRESQL_REPLICATION_MODE: replication 模式.可能的值 master/slave.没有默认值. POSTGR…

1.环境 OS: CentOS release 6.4 (Final) DB: postgresql 9.3.6 pgpool服务器: pgpool 172.16.0.240 数据库主服务器:master 172.16.0.241 数据库从服务器:slave 172.16.0.242 其中主从数据库使用的流复制,并且已经配置完毕,新配置的pgpool使用postgres用户进行管理.新架构使用的主备模式外加流复制,此架构支持流复制.负载均衡.故障恢复,不支持复制和并行查询,主库可以支持读写,从库…

文档结构: 由于博主之前是Oracle dba,oracle 高可用一般是rac,以及搭建ADG,一个是基于实例的高可用,一个是基于数据的容灾,甚至也有rac+adg的方式.Postgres有同步和异步两种同步方式,我发现,mysql,oracle,postgresql 这两种同步模式原理都是一个德行,可能都是绕不开关系型数据库吧. 异步方式主库上的事务不会等待备库接受日志流发出确认信息后主库才向客户端返回成功,同步方式事务会主库等待至少一个备库接受日志流发出确认信息后便返回成功:很明显,异步时…

一监控Streaming Replication集群 1 pg_stat_replication视图(主库端执行) pid Wal sender process的进程ID usesysid 执行流复制的用户的OID usename 执行流复制的用户名 application_name 连接到master的Application name client_addr standby的ip地址 client_hostname Standby主机名 client_port standby上连接端口 bac…

在数字化时代的今天,我们都认同数据会创造价值.为了最大化数据的价值,我们不停的建立着数据迁移的管道,从同构到异构,从关系型到非关系型,从云下到云上,从数仓到数据湖,试图在各种场景挖掘数据的价值.而在这纵横交错的数据网络中,逻辑复制扮演着及其重要的角色. 让我们将视角从复杂的网络拉回其中的一个端点,从PostgreSQL出发,对其逻辑复制的原理进行解密. 1 概念与原理 逻辑复制,是基于复制标识复制数据及其变化的一种方法.区别于物理复制对页面操作的描述,逻辑复制是对事务及数据元组的一种描述. 图-…

postgres主从流复制 postgres在9.0之后引入了主从的流复制机制,所谓流复制,就是从库通过tcp流从主库中同步相应的数据.postgres的主从看过一个视频,大概效率为3w多事务qps. postgres的主从主称之为primary,从称为stand_by.主从配置需要注意的一个是主从的postgres的版本,环境,等最好都需要一致,否则可能产生奇奇怪怪的问题. postgres的主配置 主是10.12.12.10这台机器 首先需要配置一个账号进行主从同步. 修改pg_hba.co…

最近因为业务需求,需要在两个数据库之间做双向实时同步,遂实践了一把Oracle的流复制,遇到了很多疑难问题,最终也貌似成功,现记录如下. 我是使用OEM来实现流复制的. 10.进行流复制的两个数据库的实例名不一样,于是我把其中一个数据库实例重装了,哭~~~ 20.两个数据库都需要打开归档模式. 30.进行流复制配置前两台数据库需要同步的数据最好一模一样.否则在同步过程中可能会操作一些本库中不存在的数据从而导致同步错误. 40.使用sys用户登录,在数据移动->设置中创建流管理员用户,两个库都要创…

centos   shell编程6一些工作中实践脚本   nagios监控脚本 自定义zabbix脚本 mysql备份脚本 zabbix错误日志  直接送给bc做计算  gzip  innobackupex/Xtrabackup   第四十节课 上半节课nagios监控脚本自定义zabbix脚本 下半节课mysql备份脚本zabbix错误日志直接送给bc做计算gzipinnobackupex/Xtrabackup 一. 自定义nagios监控脚本nagios:0成功, 1有问题 warning,…

一. 自定义nagios监控脚本1. 在客户端上创建脚本/usr/local/nagios/libexec/check_disk.shvim  /usr/local/nagios/libexec/check_disk.sh 写入如下内容:(client上)#!/bin/bash#!/bin/bashrow=`df -h |wc -l`for i in `seq 2 $row`do        ava=`df -h |sed -n "$i"p|awk '{print $4}'`    …

命令行运维: https://blog.csdn.net/zhangzeyuaaa/article/details/77941039 安装流程: 先准备类库: yum -y install readline-devel zlib-devel 下载postgresql-9.6.9.tar.gz到两台机器上解压后进入并: ./configure --prefix=/main/postgresql 然后make  make install就ok,接着改一下属主: adduser postgres pa…

Slony是PostgreSQL领域中最广泛的复制解决方案之一.它不仅是最古老的复制实现之一,它也是一个拥有最广泛的外部工具支持的工具,比如pgAdmin3.多年来,Slony是在PostgreSQL中复制数据的惟一可行的解决方案.Slony使用逻辑复制:Slony-I一般要求表有主键,或者唯一键:Slony的工作不是基于PostgreSQL事务日志的:而是基于触发器的:基于逻辑复制高可用性:PostgreSQL除了slony:还有Londiste,BDR等等后续文章会讲到 1. 安装Slony…

目录 PostgreSQL+pgpool-II复制方案 1. Pgpool-II介绍 2. pgpool-II安装 2.1 安装pgpool-II yum源,并安装pgpool-II 2.2 添加Pgpool-II运行用户 2.3 设置pcp.conf 2.4 设置Pgpool-II配置文件 2.5 配置backend信息 2.6 修改认证方式 2.7 测试pgpool-II同步 3. 安装pgpoolAdmin(不推荐) 3.1 解压pgpoolAdmin至web目录,使用户能访问其php 3…

之前逻辑复制刚刚出来的时候就使用过,但是没有进行整理,这次一个项目需要逻辑复制的自动迁移,再次拾起逻辑复制. 在此之前有两个疑问: 1)同一个表,既有流复制,又有逻辑复制,这样数据会有两份吗? --不会,配置了流复制,从节点就不能配置逻辑复制了,因为是只读节点.不知道后面会不会修改? 但是主节点可以配置发布者进行发布,wal_level要配置为logical. 2)同一张表,在订阅端订阅两次,会不会允许? --允许,如果表没有配置primary key数据会写入两份.配置了主键,如果订阅了两次,…

PostgreSQL逻辑复制之slony篇 一.pglogical介绍 pglogical 是 PostgreSQL 的拓展模块, 为 PostgreSQL 数据库提供了逻辑流复制发布和订阅的功能. pglogical 重用了 BDR 项目中的一部分相关技术.pglogical 是一个完全作为PostgreSQL 扩展实现的逻辑复制系统.完全集成,它不需要触发器或外部程序.这种物理复制的替代方法是使用发布/订阅模型复制数据以进行选择性复制的一种高效方法.支持 PG10.9.6.9.5.9.4 ,…

  MySQL/MariaDB数据库的复制监控和维护 作者:尹正杰  版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.清理日志 1>.删除指定日志文件名称之前的日志(也可用基于时间) MariaDB [yinzhengjie]> SHOW BINARY LOGS; +------------------+-----------+ | Log_name | File_size | +------------------+-----------+ | mysql-bin. | | | my…

环境: CentOS Linux release 7.6.1810 (Core) 内核版本:3.10.0-957.10.1.el7.x86_64 node1:192.168.216.130 node2:192.168.216.132 node3:192.168.216.134 一.首先在3个节点分别安装postgres,这里由于线上环境使用9.5.3,故本人直接使用9.5.3用于实验测试,其他版本的编译安装方式是相同的 yum install gcc readline-devel zlib-de…