mysql 架构 ~异地容灾

一简介我们来探讨下多机房下的mysql架构二目的: 首先要清楚你的目的 1 实现异地机房的容灾备份 2 实现异地机房的双活三叙说 1 实现异地机房的容灾备份目的只是将数据备份到异地,当第一机房发生故障时,能最大可能的保留数据.实现冗余效果业务核心业务在第一机房,第二机房和第一机房都共同使用第一机房的数据源,只有当第一机房发生故障时,核心业务才会切换到第二机房实现难度简易角色 1 数据备份冗余 2 故障发生时的…

双机热备(准)-->RAC(夭折)-->DG(异地容灾)

以下有的地方为oracle专业术语,非懂勿喷.前段时间某项目负责人告知,他们应用需要一套oracle数据库环境运行模式为双机热备.简单了解下对于现在已经非常成熟的RAC再合适不过了.详细问了问当前服务器的环境,不适合做RAC.因此退而求其次还是采用市面上非常陈旧的双机热备.网上搜了一些资料开始入手,但是网上那些文档在一地地方适用换个地方未必适用.即使按着文档来还是一路磕磕碰碰.实在没辙找同事帮忙,同事网上找了一篇靠谱的文档看了一遍说,这个不错可以照着做.我从文档中间往标题部分细看,才发现文档介绍…

Always on (HA 负载均衡异地容灾一体化）

Sqlserver 2012 开始,以往困扰我们的三个棘手问题:可扩展性.数据保护.异地容灾可以统一通过alwayson 来实现.2014 支持secondary 节点更是达到8个.在硬件调配方面比以往更灵活. 通过异地AD,机房1 DB primary _Group所在的生产环境通过always on 和节点 Db secondary group2进行秒级别的DR(相比以往的logshipping的延迟有质的提升) 机房2 可以在 Db secondary_group2 上面进行异地数据流(…

mysql 架构 ~ 异地多活

一业务异地多活二核心思想多机房提供就近服务,只有当本地机房出现问题时,才会被允许异地机房进行查询和事务操作三数据库角度 1 多机房之间需要进行数据同步,保证每个机房都保留多机房的全部副本备份,当机房出现问题时立刻提供服务 2 数据库之间的同步据我了解都不会采用数据库本身的复制机制,都采用自研组件进行同步 3 数据库之间的同步数据最好有确认机制,以保证副本节点的数据是最新并且正确的四程序角度 1 用户访问本地机房机制的判断 2 当发生问题时流量的转移判断五机房角度 1 选择稳…

QQ 相册后台存储架构重构与跨 IDC 容灾实践

欢迎大家前往云加社区,获取更多腾讯海量技术实践干货哦~ 作者简介:xianmau,2015 年加入腾讯 TEG 架构平台部,一直负责 QQ 相册平台的维护和建设,主导相册上传架构重构和容灾优化等工作.主要研究方向为口语对话系统.分布式系统架构设计和优化,发表对话系统相关学术论文 3 篇,系统架构相关专利 2 篇. 本文由腾讯技术工程官方号发布在云加社区. 写在前面 QQ 相册作为重量级资深业务,稳定运营.有效容灾,一直是相册团队追求的目标.QQ 相册架构一直在演变进化,本文重点介绍相册最新的一次…

【虚拟化实战】容灾设计之一VR vs SRM

作者:范军 (Frank Fan) 新浪微博:@frankfan7 从本文开始,我们将介绍一系列的关于容灾的解决方案.先探讨应用的场景,然后再深入介绍技术架构. 情景一: 某小型公司的虚拟化环境中,在5台ESXi服务器上运行100台虚拟机.采用NFS存储.其中需要异地恢复的虚拟机10台.对于异地容灾RPO的要求是30分钟,RTO是1小时.已经使用vSphereStandard 许可.软件购买成本有限. 建议: 采用vSphere Replication (VR) VR对于已经使用vSphere …

腾讯云COS对象存储占据数据容灾C位

说到公有云容灾,大家首先想到的是云上数据备份. 然而,随着企业核心业务逐渐从线下迁移到云上,客户提出了更高的要求.如何确保云上业务的高可用.数据的高可靠,这对云厂商提出了新的挑战. 腾讯云作为全球领先的云厂商,服务了上百万家客户.在公有云服务之初,就凭借自身业务的多年积累,从机房基础设施建设,到计算.存储.网络.安全等各种服务,为客户在云上构建高可用.数据高可靠的业务,提供了完善的产品和解决方案. 业务的容灾涉及到诸多方面,以典型的三层架构为例,架构上要确保每一层都具备高可用能力,才能保障整体业…

华为云计算IE面试笔记-请描述华为容灾解决方案全景图，并解释双活数据中心需要从哪些角度着手考虑双活设计

容灾全景图: 按照距离划分:分为本地容灾同城容灾异地容灾本地容灾包括本地高可用和本地主备.(本数据中心的两机房.机柜) 本地高可用这个方案为了保持业务的连续性,从两个层面来考虑: ①一个是从主机.服务器这个层面考虑,假如这个服务器上的虚拟机或者业务挂了,可以自动的从其他服务器上把它拉活,以此来保证业务的连续性,主要是通过集群HA.DRS.DPM的这些特性. ②另一个就是从存储层面来考虑,使用的Hypermetro特性/ HyperMirror+SmartVirtualization(异构…

传统业务上云：跨AZ容灾架构解析

本文由网易云发布. 数字化转型浪潮之下,采用云计算服务提升业务敏捷性.降低运维成本,成为了传统企业的优选方案.网易云资深解决方案架构师张亮通过某物流企业客户的实际案例,分享了传统业务系统在云上的架构设计如何满足数据高可靠.业务高可用的需求,并总结了传统业务上云的常见问题和解决方案. 物流企业业务系统上云需求对于物流企业来说,内部沟通.供应链协同对优化供应链效率提升核心竞争力非常重要.作为行业翘楚,该物流企业客户建立了一个企业级移动办公平台,该平台集成了即时通讯(IM).企业内部的ERP.O…

mysql容灾备份脚本

一,环境需求 **安装前准备操作系统环境:Centos 7.2 [root@localhost soft]# rpm -qa | grep mariadb [root@localhost soft]# rpm -e --nodeps mariadb-libs-5.5.60-1.el7_5.x86_64 [root@localhost soft]# rpm -e --nodeps mariadb-5.5.60-1.el7_5.x86_64 [root@localhost soft]# rpm -…

（4.4）mysql备份还原——备份存储容灾基础知识

存储知识 1.为什么需要存储,存储一般解决哪些问题? 容量.速度.易于管理.安全(容灾与备份).可扩展性 2.存储发展历史 [2.1]大型机 [2.2]c/s结构(客户端->服务器) [2.3]PC服务器 [2.4]internet B/S(浏览器->服务器) [2.5]云数据.云时代.云集群 [2.6]存储设备发展史 (1)tape磁带(1920) (2)HDD (1956) (3)DAS(1970 数据摆脱服务器,存储单独发展) (4)FCSAN(1980,光纤存储,数据的集中管理) (5…

centos6.5环境通过shell脚本备份php的web及mysql数据库并做远程备份容灾

centos6.5环境通过shell脚本备份php的web及mysql数据库并做远程备份容灾系统:centos6.5 1.创建脚本目录 mkdir -p /usr/local/sh/ 创建备份web文件存放目录 mkdir -p /data/backup/www/ 创建备份db文件存放目录 mkdir -p /data/backup/db/ 授权backup用户对所有数据库的操作权限(注意用来备份mysql数据库) GRANT ALL PRIVILEGES ON *.* TO 'backup'…

微软分布式云计算框架Orleans(2)：容灾与集群(1)

在上一篇:微软分布式云计算框架Orleans(1):Hello World,我们大概了解了Orleans如何运用,当然上一篇的例子可以说是简单且无效的,因为用了Orleans不可能只写一个Hello World吧,Orleans是为分布式和云计算而生的框架,那么今天我们就简单说一说容灾.集群.容灾与集群在Orleans中的运用. 集群是什么? 下面摘抄自百度百科: 集群(cluster)技术是一种较新的技术,通过集群技术,可以在付出较低成本的情况下获得在性能.可靠性.灵活性方面的相对较高的收益,…

MySQL架构之keepalived+haproxy+mysql 实现MHA中slave集群负载均衡的高可用（原创）

MySQL的高可用方案一般有如下几种:keepalived+双主,MHA,PXC,MMM,Heartbeat+DRBD等,比较常用的是keepalived+双主,MHA和PXC. HAProxy是一款免费的提供高可用性.负载均衡以及基于TCP(第四层)和HTTP(第七层)应用的代理软件,借助HAProxy可以快速并且可靠的提供基于TCP和HTTP应用的代理解决方案.Keepalived主要作用是LoadBalance master和LoadBalance backup之间的健康检查,实现故障转换…

学一点 MYSQL 双机异地热备份—-MYSQL主从，主主备份原理及实践

简单介绍mysql双机,多机异地热备简单原理实战. 双机热备的概念简单说一下,就是要保持两个数据库的状态自动同步.对任何一个数据库的操作都自动应用到另外一个数据库,始终保持两个数据库数据一致. 这样做的好处多. 1. 可以做灾备,其中一个坏了可以切换到另一个. 2. 可以做负载均衡,可以将请求分摊到其中任何一台上,提高网站吞吐量. 对于异地热备,尤其适合灾备.废话不多说了.我们直接进入主题. 我们会主要介绍两部分内容: 一, mysql 备份工作原理二, 备份实战我们开始. 我使用的是my…

elasticsearch集群扩容和容灾

elasticsearch专栏:https://www.cnblogs.com/hello-shf/category/1550315.html 一.集群健康 Elasticsearch 的集群监控信息中包含了许多的统计数据,其中最为重要的一项就是集群健康,它在 status 字段中展示为 green . yellow 或者 red. 在kibana中执行:GET /_cat/health?v 1 epoch timestamp cluster status node.total node.dat…

巨杉Tech｜SequoiaDB 巨杉数据库高可用容灾测试

数据库的高可用是指最大程度地为用户提供服务,避免服务器宕机等故障带来的服务中断.数据库的高可用性不仅仅体现在数据库能否持续提供服务,而且也体现在能否保证数据的一致性. SequoiaDB 巨杉数据库作为一款100%兼容 MySQL 的国产开源分布式数据库,它在高可用方面的表现如何?它的高可用性是如何实现的?本文将详细描述SequoiaDB巨杉数据库的高可用性原理,并进行测试验证. 01 巨杉分布式集群架构SequoiaDB 巨杉数据库采用计算与存储分离架构,SequoiaSQL-MySQL 是…

从数据仓库双集群系统模式探讨，看GaussDB(DWS)的容灾设计

摘要:本文主要是探讨OLAP关系型数据库框架的数据仓库平台如何设计双集群系统,即增强系统高可用的保障水准,然后讨论一下GaussDB(DWS)的容灾应该如何设计. 当前社会.企业运行当中,大数据分析.数据仓库平台已逐渐成为生产.生活的重要地位,不再是一个附属的可有可无的分析系统,外部监控要求.企业内部服务,涌现大批要求7*24小时在线的应用,逐步出现不同等级要求的双集群系统. 数据仓库主流数据库平台均已存在多重高可靠保障措施设计,如硬盘冗余的raid设计.数据表冗余.节点备用冗余.机柜备用数据交…

步步深入：MySQL架构总览->查询执行流程->SQL解析顺序

前言: 一直是想知道一条SQL语句是怎么被执行的,它执行的顺序是怎样的,然后查看总结各方资料,就有了下面这一篇博文了. 本文将从MySQL总体架构--->查询执行流程--->语句执行顺序来探讨一下其中的知识. 一.MySQL架构总览: 架构最好看图,再配上必要的说明文字. 下图根据参考书籍中一图为原本,再在其上添加上了自己的理解. 从上图中我们可以看到,整个架构分为两层,上层是MySQLD的被称为的‘SQL Layer’,下层是各种各样对上提供接口的存储引擎,被称为‘Storage E…

Redis容灾部署（哨兵Sentinel）

Redis容灾部署(哨兵Sentinel) 哨兵的作用 1. 监控:监控主从是否正常2. 通知:出现问题时,可以通知相关人员3. 故障迁移:自动主从切换4. 统一的配置管理:连接者询问sentinel取得主从的地址 Raft分布式算法 1. 主要用途:用于分布式系统,系统容错,以及选出领头羊2. 作者:Diego Ongaro,毕业于哈佛3. 目前用到这个算法的项目有: a. CoreOS : 见下面 b. ectd : a distributed, consistent shared conf…

diamond专题（四）—— 容灾机制

大家好,本次为大家带来diamond的容灾机制. diamond之所以表现的稳定可靠,除了架构简单之外,另一个重要原因是diamond具有一套完备的容灾机制,容灾机制涉及到client和server两部分,主要包括以下几个方面: 1.server存储数据的方式. server存储数据是“数据库 + 本地文件”的方式,集群间的数据同步我们在之前的文章中讲过(请参考专题二的原理部分),client订阅数据时,访问的是本地文件,不查询数据库,这样即使数据库出问题了,仍然不影响client的订阅. 2.…

【虚拟化实战】容灾设计之四VPLEX

作者:范军 (Frank Fan) 新浪微博:@frankfan7 VPLEX等存储设备的出现,可以实现双活数据中心,最大程度的有效利用运算和存储资源. 在“容灾设计之三Stretched Cluster”中我们介绍了Stretched Cluster的概念,EMC VPLEX是Stretched Cluster支持的存储设备之一.本文大概介绍EMC VPLEX和VMware Stretched Cluster的集成.当然VPLEX也可以独立使用. 一 VPLEX简介 Stretched C…

主从集群搭建及容灾部署redis

redis主从集群搭建及容灾部署(哨兵sentinel) Redis也用了一段时间了,记录一下相关集群搭建及配置详解,方便后续使用查阅. 提纲 l Redis安装 l 整体架构 l Redis主从结构搭建 l Redis容灾部署(哨兵sentinel) l Redis常见问题 Redis安装发行版:CentOS-6.6 64bit 内核:2.6.32-504.el6.x86_64 CPU:intel-i7 3.6G 内存:2G 下载redis,选择合适的版本 [root@rocket…

MongDB集群容灾方案步骤

MongoDB复制集优/特点支持大数据量.高扩展性.高性能.灵活数据模型.高可用性.同步机制数据复制的目的是使数据得到最大的可用性,避免单点故障引起的整站不能访问的情况的发生,Mongodb的副本集在同一时刻只有一台服务器是可以写的,副本集的主从复制也是一个异步同步的过程,是slave端从primary端获取日志,然后在自己身上完全顺序的执行日志所记录的各种操作(该日志是不记录查询操作的),这个日志就是local数据库中的oplog.rs表,默认在64位机器上这个表是比较大的,占磁盘大小的5%,…

MySQL架构总览->查询执行流程->SQL解析顺序

Reference: https://www.cnblogs.com/annsshadow/p/5037667.html 前言: 一直是想知道一条SQL语句是怎么被执行的,它执行的顺序是怎样的,然后查看总结各方资料,就有了下面这一篇博文了. 本文将从MySQL总体架构--->查询执行流程--->语句执行顺序来探讨一下其中的知识. 一.MySQL架构总览: 架构最好看图,再配上必要的说明文字. 下图根据参考书籍中一图为原本,再在其上添加上了自己的理解. 从上图中我们可以看到,整个架构分…

打通MySQL架构和业务的任督二脉

目前,在很多OLTP场景中,MySQL数据库都有着广泛的应用,也有很多不同的使用方式.从数据库的业务需求.架构设计.运营维护.再到扩容迁移,不同的MySQL架构有不同的特点,适应一定的业务场景,或者解决一定的业务问题. DBA作为数据库架构的设计.实施.维护人员,不仅要对各种MySQL架构非常熟悉,还要了解业务,对于不同的业务有一定的划分和认识,并根据业务特点和架构特点,合理选择和使用MySQL,满足业务需求. 本文从MySQL常见架构.业务环境分类.业务与架构结合使用原则三个方面对MySQL数…