原文地址(微信):【技术文章】《Mysql集群架构》

本文地址:http://www.cnblogs.com/aiweixiao/p/7258444.html

点击关注微信公众号

1.主要内容

1)mysql的架构,锁,最佳实践,事务

2)mysql的命令行,主从复制,索引,数据备份/恢复

3)mysql的集群,mysql的负载均衡,监控,mysql proxy

4)  mysql的MMM架构,mysql 的源码,DBA

MySQL-从删除到跑路

2.具体内容

2.1)【架构】:


架构图】:

MySQL-MySQL的架构图
 

【概述】:Mysql是由SQL接口,解析器,优化器,缓存,存储引擎组成的

2.2)【】:


【概念】:为了保证数据的一致完整性,任何一个数据库都存在锁定机制。锁定机制的优劣直接应想到一个数据库系统的并发处理能力和性能,所以锁定机制的实现也就成为了各种数据库的核心技术之一。

【分类】:MySQL各存储引擎使用了三种类型(级别)的锁定机制:行级锁定,页级锁定和表级锁定

1)行级锁定:锁定对象的颗粒度很小,消耗最大,行级锁定也最容易发生死锁,但是并发好

2)表级锁定:死锁情况少,但是并发不好,

3)页级锁定:介于前两者之间。

【代码】:

1)锁定 LOCK TABLES tbl_name [AS alias]

2)解锁  UNLOCK TABLES

2.3)【最佳实践】:


【为查询缓存优化你的查询】:

【mysql强制索引和禁止某个索引】:

1) mysql强制使用索引:force index(索引名或者主键PRI):select * from table force index(PRI,ziduan1_index) limit 2;(强制使用索引”PRI和ziduan1_index”)

2) mysql禁止某个索引:ignore index(索引名或者主键PRI):select * from table ignore index(PRI,ziduan1_index) limit 2;(禁止使用索引”PRI,ziduan1_index”)

2.4)【事务】:


【概念】:事务是指逻辑上的一组操作,组成这组操作的各个单元,要不全成功要不全失败。其特点是ACID(原子性,一致性,隔离性,持久性)

【实现】:

1)事务开启:START TRANSACTION; 或者 BEGIN;

2)事务提交:COMMIT;

3)事务回滚:ROLLBACK;

2.5)【mysql 命令行】:


【命令行执行mysql】:使用mysql的-e参数可以执行各种sql的(创建,删除,增,删,改、查)等各种操作

例如:#创建数据库

create_db_sql="create database IF NOT EXISTS ${DBNAME}”

mysql -h${HOSTNAME}  -P${PORT}  -u${USERNAME} -p${PASSWORD} -e "${create_db_sql}"

2.6)【主从复制】:


【一主多从】:在一主多从的数据库体系中,多个从服务器采用异步的方式更新主数据库的变化,业务服务器在执行写或者相关修改数据库的操作是在主服务器上进行的,读操作则是在各从服务器上进行

MySQL-MySQL的主从复制
 

【原理】 :MySQL之间数据复制的基础是二进制日志文件(binary log file)。一台MySQL数据库一旦启用二进制日志后,其作为master,它的数据库中所有操作都会以“事件”的方式记录在二进制日志中,其他数据库作为slave通过一个I/O线程与主服务器保持通信,并监控master的二进制日志文件的变化,如果发现master二进制日志文件发生变化,则会把变化复制到自己的中继日志中,然后slave的一个SQL线程会把相关的“事件”执行到自己的数据库中,以此实现从数据库和主数据库的一致性,也就实现了主从复制。

2.7)【索引】:


【概述】:索引对查询的速度有着至关重要的影响,理解索引也是进行数据库性能调优的起点

【种类】:普通索引,唯一索引,全文索引,单列/多列索引,组合索引(最左前缀)

B+树】:

MySQL-索引B+树结构

1)详解B+树:浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。真实的数据存在于叶子节点即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非叶子节点只不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中。

2)查找B+树:如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。

2.8)【数据备份/恢复】:


【数据备份】:

1)使用mysqldump命令备份mysqldump -u username -p --databases dbname2 dbname2 > Backup.sql

2)直接复制整个数据库目录 : 需要停止服务,不支持InnoDB引擎

3)热备份:使用mysqlhotcopy工具快速备份,不用停止服务。 mysqlhotcopy [option] dbname1 dbname2 backupDir/

【数据还原】:

1)还原使用mysqldump命令备份的数据库: mysql -u root -p < C:\backup.sql

2)还原直接复制目录的备份: 必须保证两个MySQL数据库的版本号是相同的。MyISAM类型的表有效,对于InnoDB类型的表不可用

2.9)【mysql的集群】:


【概念】:MySQL 集群(MySQL Cluster )是mysql适合于分布式计算环境的高实用、高冗余版本。它采用了NDB Cluster 存储引擎,允许在1个 Cluster 中运行多个MySQL服务器。在MyQL 5.0及以上的二进制版本中、以及与最新的Linux版本兼容的RPM中提供了该存储引擎。

MySQL-MySQL集群架构图
 

【分类】:分为同步集群和异步集群。

1)同步集群:(mysql cluster)

结构:(data + sql + mgm节点)

特点:

1. 1) 内存级别的,对硬件要求较低,但是对内存要求较大。换算比例为:1:1.1;

1.2) 数据同时放在几台服务器上,冗余较好;

1.3) 速度一般;

1.4) 建表需要声明为engine=ndbcluster

1.5) 扩展性强;

1.6) 可以实现高可用性和负载均衡,实现对大型应用的支持;

1.7) 必须是特定的mysql版本,如:已经编译好的max版本;

1.8) 配置和管理方便,不会丢失数据

2)异步集群(mysql replication)

结构:(master + slave)

特点:

2.1) 主从数据库异步数据;

2.2) 数据放在几台服务器上,冗余一般;

2.3) 速度较快;

2.4) 扩展性差;

2.5) 无法实现高可用性和负载均衡(只能在程序级别实现读写分离,减轻对主数据库的压力);

2.6) 配置和管理较差,可能会丢失数据

2.10)【mysql的负载均衡】:


【定义】: 通过director,将用户的请求分发到real server服务器上,然后返回给用户。负载均衡部署灵活、能够满足各种需求。

MySQL-LVS+Keepalived实现mysql负载均衡
 

【实现方式】:

硬件:BIG/IP、Cisco、IBM(昂贵)

软件:LVS(免费)

LVS系统将用户的请求的数据包在数据层和网络层进行了封装和转发,由三种方式满足各种需求。

1) DR:直接路由

2) Tuning:tcp/ip隧道

3) NAT:网络地址转换

2.11)【mysql的监控】:


【监控内容】:监控数据库的日常会话情况。碎片、剩余表空间监控,及时了解表空间的扩展情况、以及剩余空间分布情况

代码实现】:https://github.com/wozhuzaisi/shell-work/blob/master/mysqlmonitor.sh

2.12)【mysql proxy】:


【定义】:MySQL Proxy是一个处于你的client端和MySQL server端之间的简单程序,它可以监测、分析或改变它们的通信。它使用灵活,没有限制,常见的用途包括:负载平衡,故障、查询分析,查询过滤和修改等等

【实现读写分离】:

1)安装并配置mysql proxy.

2)测试:主服务器mysql> grant all on *.* to'lin3615'@'192.168.179.142'identified by'123456’;

2.14)【mysql MMM架构】:


【概述】:是一套支持双主故障切换和双主日常管理的脚本程序。由于MMM无法完全的保证数据一致性,所以MMM适用于对数据的一致性要求不是很高,但是又想最大程度的保证业务可用性的场景。对于那些对数据的一致性要求很高的业务,非常不建议采用MMM这种高可用架构。

MySQL-MMM架构图

2.15)【mysql 源码】:


内容】:MySQL是由C++写的,入口函数main()直接调用了mysqld_main()。Server启动的代码都在这里,直到最后的 handle_connections_sockets()。

MySQL-MySQL的源码第一书
 

【资料】:

下载pdf:《深入MySQL源码

官网手册: https://dev.mysql.com/doc/internals/en/

阅读源码:https://zhuanlan.zhihu.com/p/26118810

书籍:《深入理解MySQL核心技术

2.16)【DBA】:


【职责】:

MySQL-DBA思维导图
 

1)数据库安装;

2)数据库配置和管理;

3)权限设置和安全管理;

4)监控和性能调节;

5)备份和恢复;

6)解决一般的问题;

MySQL-DBA的一天

MySQL-关注微信公众号

【MySQL大系】《Mysql集群架构》的更多相关文章

  1. 构建MHA实现MySQL高可用集群架构

    一.MHA简介 MHA(Master HighAvailability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司)开 ...

  2. MYSQL高可用集群架构-MHA架构

    1  MHA简介:MHA(Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司 ...

  3. LVS+Keepalived+Squid+Nginx+MySQL主从高性能集群架构部署方案

    方案一,在tomcat的workers.properties里面配置相关条件 worker.tomcat.lbfactor= worker.tomcat.cachesize= worker.tomca ...

  4. MySQL企业常用集群图解

      mysql集群架构图片 1.mysql企业常用集群架构 在中小型互联网的企业中.mysql的集群一般就是上图的架构.WEB节点读取数据库的时候读取dbproxy服务器.dbproxy服务器通过对S ...

  5. Mysql 高可用集群PXC

    PXC是percona公司的percona  xtraDB  cluster,简称PXC.它是基于Galera协议的高可用集群方案.可以实现多个节点间的数据同步复制以及读写,并且可保障数据库的服务高可 ...

  6. Linux Web集群架构详细(亲测可用!!!)

    注意:WEB服务器和数据库需要分离,同时WEB服务器也需要编译安装MySQL. 做集群架构的重要思想就是找到主干,从主干区域向外延展. WEB服务器: apache nginx  本地做三个产品 de ...

  7. MySQL集群架构:MHA+MySQL-PROXY+LVS实现MySQL集群架构高可用/高性能-技术流ken

    MHA简介 MHA可以自动化实现主服务器故障转移,这样就可以快速将从服务器晋级为主服务器(通常在10-30s),而不影响复制的一致性,不需要花钱买更多的新服务器,不会有性能损耗,容易安装,不必更改现有 ...

  8. Galera Cluster——一种新型的高一致性MySQL集群架构

    原文链接:https://www.sohu.com/a/147032902_505779,最近被分配定位mysql的问题,学习下. 1. 何谓Galera Cluster 何谓Galera Clust ...

  9. corosync+pacemaker and drbd实现mysql高可用集群

    DRBD:Distributed Replicated Block Device 分布式复制块设备,原理图如下 DRBD 有主双架构和双主架构的,当处于主从架构时,这个设备一定只有一个节点是可以读写的 ...

随机推荐

  1. 通过 mysqlbinlog 和 grep 命令定位binlog文件中指定操作

    1.binlog日志基本知识 MySQL的二进制日志binlog可以说是MySQL最重要的日志,它记录了所有的DDL和DML语句(除了数据查询语句select),以事件形式记录,还包含语句所执行的消耗 ...

  2. 数据库之redis篇(3)—— Python操作redis

    虽然前面两篇已经说了redis的一些配置安装什么的,篇幅有点长,可能看完了也不知道怎么操作,这里再浓缩一下: 什么是redis redis完全开源免费的,遵守BSD协议,是一个高性能的非关系型key- ...

  3. 《SQL CookBook 》笔记-第二章-查询结果排序

    目录 第二章 查询结果排序 2.1 以指定顺序返回查询结果 2.2 依据子串排序 2.3 排序时对 Null 值的处理 2.4 依据条件逻辑动态调整排序项 第二章 shanzm 第二章 查询结果排序 ...

  4. Swagger使用指南

    1:认识Swagger Swagger 是一个规范和完整的框架,用于生成.描述.调用和可视化 RESTful 风格的 Web 服务.总体目标是使客户端和文件系统作为服务器以同样的速度来更新.文件的方法 ...

  5. 《深入理解 JVM 虚拟机》 --- 看书笔记

    1.JVM 内存溢出 1.堆溢出:堆要不断的创建对象,如果避免了垃圾回收来清除这些对象,就会产生JVM内存溢出.一般手段是通过内存映像分析工具对Dump出来的堆转储快照进行分析,分清楚到底是内存泄露还 ...

  6. Linux下Springboot解决`APR based Apache Tomcat Native library`提示

    最近转行做java,开发基于Springboot的项目,版本号为2.1.0.RELEASE. 启动应用,发现以下提示: The APR based Apache Tomcat Native libra ...

  7. 【自然语言处理篇】--以NLTK为基础讲解自然语⾔处理的原理和基础知识

    一.前述 Python上著名的⾃然语⾔处理库⾃带语料库,词性分类库⾃带分类,分词,等等功能强⼤的社区⽀持,还有N多的简单版wrapper. 二.文本预处理 1.安装nltk pip install - ...

  8. FileUtils【获取SD卡根目录、读写文件、移动、复制、删除文件、获取文件名、后缀名操作类】

    版权声明:本文为HaiyuKing原创文章,转载请注明出处! 前言 封装了获取SD卡根目录路径.以及对文件读写.获取文件名等相关操作. 因为需要用到android.permission.READ_EX ...

  9. 使用 ASP.NET Core MVC 创建 Web API(三)

    使用 ASP.NET Core MVC 创建 Web API 使用 ASP.NET Core MVC 创建 Web API(一) 使用 ASP.NET Core MVC 创建 Web API(二) 十 ...

  10. RabbitMQ消息队列(一)-RabbitMQ的优劣势及产生背景

    本篇并没有直接讲到技术,例如没有先写个Helloword.我想在选择了解或者学习一门技术之前先要明白为什么要现在这个技术而不是其他的,以免到最后发现自己学错了.同时如果已经确定就是他,最好先要了解下技 ...