原文地址(微信):【技术文章】《Mysql集群架构》

本文地址:http://www.cnblogs.com/aiweixiao/p/7258444.html

点击关注微信公众号

1.主要内容

1)mysql的架构,锁,最佳实践,事务

2)mysql的命令行,主从复制,索引,数据备份/恢复

3)mysql的集群,mysql的负载均衡,监控,mysql proxy

4)  mysql的MMM架构,mysql 的源码,DBA

MySQL-从删除到跑路

2.具体内容

2.1)【架构】:


【架构图】:

MySQL-MySQL的架构图
 

【概述】:Mysql是由SQL接口,解析器,优化器,缓存,存储引擎组成的

2.2)【锁】:


【概念】:为了保证数据的一致完整性,任何一个数据库都存在锁定机制。锁定机制的优劣直接应想到一个数据库系统的并发处理能力和性能,所以锁定机制的实现也就成为了各种数据库的核心技术之一。

【分类】:MySQL各存储引擎使用了三种类型(级别)的锁定机制:行级锁定,页级锁定和表级锁定

1)行级锁定:锁定对象的颗粒度很小,消耗最大,行级锁定也最容易发生死锁,但是并发好

2)表级锁定:死锁情况少,但是并发不好,

3)页级锁定:介于前两者之间。

【代码】:

1)锁定 LOCK TABLES tbl_name [AS alias]

2)解锁  UNLOCK TABLES

2.3)【最佳实践】:


【为查询缓存优化你的查询】:

【mysql强制索引和禁止某个索引】:

1) mysql强制使用索引:force index(索引名或者主键PRI):select * from table force index(PRI,ziduan1_index) limit 2;(强制使用索引”PRI和ziduan1_index”)

2) mysql禁止某个索引:ignore index(索引名或者主键PRI):select * from table ignore index(PRI,ziduan1_index) limit 2;(禁止使用索引”PRI,ziduan1_index”)

2.4)【事务】:


【概念】:事务是指逻辑上的一组操作,组成这组操作的各个单元,要不全成功要不全失败。其特点是ACID(原子性,一致性,隔离性,持久性)

【实现】:

1)事务开启:START TRANSACTION; 或者 BEGIN;

2)事务提交:COMMIT;

3)事务回滚:ROLLBACK;

2.5)【mysql 命令行】:


【命令行执行mysql】:使用mysql的-e参数可以执行各种sql的(创建,删除,增,删,改、查)等各种操作

例如:#创建数据库

create_db_sql="create database IF NOT EXISTS ${DBNAME}”

mysql -h${HOSTNAME}  -P${PORT}  -u${USERNAME} -p${PASSWORD} -e "${create_db_sql}"

2.6)【主从复制】:


【一主多从】:在一主多从的数据库体系中,多个从服务器采用异步的方式更新主数据库的变化,业务服务器在执行写或者相关修改数据库的操作是在主服务器上进行的,读操作则是在各从服务器上进行

MySQL-MySQL的主从复制
 

【原理】 :MySQL之间数据复制的基础是二进制日志文件(binary log file)。一台MySQL数据库一旦启用二进制日志后,其作为master,它的数据库中所有操作都会以“事件”的方式记录在二进制日志中,其他数据库作为slave通过一个I/O线程与主服务器保持通信,并监控master的二进制日志文件的变化,如果发现master二进制日志文件发生变化,则会把变化复制到自己的中继日志中,然后slave的一个SQL线程会把相关的“事件”执行到自己的数据库中,以此实现从数据库和主数据库的一致性,也就实现了主从复制。

2.7)【索引】:


【概述】:索引对查询的速度有着至关重要的影响,理解索引也是进行数据库性能调优的起点

【种类】:普通索引,唯一索引,全文索引,单列/多列索引,组合索引(最左前缀)

【B+树】:

MySQL-索引B+树结构

1)详解B+树:浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。真实的数据存在于叶子节点即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非叶子节点只不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中。

2)查找B+树:如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。

2.8)【数据备份/恢复】:


【数据备份】:

1)使用mysqldump命令备份mysqldump -u username -p --databases dbname2 dbname2 > Backup.sql

2)直接复制整个数据库目录 : 需要停止服务,不支持InnoDB引擎

3)热备份:使用mysqlhotcopy工具快速备份,不用停止服务。 mysqlhotcopy [option] dbname1 dbname2 backupDir/

【数据还原】:

1)还原使用mysqldump命令备份的数据库: mysql -u root -p < C:\backup.sql

2)还原直接复制目录的备份: 必须保证两个MySQL数据库的版本号是相同的。MyISAM类型的表有效,对于InnoDB类型的表不可用

2.9)【mysql的集群】:


【概念】:MySQL 集群(MySQL Cluster )是mysql适合于分布式计算环境的高实用、高冗余版本。它采用了NDB Cluster 存储引擎,允许在1个 Cluster 中运行多个MySQL服务器。在MyQL 5.0及以上的二进制版本中、以及与最新的Linux版本兼容的RPM中提供了该存储引擎。

MySQL-MySQL集群架构图
 

【分类】:分为同步集群和异步集群。

1)同步集群:(mysql cluster)

结构:(data + sql + mgm节点)

特点:

1. 1) 内存级别的,对硬件要求较低,但是对内存要求较大。换算比例为:1:1.1;

1.2) 数据同时放在几台服务器上,冗余较好;

1.3) 速度一般;

1.4) 建表需要声明为engine=ndbcluster

1.5) 扩展性强;

1.6) 可以实现高可用性和负载均衡,实现对大型应用的支持;

1.7) 必须是特定的mysql版本,如:已经编译好的max版本;

1.8) 配置和管理方便,不会丢失数据

2)异步集群(mysql replication)

结构:(master + slave)

特点:

2.1) 主从数据库异步数据;

2.2) 数据放在几台服务器上,冗余一般;

2.3) 速度较快;

2.4) 扩展性差;

2.5) 无法实现高可用性和负载均衡(只能在程序级别实现读写分离,减轻对主数据库的压力);

2.6) 配置和管理较差,可能会丢失数据

2.10)【mysql的负载均衡】:


【定义】: 通过director,将用户的请求分发到real server服务器上,然后返回给用户。负载均衡部署灵活、能够满足各种需求。

MySQL-LVS+Keepalived实现mysql负载均衡
 

【实现方式】:

硬件:BIG/IP、Cisco、IBM(昂贵)

软件:LVS(免费)

LVS系统将用户的请求的数据包在数据层和网络层进行了封装和转发,由三种方式满足各种需求。

1) DR:直接路由

2) Tuning:tcp/ip隧道

3) NAT:网络地址转换

2.11)【mysql的监控】:


【监控内容】:监控数据库的日常会话情况。碎片、剩余表空间监控,及时了解表空间的扩展情况、以及剩余空间分布情况

【代码实现】:https://github.com/wozhuzaisi/shell-work/blob/master/mysqlmonitor.sh

2.12)【mysql proxy】:


【定义】:MySQL Proxy是一个处于你的client端和MySQL server端之间的简单程序,它可以监测、分析或改变它们的通信。它使用灵活,没有限制,常见的用途包括:负载平衡,故障、查询分析,查询过滤和修改等等

【实现读写分离】:

1)安装并配置mysql proxy.

2)测试:主服务器mysql> grant all on *.* to'lin3615'@'192.168.179.142'identified by'123456’;

2.14)【mysql MMM架构】:


【概述】:是一套支持双主故障切换和双主日常管理的脚本程序。由于MMM无法完全的保证数据一致性,所以MMM适用于对数据的一致性要求不是很高,但是又想最大程度的保证业务可用性的场景。对于那些对数据的一致性要求很高的业务,非常不建议采用MMM这种高可用架构。

MySQL-MMM架构图

2.15)【mysql 源码】:


【内容】:MySQL是由C++写的,入口函数main()直接调用了mysqld_main()。Server启动的代码都在这里,直到最后的 handle_connections_sockets()。

MySQL-MySQL的源码第一书
 

【资料】:

下载pdf:《深入MySQL源码》

官网手册: https://dev.mysql.com/doc/internals/en/

阅读源码:https://zhuanlan.zhihu.com/p/26118810

书籍:《深入理解MySQL核心技术》

2.16)【DBA】:


【职责】:

MySQL-DBA思维导图
 

1)数据库安装;

2)数据库配置和管理;

3)权限设置和安全管理;

4)监控和性能调节;

5)备份和恢复;

6)解决一般的问题;

MySQL-DBA的一天

MySQL-关注微信公众号

【MySQL大系】《Mysql集群架构》的更多相关文章

  1. 构建MHA实现MySQL高可用集群架构

    一.MHA简介 MHA(Master HighAvailability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司)开 ...

  2. MYSQL高可用集群架构-MHA架构

    1  MHA简介:MHA(Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司 ...

  3. LVS+Keepalived+Squid+Nginx+MySQL主从高性能集群架构部署方案

    方案一,在tomcat的workers.properties里面配置相关条件 worker.tomcat.lbfactor= worker.tomcat.cachesize= worker.tomca ...

  4. MySQL企业常用集群图解

      mysql集群架构图片 1.mysql企业常用集群架构 在中小型互联网的企业中.mysql的集群一般就是上图的架构.WEB节点读取数据库的时候读取dbproxy服务器.dbproxy服务器通过对S ...

  5. Mysql 高可用集群PXC

    PXC是percona公司的percona  xtraDB  cluster,简称PXC.它是基于Galera协议的高可用集群方案.可以实现多个节点间的数据同步复制以及读写,并且可保障数据库的服务高可 ...

  6. Linux Web集群架构详细(亲测可用!!!)

    注意:WEB服务器和数据库需要分离,同时WEB服务器也需要编译安装MySQL. 做集群架构的重要思想就是找到主干,从主干区域向外延展. WEB服务器: apache nginx  本地做三个产品 de ...

  7. MySQL集群架构:MHA+MySQL-PROXY+LVS实现MySQL集群架构高可用/高性能-技术流ken

    MHA简介 MHA可以自动化实现主服务器故障转移,这样就可以快速将从服务器晋级为主服务器(通常在10-30s),而不影响复制的一致性,不需要花钱买更多的新服务器,不会有性能损耗,容易安装,不必更改现有 ...

  8. Galera Cluster——一种新型的高一致性MySQL集群架构

    原文链接:https://www.sohu.com/a/147032902_505779,最近被分配定位mysql的问题,学习下. 1. 何谓Galera Cluster 何谓Galera Clust ...

  9. corosync+pacemaker and drbd实现mysql高可用集群

    DRBD:Distributed Replicated Block Device 分布式复制块设备,原理图如下 DRBD 有主双架构和双主架构的,当处于主从架构时,这个设备一定只有一个节点是可以读写的 ...

随机推荐

  1. ambari2.6.50 openssl 版本问题:SSLError: Failed to connect. Please check openssl library versions. Openssl error upon host registration

    I'm trying to register hostnames in Ambari but getting the error below. We tried to run yum update o ...

  2. ajax data属性传值的方式总结

    在和后台同事对接口的时候,有一个小问题一直困扰着我.那就是用ajax请求后台接口数据,需要用data属性传值的时候,data属性传值的方式感觉没有统一用一种方式. 后来仔细想想,其实哪种方式都可以,主 ...

  3. AJAX跨域请求详解

    最近开始学习ajax,学习ajax必须得掌握的就是跨域请求,实际上在不同源的地址上发送请求就是跨域请求 域名地址的组成: http:// www . google : 8080 / script/jq ...

  4. python爬虫之selenium、phantomJs

    图片懒加载技术 什么是图片懒加载技术 图片懒加载是一种网页优化技术.图片作为一种网络资源,在被请求时也与普通静态资源一样,将占用网络资源,而一次性将整个页面的所有图片加载完,将大大增加页面的首屏加载时 ...

  5. Mac电脑上一款非常时尚高清的动态壁纸Living Wallpaper HD

    很多朋友Mac电脑上都喜欢用动态壁纸,Living Wallpaper HD是本人尝试的一款非常不错的高清动态壁纸.有时钟.天气等各种组建,非常时尚美观. Living Wallpaper HD下载地 ...

  6. AI - TensorFlow - 示例02:影评文本分类

    影评文本分类 文本分类(Text classification):https://www.tensorflow.org/tutorials/keras/basic_text_classificatio ...

  7. python --- 插入排序算法

    先上一张图,看看能不能从里面悟出些什么: 问题的解决思路: 就是当插入第i个的时候,前面的[i- 1]个已经排好了,这时候lst[i]就倒过来逐个和前面的关键字顺序进行比较,找到插入位置即将lst[i ...

  8. 腾讯短信服务精简版(PHP )

    短信视乎已经被慢慢淡出平常的交流工具队列,但始终抹不去它的存在,短信验证码视乎从未被取代,此外在重要的信息通知的地位也是不可取的的.所以了解短信的使用是开发中很有必要的一环. 腾讯云的短信服务提供有1 ...

  9. Node.js 命令行工具的编写

    日常开发中,编写 Node.js 命令行工具来完成一些小任务是很常见的操作.其编写也不难,和日常编写 Node.js 代码并无二致. package.json 中的 bin 字段 一个 npm 模块, ...

  10. 学习ASP.NET Core Razor 编程系列十一——把新字段更新到数据库

    学习ASP.NET Core Razor 编程系列目录 学习ASP.NET Core Razor 编程系列一 学习ASP.NET Core Razor 编程系列二——添加一个实体 学习ASP.NET ...