mysql-cluster集群原理介绍和搭建步骤(四个data/sql节点) (转)

MySQL簇概述

MySQL簇是一种技术，该技术允许在无共享的系统中部署“内存中”数据库的簇。通过无共享体系结构，系统能够使用廉价的硬件，而且对软硬件无特殊要求。此外，由于每个组件有自己的内存和磁盘，不存在单点故障。

MySQL簇将标准的MySQL服务器与名为NDB的“内存中”簇式存储引擎集成了起来。在我们的文档中，术语NDB指的是与存储引擎相关的设置部分，而术语“MySQL簇”指的是MySQL和NDB存储引擎的组合。

MySQL簇由一组计算机构成，每台计算机上均运行着多种进程，包括MySQL服务器，NDB簇的数据节点，管理服务器，以及（可能）专门的数据访问程序。关于簇中这些组件的关系，请参见下图：

所有这些程序一起构成了MySQL簇。将数据保存到NDB簇存储引擎中时，表将保存在数据节点内。能够从簇中所有其他MySQL服务器直接访问这些表。因此，在将数据保存在簇内的工资表应用程序中，如果某一应用程序更新了1位雇员的工资，所有查询该数据的其他MySQL服务器能立刻发现这种变化。

对于MySQL簇，保存在数据节点内的数据可被映射，簇能够处理单独数据节点的故障，除了少数事务将因事务状态丢失而被放弃外，不会产生其他影响。由于事务性应用程序能够处理事务失败事宜，因而它不是问题源。

通过将MySQL簇引入开放源码世界，MySQL为所有需要它的人员提供了具有高可用性、高性能和可缩放性的簇数据管理。

MySQL簇的基本概念

NDB是一种“内存中”存储引擎，它具有可用性高和数据一致性好的特点。

能够使用多种故障切换和负载平衡选项配置NDB存储引擎，但以簇层面上的存储引擎开始最简单。MySQL簇的NDB存储引擎包含完整的数据集，仅取决于簇本身内的其他数据。

下面，我们介绍了设置由NDB存储引擎和一些MySQL服务器构成的MySQL簇的设置方法。

目前，MySQL簇的簇部分可独立于MySQL服务器进行配置。在MySQL簇中，簇的每个部分被视为1个节点。

注释：在很多情况下，术语“节点”用于指计算机，但在讨论MySQL簇时，它表示的是进程。在单台计算机上可以有任意数目的节点，为此，我们采用术语簇主机。

有三类簇节点，在最低的MySQL簇配置中，至少有三个节点，这三类节点分别是：

管理(MGM)节点：这类节点的作用是管理MySQL簇内的其他节点，如提供配置数据、启动并停止节点、运行备份等。由于这类节点负责管理其他节点的配置，应在启动其他节点之前首先启动这类节点。MGM节点是用命令ndb_mgmd启动的。

数据节点：这类节点用于保存簇的数据。数据节点的数目与副本的数目相关，是片段的倍数。例如，对于两个副本，每个副本有两个片段，那么就有4个数据节点。没有必要有一个以上的副本。数据节点是用命令ndbd启动的。

SQL节点：这是用来访问簇数据的节点。对于MySQL簇，客户端节点是使用NDB簇存储引擎的传统MySQL服务器。典型情况下，SQL节点是使用命令mysqld –ndbcluster启动的，或将ndbcluster添加到my.cnf后使用mysqld启动。

簇配置包括对簇中单独节点的配置，以及设置节点之间的单独通信链路。对于目前设计的MySQL簇，其意图在于，从处理器的能力、内存空间和带宽来讲，存储节点是同质的，此外，为了提供单一的配置点，作为整体，簇的所有配置数据均位于1个配置文件中。

管理服务器(MGM节点)负责管理簇配置文件和簇日志。簇中的每个节点从管理服务器检索配置数据，并请求确定管理服务器所在位置的方式。当数据节点内出现有趣的事件时，节点将关于这类事件的信息传输到管理服务器，然后，将这类信息写入簇日志。

此外，可以有任意数目的簇客户端进程或应用程序。它们分为两种类型：

标准MySQL客户端：对于MySQL簇，它们与标准的（非簇类）MySQL没有区别。换句话讲，能够从用PHP、Perl、C、C++、Java、Python、Ruby等编写的现有MySQL应用程序访问MySQL簇。

管理客户端：这类客户端与管理服务器相连，并提供了优雅地启动和停止节点、启动和停止消息跟踪（仅对调试版本）、显示节点版本和状态、启动和停止备份等的命令。

-----------------------------------------------------------------------------------以上部分是摘自官方文档

搭建sql节点(4个),data节点(4个)，manage节点(1个)步骤

//环境介绍

1、manage节点：10.10.54.154
2、sql/data节点：10.10.54.154/155/156/157

//编译安装cmake2.8

[154/155/156/157]
 
1.下载mysql-cluster cmake
shell> wget http://dev.mysql.com/get/Downloads/MySQL-Cluster-7.2/mysql-cluster-gpl-7.2.15-linux2.6-x86_64.tar.gz
shell> wget http://www.cmake.org/files/v2.8/cmake-2.8.12.2.tar.gz
 
2.编译安装cmake2.8---(154/155/156/157)
shell> tar xvf cmake-2.8.12.2.tar.gz
shell> cd cmake-2.8.12.2
shell> ./configure
shell> make
shell> make install

3.编译安装mysql-cluster---(154/155/156/157)
shell> tar xvf mysql-cluster-gpl-7.2.15.tar.gz
shell> cd mysql-cluster-gpl-7.2.15
shell> cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DMYSQL_UNIX_ADDR=/usr/local/mysql/tmp/mysql-cluster.sock \
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DEXTRA_CHARSETS=all \
-DWITH_EMBEDDED_SERVER=0 \
-DWITH_NDB_JAVA=OFF \
-DWITH_MYISAM_STORAGE_ENGINE=1 \
-DWITH_INNOBASE_STORAGE_ENGINE=1 \
-DWITH_MEMORY_STORAGE_ENGINE=1 \
-DWITH_BLACKHOLE_STORAGE_ENGINE=1 \
-DWITH_FEDERATED_STORAGE_ENGINE=1 \
-DWITH_PARTITION_STORAGE_ENGINE=1 \
-DWITH_NDBCLUSTER_STORAGE_ENGINE=1 \
-DENABLED_LOCAL_INFILE=1 \
-DMYSQL_USER=mysql \
-DWITH_DEBUG=0 \
-DWITH_SSL=yes
 
4.shell> make && make install

//mysql-cluster配置---(154/155/156/157)

shell> mkdir /data/ndb

shell> cd /home/mysql-cluster-gpl-7.2.15

shell> cp support-files/mysql.server /etc/init.d/mysqld

shell> cp support-files/my-large.cnf /etc/my.cnf

shell> chown mysql.mysql /usr/local/mysql -R

shell> chmod 755 /usr/local/mysql/scripts/*

shell> chmod 755 /etc/init.d/mysqld

shell> sed -i "/

mysqld

/a datadir=/data/ndb" /etc/my.cnf

shell> /usr/local/mysql/scripts/mysql_install_db --user=root --basedir=/usr/local/mysql --datadir=/data/ndb

shell> chown mysql:mysql -R /data/ndb

//data/sql节点配置---(154/155/156/157)

shell> cd /usr/local/mysql/bin/

shell> cp ndb_mgm* /usr/local/bin/

shell> vim /etc/my.cnf

-------------------------

[mysql_cluster]

ndb-connectstring=10.10.54.154

[mysqld]

datadir=/data/ndb

ndbcluster

ndb-connectstring=10.10.54.154

-------------------------

//管理节点154配置

shell> mkdir -p /etc/ndb/config.ini

shell> vim /etc/ndb/config.ini

--------------------------------------

[NDBD DEFAULT]

NoOfReplicas=2

DataMemory=128M

IndexMemory=64M

[TCP DEFAULT]

portnumber=2202

[NDB_MGMD]

NodeId=1

hostname=10.10.54.154

datadir=/var/lib/mysql-cluster

[NDBD]

NodeId=2

hostname=10.10.54.154

datadir=/data/ndb

BackupDataDir=/data/backup

[NDBD]

NodeId=3

hostname=10.10.54.155

datadir=/data/ndb

BackupDataDir=/data/backup

[NDBD]

NodeId=4

hostname=10.10.54.156

datadir=/data/ndb

BackupDataDir=/data/backup

[NDBD]

NodeId=5

hostname=10.10.54.157

datadir=/data/ndb

BackupDataDir=/data/backup

[MYSQLD]

NodeId=7

hostname=10.10.54.154

[MYSQLD]

NodeId=8

hostname=10.10.54.155

[MYSQLD]

NodeId=9

hostname=10.10.54.156

[MYSQLD]

NodeId=10

hostname=10.10.54.157

[MYSQLD]

NodeId=11

[MYSQLD]

NodeId=12

[MYSQLD]

NodeId=13

[MYSQLD]

NodeId=14

------------------------------------

//启动mysql-cluster

---启动顺序management node--data node---sql node

#启动管理节点

shell> ndb_mgmd -f /var/lib/mysql-cluster/config.ini --initial

##--initial参数第一次启动时加上

#启动数据节点

shell> ndbd       #--initial ##初始化数据库，用在备份,恢复时

2014-02-27 18:14:23 [ndbd] INFO     -- Angel connected to '10.10.54.154:1186'

2014-02-27 18:14:23 [ndbd] INFO     -- Angel allocated nodeid: 2

#启动sql节点

shell> /etc/init.d/mysqld start

//查看mysql集群状态

shell> ndb_mgm

ndb_mgm> show

Cluster Configuration

---------------------

[ndbd(NDB)] 4 node(s)

id=2 @10.10.54.154  (mysql-5.5.35 ndb-7.2.15, Nodegroup: 0, *)

id=3 @10.10.54.155  (mysql-5.5.35 ndb-7.2.15, Nodegroup: 0)

id=4 @10.10.54.156  (mysql-5.5.35 ndb-7.2.15, Nodegroup: 1)

id=5 @10.10.54.157  (mysql-5.5.35 ndb-7.2.15, Nodegroup: 1)

[ndb_mgmd(MGM)] 1 node(s)

id=1 @10.10.54.154  (mysql-5.5.35 ndb-7.2.15)

[mysqld(API)] 8 node(s)

id=7 @10.10.54.154  (mysql-5.5.35 ndb-7.2.15)

id=9 @10.10.54.155  (mysql-5.5.35 ndb-7.2.15)

id=10 @10.10.54.156  (mysql-5.5.35 ndb-7.2.15)

id=11 @10.10.54.157  (mysql-5.5.35 ndb-7.2.15)

id=12 (not connected, accepting connect from any host)

id=13 (not connected, accepting connect from any host)

id=14 (not connected, accepting connect from any host)

id=15 (not connected, accepting connect from any host)

//测试mysql-cluster

1.管理机上创建表

mysql> create database d1;

mysql> use d1;

mysql> CREATE TABLE `t_e` (

`emp_no` int(11) NOT NULL,

`birth_date` date NOT NULL,

`first_name` varchar(14) NOT NULL,

`last_name` varchar(16) NOT NULL,

`gender` enum('M','F') NOT NULL,

`hire_date` date NOT NULL,

PRIMARY KEY (`emp_no`)

) ENGINE=ndbcluster DEFAULT CHARSET=utf8

2.mysql> insert into t_e select * from employees.employees;

##插入出错

ERROR 1297 (HY000): Got temporary error 233 'Out of operation records in transaction coordinator (increase MaxNoOfConcurrentOperations)' from NDBCLUSTER

#原因时插入数据量太大

mysql> insert into t_e select * from employees.employees limit 10000;

#插入成功

3.data节点上查看，数据已同步

//关闭mysql-cluster

1.先关闭sql节点

/etc/init.d/mysqld stop

2.在管理机上

shell> ndb_mgm

ndb_mgm> shutdown #关闭所有cluster进程