linux下构建MysqlCluster集群,NDB搜索引擎
搭建管理节点
Ndb搜索引擎对于服务器的内存要求比较高,因为所有数据节点的数据,以及索引,事务等等都需要加载进内存中。
下载 mysql-cluster-gpl-7.6.8-linux-glibc2.12-x86_64.tar.gz 集群压缩包上传至服务器,解压,这里说明一下文件解压后会比较大,尽量增大服务器的磁盘空间。
取出解压文件中的ndb_mgm文件拷贝到/usr/local/bin目录下 \cp -rf mysql-cluster-gpl-7.6.8-linux-glibc2.12-x86_64/bin/ndb_mgm* /usr/local/bin
赋予ndb_mgm可执行权限
创建 /var/lib/mysql-cluster文件夹
创建 /usr/local/mysql文件夹
创建 config.ini管理节点配置文件
例如:
[ndbd default]
NoOfReplicas=2
DataMemory=6G
IndexMemory=1G
MaxNoOfConcurrentTransactions=10240
MaxNoOfConcurrentOperations=100000
MaxNoOfOrderedIndexes=10000
NoOfFragmentLogFiles=128
TimeBetweenLocalCheckpoints=20
FragmentLogFileSize=256M
RedoBuffer=64M
TransactionDeadlockDetectionTimeout=15000
[MYSQLD DEFAULT]
[NDB_MGMD DEFAULT]
[TCP DEFAULT]
[ndb_mgmd]
NodeId=1
HostName=***.***.***.***
DataDir=/var/lib/mysql-cluster
[ndb_mgmd]
NodeId=2
HostName=***.***.***.***
DataDir=/var/lib/mysql-cluster
[ndbd]
NodeId=10
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[ndbd]
NodeId=11
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[ndbd]
NodeId=12
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[ndbd]
NodeId=13
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[mysqld]
NodeId=30
HostName=***.***.***.***
[mysqld]
NodeId=31
HostName=***.***.***.***
[mysqld]
NodeId=32
HostName=***.***.***.***
[mysqld]
NodeId=33
HostName=***.***.***.***
[mysqld]
[mysqld]
上面的配置是比较好的,对于中小型企业的业务量完全能吃的消百万级数据量完全够用,NoOfReplicas参数最大为4最小为2,这个参数代表数据节点的相互备份数。越大的话对于程序本身也是一种资源消耗。数据节点的数量必须能被NoOfReplicas参数整除,因为这个地方涉及到分区,有兴趣的小伙伴可以进一步了解。
config.ini文件配置完成后,将其拷贝到/var/lib/mysql-cluster文件夹下然后就可以进行管理节点的初始化了
首次初始化执行:ndb_mgmd -f /var/lib/mysql-cluster/config.ini --initial 。下次启动管理节点就不需要加 --initial参数。这里说明以下如果是两个管理节点话:主管理节点执行前面的命令,备管理节点执行:ndb_mgmd -c '主管理节点ip' --ndb-nodeid=2 --configdir=/var/lib/mysql-cluster
mysqlCluster提供监控集群状态的客户端:在sshd客户端执行:ndb_mgm命令, 使用show命令查看集群状态,这里客户端有重启数据节点,管理节点等命令,例如:‘节点id’ restart / '节点id' stop
修改config.ini配置文件可以使用(主)管理节点 ndb_mgmd -f /var/lib/mysql-cluster/config.ini --reload重新加载配置文件。
搭建sql节点
首先校验当前服务器是否有libaio-0.3.107-10.el6.x86_64.rpm,numactl-2.0.9-2.el6.x86_64.rpm包,没有的话yum安装一下,这两个包是支持mysql安装时用的。
创建mysql用户组,执行:groupadd mysql
创建mysql用户,执行:useradd -g mysql -s /bin/false mysql
创建安装目录:/var/opt/mitec/mysql。这个目录是可以自己指定的,这个目录的磁盘空间一定要大,最小15G,不然数据一多就宕机了。
赋予目录可执行权限:chown root:mysql :/var/opt/mitec/mysql
解压mysql-cluster-gpl-7.6.8-linux-glibc2.12-x86_64.tar.gz集群压缩包,解压目录至:/usr/local
创建mysql配置文件:执行 vi /etc/my.cnf 命令
my.cnf 文件 例如:
[mysqld]
ndbcluster
basedir=/var/opt/mitec/mysql
datadir=/var/opt/mitec/mysql/data
ndb-connectstring=‘管理节点ip(多个管理节点以 ,分割)’
default-storage-engine=NDBCLUSTER
query_cache_size=512M
key_buffer_size=384M
max_allowed_packet=128M
sort_buffer_size=6M
read_buffer_size=6M
sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES
[mysql_cluster]
ndb-connectstring=‘管理节点ip(多个管理节点以 ,分割)’
上述配置文件完成后开始初始化mysql服务
/var/opt/mitec/mysql/bin/mysqld --initialize ,这里时mysql5.7初始化,其他版本的自行查找资料,初始化完成后控制台会有产生一个随机密码,登录mysqli修改mysql密码配置远程登录就会用到这个密码。
赋予mysql用户权限 给mysql相关文件增加权限
chown -R root /var/opt/mitec/mysql
chown -R mysql /var/opt/mitec/mysql/data
chgrp -R mysql /var/opt/mitec/mysql
将mysql加入开机自起
cp -rf /var/opt/mitec/mysql/support-files/mysql.server /etc/rc.d/init.d/mysql
#改变mysql启动文件权限
chmod +x /etc/rc.d/init.d/mysql
chkconfig --add mysql
ln -s /var/opt/mitec/mysql/bin/mysql /usr/bin
启动msyql服务即可
搭建数据节点
这里我是将数据节点与mysql节点安装在了同一台服务器上
上述my.cnf配置文件中的
[mysql_cluster]
ndb-connectstring=‘管理节点ip(多个管理节点以 ,分割)’
是配置数据节点与管理节点之间的连接,也就是配置当前数据节点是否为集群的数据节点。
直接执行:/var/opt/mitec/mysql/bin/ndbd --initial 命令。数据节点初始化时需要将 --initial参数带上,初始化后在启动数据节点就不需要加上 --initial参数。
到这里整个集群就相当于搭建完成,登录管理节点客户端查看各各节点状态。
附录:
mysqlcluster集群也提供了数据备份数据恢复等功能,以及滚动添加数据节点,这个可以参考mysqlCluster官网进行操作。
管理节点的config.ini文件内部有很多的参数,参数很重要,参数配置的不正确会导致集群很不友好,会有很多错误产生。
我现在搭建的集群数据库表为内存表,也可以创建磁盘表。这个地方就需要根据需求而定。
集群节点的初始化顺序:管理节点初始化,数据节点初始化,sql节点初始化。
集群节点的关闭顺序:sql节点关闭,数据节点关闭,管理节点关闭。
如要转发请指明出处,谢谢!
linux下构建MysqlCluster集群,NDB搜索引擎的更多相关文章
- Linux下搭建tomcat集群全记录(转)
本文将讲述如何在Linux下搭建tomcat集群,以及搭建过程中可能的遇到的问题和解决方法.为简单起见,本文演示搭建的集群只有两个tomact节点外加一个apache组成,三者将安装在同一机器上:ap ...
- linux下配置tomcat集群的负载均衡
linux下配置tomcat集群的负载均衡 一.首先了解下与集群相关的几个概念集群:集群是一组协同工作的服务实体,用以提供比单一服务实体更具扩展性与可用性的服务平台.在客户端看来,一个集群就象是一个服 ...
- Linux下搭建tomcat集群全记录
(转) Linux下搭建tomcat集群全记录 2011-10-12 10:23 6133人阅读 评论(1) 收藏 举报 tomcatlinuxapacheinterceptorsession集群 1 ...
- 【Oracle 集群】Linux下Oracle RAC集群搭建之基本测试与使用(九)
Oracle 11G RAC数据库安装(九) 概述:写下本文档的初衷和动力,来源于上篇的<oracle基本操作手册>.oracle基本操作手册是作者研一假期对oracle基础知识学习的汇总 ...
- 170711、Linux下搭建MySQL集群
一.MySQL集群简介 1.什么是MySQL集群 MySQL集群是一个无共享的(shared-nothing).分布式节点架构的存储方案,其目的是提供容错性和高性能. 数据更新使用读已提交隔离级别(r ...
- 【转】【Oracle 集群】Linux下Oracle RAC集群搭建之基本测试与使用(九)
原文地址:http://www.cnblogs.com/baiboy/p/orc9.html 阅读目录 目录 检查RAC状态 检查创建的数据库 全部参考文献 相关文章 Oracle 11G RAC ...
- 【Oracle 集群】Linux下Oracle RAC集群搭建之Oracle DataBase安装(八)
Oracle 11G RAC数据库安装(八) 概述:写下本文档的初衷和动力,来源于上篇的<oracle基本操作手册>.oracle基本操作手册是作者研一假期对oracle基础知识学习的汇总 ...
- 【转】【Oracle 集群】Linux下Oracle RAC集群搭建之Oracle DataBase安装(八)
原文地址:http://www.cnblogs.com/baiboy/p/orc8.html 阅读目录 目录 数据库安装 参考文献 相关文章 Oracle 11G RAC数据库安装(八) 概述:写 ...
- Linux下安装zookeeper集群
首先,准备三台Linux虚拟机 三台机器 centos01 :192.168.1.168(lxs001) centos03 :192.168.1.178(lxs003) centos03 :1 ...
随机推荐
- DSO windowed optimization 公式
这里有一个细节,我想了很久才想明白,DSO 中的 residual 联系了两个关键帧之间的相对位姿,但是最终需要优化帧的绝对位姿,中间的导数怎么转换?这里使用的是李群.李代数中的Adjoint. 参考 ...
- SpringBoot2.x使用Dev-tool热部署
SpringBoot2.x使用Dev-tool热部署 为什么使用热部署? 当修改某些文件内容如配置文件时,我们需要重新启动服务器,比较麻烦,需要一个工具来进行检测是否修改.热加载可以检测到修改的部分, ...
- Linux下查看文件或文件夹大小的命令df 、du、ls
转自:http://www.cnblogs.com/benio/archive/2010/10/13/1849946.html 当磁盘大小超过标准时会有报警提示,这时如果掌握df和du命令是非常明智的 ...
- 基于 OpenSSL 的 CA 建立及证书签发
http://rhythm-zju.blog.163.com/blog/static/310042008015115718637/ 建立 CA 建立 CA 目录结构 按照 OpenSSL 的默认配置建 ...
- kerberos介绍
重要术语 1. KDC 全称:key distributed center 作用:整个安全认证过程的票据生成管理服务,其中包含两个服务,AS和TGS 2. AS 全称:authentication s ...
- sklearn,交叉验证中的分层抽样
StratifiedKFold用法类似Kfold,但是他是分层采样,确保训练集,测试集中各类别样本的比例与原始数据集中相同. 例子: import numpy as np from sklearn.m ...
- 用jquery添加新元素很容易,面对jquery append 动态添加的元素事件on 不起作用我们该如何解决呢?
用jquery添加新元素很容易,面对jquery append 动态添加的元素事件on 不起作用我们该如何解决呢?on方法中要先找到原选择器(如例.info),再找到动态添加的选择器(如列.delet ...
- JavaScript 使用 mediaDevices API 选择摄像头
大多数智能手机都有前置和后置摄像头,当你在创建视频应用时你可能想要选择或者切换前置.后置摄像头. 如果你开发的是一款聊天应用,你很可能会想调用前置摄像头,但如果你开发的是一款拍照软件,那么你会更倾向于 ...
- Arrange an Array to Form a Smallest Digit
/** * Input an array of positive integers, arrange the integers to form new digits, * and output the ...
- Django整合Keras报错:ValueError: Tensor Tensor("Placeholder:0", shape=(3, 3, 1, 32), dtype=float32) is not an element of this graph.解决方法
本人在写Django RESful API时,碰到一个难题,老出现,整合Keras,报如下错误:很纠结,探索找资料近一个星期,皇天不负有心人,解决了 Internal Server Error: /p ...