集群真是好好玩,最近一段时间天天搞集群,redis缓存服务集群啦,solr搜索服务集群啦,,,巴拉巴拉 今天说说zookeeper,之前搭建了一个redis集群,用了6台机子,有些朋友电脑跑步起来,有点卡,那这里主要说说伪分布式的集群,正式版的集群需要3台机子,我就一带而过说一说,搭建起来也是非常简单的 先来说说Zookeeper 什么是Zookeeper呢,顾名思义,动物园管理员嘛,什么hadoop大象啦,hive蜜蜂啦,pig小猪啦,都是用这货来管的,就是大数据Hadoop里面的嘛~ (题外…
Linux中配置Hadoop运行环境 程序清单 VMware Workstation 11.0.0 build-2305329 centos6.5 64bit jdk-7u80-linux-x64.rpm hadoop-2.6.0.tar.gz hbase-1.0.2-bin.tar.gz SSH(centos6.5 默认已安装) 创建Linux系统用户(伪分布式可直接使用root用户试验) root用户登录linux,密码同初始安装用户密码. 1.创建hadoop用户组 [root@local…
解压redis 先到官网https://redis.io/下载redis安装包,然后在CentOS操作系统中解压该安装包: tar -zxvf redis-3.2.9.tar.gz 编译redis cd redis-3.2.9 make && make install 此时如果报如下错误: bash: make: command not found 说明系统没有安装make,所有要先安装make,即: yum -y install gcc automake autoconf libtool…
Redis集群搭建,伪分布式集群,即一台服务器6个redis节点 一.Redis Cluster(Redis集群)简介 集群搭建需要的环境 二.搭建集群 2.1Redis的安装 2.2搭建6台redis服务 2.2.1关闭redis服务或集群 2.3创建集群 2.4测试集群 2.4.1客户端测试连接 2.4.2redis集群命令 2.4.3redis集群的重新启动 一.Redis Cluster(Redis集群)简介 redis是一个开源的key value存储系统,受到了广大互联网公司的青睐.…
一. zk集群,主从节点,心跳机制(选举模式) 二.Zookeeper集群搭建注意点 1.配置数据文件 myid 1/2/3 对应 server.1/2/3 2.通过./zkCli.sh -server [ip]:[port] 检测集群是否配置成功 三.单机环境搭建集群 1.拷贝另外两个zk 拷贝Zookeeper到zookeeper-3.4.13_2 cp zookeeper-3.4.13 zookeeper-3.4.13_2 -rf 拷贝Zookeeper到zookeeper-3.4.13_…
概述 ZooKeeper是一个分布式开源框架,提供了协调分布式应用的基本服务,它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization).命名服务(Naming Service).集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务.ZooKeeper本身可以以Standalone模式安装运行,不过它的长处在于通过分布式ZooKeeper集群(一个Leader,多个Follower),基于一定的策略来…
前提条件: 成功安装了  jdk1.8,  hadoop2.7.3 注意条件: zookeeper,hbase 版本必须要和hadoop 安装版本相互兼容,否则容易出问题: 本次:安装包 zookeeper-3.4.9.tar.gz          和            hbase-1.2.4-bin.tar.gz zookeeper   安装步骤: 1. 下载安装包   zookeeper-3.4.9.tar.gz,并上传到linux 目录: 2.  解压文件 tar zxvf zook…
在如今并发的环境下,对大数据量的查询采用缓存是最好不过的了,本文使用redis搭建集群 (个人喜欢redis,对memcache不感冒) redis是3.0后增加的集群功能,非常强大 集群中应该至少有三个节点,每个节点有一备份节点.这样算下来至少需要6台服务器 考虑到有些朋友的电脑配置不是很高,跑多个虚拟机就会卡,这边放出伪分布式和分布式 (2年前的配置) 前提先装好一个单例情况下的redis(这里就不多说了) 需要6个redis实例 搭建集群的步骤: 在/usr/local下 创建文件夹  …
一,Hadoop版本下载 建议下载:Hadoop2.5.0 (虽然是老版本,但是在企业级别中运用非常稳定,新版本虽然添加了些小功能但是版本稳定性有带与考核) 1.下载地址: hadoop.apache.org官网下载.如果官网找不到就到下面链接中下载. http://archive.apache.org/dist/hadoop/common/ 二,Hadoop 的三种模式 Local (Standalone) Mode 本地模式 Pseudo-Distributed Mode 伪分布式模式 Fu…
伪分布式就是只有一台机器,既是namenode又是datanode.一台阿里云服务器(centos)即可完成. Java环境 首先需要安装Java环境,下载jdk的安装包,解压到/usr/java/,然后配置环境变量. vim /etc/profile #set java environment export JAVA_HOME=/usr/java/jdk1.8.0_151 export PATH=$JAVA_HOEM/bin:$PATH export CLASSPATH=.:$JAVA_HOM…