一.hadoop2.0安装部署流程         1.自动安装部署:Ambari.Minos(小米).Cloudera Manager(收费)         2.使用RPM包安装部署:Apache hadoop不支持.HDP与CDH提供         3.使用jar包安装部署:各版本均提供.(初期为了理解hadoop,建议使用这种方式)         部署流程:                 准备硬件(Linux操作系统)                 准备软件安装包,并安装基础软件…

1.准备: centos 6.5 jdk 1.7 Java SE安装包下载地址:http://www.oracle.com/technetwork/java/javase/downloads/java-archive-downloads-javase7-521261.html maven3.3.9 Maven3.3.9安装包下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache//maven/maven-3/3.3.9/binaries/ spark 2…

环境:ubuntu 14.04, jdk 1.6, scala 2.11.4, spark 1.1.0, hadoop 2.5.1 一 spark 单机模式 部分操作参考:http://www.cnblogs.com/chenfool/p/3858930.html,我之前写的spark 1.0.1部署 1 安装scala,具体操作参考我之前的博文 2 解压spark1.1.0包,这里我下载的是编译好的包,spark-1.1.0-bin-hadoop2.4.tgz -bin-hadoop2..tg…

jdk安装 http://www.cnblogs.com/xiaojf/p/6568426.html scala2.11 安装 http://www.cnblogs.com/xiaojf/p/6568432.html hadoop2.7 安装 http://www.cnblogs.com/xiaojf/p/6629351.html 开始spark2.1.0安装 解压 [root@m1 jar]# -bin-hadoop2..tgz -C ../ 重命名 [root@m1 jar]# cd ..…

基于 CentOS 7 一步一步安装 Jumpserver 0.5.0 环境 系统: CentOS 7 IP: 192.168.244.144 关闭 selinux和防火墙 # CentOS 7 $ setenforce 0 # 可以设置配置文件永久关闭 $ systemctl stop iptables.service $ systemctl stop firewalld.service # CentOS6 $ setenforce 0 $ service iptables stop 一. 准…

1.  搭建环境 3台物理机 操作系统 centos7 es1   192.168.31.141   4g内存   2核 es2   192.168.31.142   4g内存   2核 es3   192.168.31.143   4g内存   2核 2.  安装包 Elasticsearch-5.0.0.tar.gz kibana-5.0.0-linux-x86_64.tar.gz elasticsearch-analysis-ik-5.0.0.zip head 3.  ElasticSea…

参考资料 官方文档:http://mesos.apache.org/documentation 中文翻译:http://mesos.mydoc.io/ GitHub:https://github.com/apache/mesos/tree/master 董的博客:http://dongxicheng.org/category/apache-mesos/ mesos下载源码 官网上下载源码 http://mesos.apache.org/downloads/ 安装依赖包 根据官网教程(http:/…

首先交代一下集群的规模和配置 集群有六台机器,均是VM虚拟机,每台256M的内存(原谅楼主物理机硬件不太给力) 主机名分别是cloud1~cloud6 每台机器上都装有jdk6,和hadoop-2.2.0 其中cloud4~cloud6上装有zookeeper cloud1为hdfs文件系统的启动节点 cloud3为yarn资源管理的启动节点 (注意每台机器都配置好SSH免密码登录,可以在下面的hadoop部署链接中查看具体步骤) 有关hadoop和zookeeper的部署请看: hadoop-…

Redis是一个开源的,先进的 key-value 存储可用于构建高性能,可扩展的 Web 应用程序的解决方案. 既然是key-value,对于Java开发来说更熟悉的是Map集合.那就有问题了,有Map集合存放变量了,还整个Redis干啥? 我们来了解一下Redis Redis是完全在内存中保存数据的数据库.使用磁盘只是问了持久性的目的 读取速度是110000次/s,写的速度是81000次/s,异常快速,内存中存放,当然比硬盘的快了 可以将数据复制到任意数量的从服务器中(也就是会和Oracle…

实验环境 基础架构 主机名 角色 ip HDSS7-11.host.com k8s代理节点1 10.4.7.11 HDSS7-12.host.com k8s代理节点2 10.4.7.12 HDSS7-21.host.com k8s运算节点1 10.4.7.21 HDSS7-22.host.com k8s运算节点2 10.4.7.22 HDSS7-200.host.com k8s运维节点(docker仓库) 10.4.7.200 硬件环境 5台vm,每台至少2c2g 软件环境 OS: CentOS…