Hadoop 平台搭建
一、在Linux中安装JDK并配置环境变量
输入javac 查看是否已安装java环境
如果没有安装 sudo apt-get install openjdk-7-jdk
再次检测 javac
修改配置参数 vim /etc/profile
发现没有安装vim编辑器 apt-get install vim
安装完成后 vim /etc/profile 配置环境变量,参照安装过程中路径,具体如下
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
source /etc/profile
二、下载Hadoop并配置环境变量
网址:http://mirror.bit.edu.cn/apache/hadoop/common/
下载:wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-1.2.1/hadoop-1.2.1-bin.tar.gz
ls 查看已下载 hadoop-1.2.1-bin.tar.gz
移动到/opt/文件夹:mv hadoop-1.2.1-bin.tar.gz /opt/
进入到/opt/文件夹:cd /opt/
ls 查看/opt/目录下:hadoop-1.2.1-bin.tar.gz
解压:tar -zxvf hadoop-1.2.1-bin.tar.gz
ls 出现解压后的 hadoop-1.2.1
三、修改hadoop-1.2.1/conf/下四个配置文件
root@203-63:/opt# cd hadoop-1.2.1
root@203-63:/opt/hadoop-1.2.1# ls
root@203-63:/opt/hadoop-1.2.1# cd conf
root@203-63:/opt/hadoop-1.2.1/conf# ls
root@203-63:/opt/hadoop-1.2.1/conf# vim hadoop-env.sh
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
root@203-63:/opt/hadoop-1.2.1/conf# vim mapred-site.xml
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>imooc:9001</value>
</property>
</configuration>
root@203-63:/opt/hadoop-1.2.1/conf# vim core-site.xml
<configuration>
<property>
<name>hedoop.tmp.dir</name> 临时工作目录
<value>/hadoop</value>
</property>
<property>
<name>dfs.name.dir</name> 元数据目录
<value>/hadoop/name</value>
</property>
<property>
<name>fs.default.name</name>
<value>hdfs://imooc:9000</value>
</property>
</configuration>
root@203-63:/opt/hadoop-1.2.1/conf# vim hdfs-site.xml
<configuration>
<property>
<name>dfs.data.dir</name> 文件块的存放目录
<value>/hadoop/data</value>
</property>
</configuration>
root@203-63:/opt/hadoop-1.2.1/conf# vim /etc/profile
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
export JRE_HOME=$JAVA_HOME/jre
export HADOOP_HOME=/opt/hadoop-1.2.1
export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$HADOOP_HOME/bin:$PATH
root@203-63:/opt/hadoop-1.2.1/conf# source /etc/profile
四、检测是否安装成功
root@203-63:/opt/hadoop-1.2.1/conf# hadoop
root@203-63:/opt/hadoop-1.2.1/conf# cd ..
root@203-63:/opt/hadoop-1.2.1# cd bin/
root@203-63:/opt/hadoop-1.2.1/bin# ls
root@203-63:/opt/hadoop-1.2.1/bin# hadoop namenode -format 格式化
root@203-63:/opt/hadoop-1.2.1/bin# start-all.sh
root@203-63:/opt/hadoop-1.2.1/bin# jps 查看Hadoop是否正常运行
Hadoop 平台搭建的更多相关文章
- hadoop平台搭建
前言 这是小的第一次搭建hadoop平台,写下这篇博客有以下几个目的(ps:本博只记录在linux系统下搭建hadoop的步骤,如果需要了解在其他平台上搭建hadoop的步骤,还请移步): 1.希望大 ...
- hadoop伪分布式平台搭建(centos 6.3)
最近要写一个数据量较大的程序,所以想搭建一个hbase平台试试.搭建hbase伪分布式平台,需要先搭建hadoop平台.本文主要介绍伪分布式平台搭建过程. 目录: 一.前言 二.环境搭建 三.命令测试 ...
- Hadoop 全分布模式 平台搭建
现将博客搬家至CSDN,博主改去CSDN玩玩~ 传送门:http://blog.csdn.net/sinat_28177969/article/details/54138163 Ps:主要答疑区在本帖 ...
- 大数据平台搭建(hadoop+spark)
大数据平台搭建(hadoop+spark) 一.基本信息 1. 服务器基本信息 主机名 ip地址 安装服务 spark-master 172.16.200.81 jdk.hadoop.spark.sc ...
- Hadoop高可用平台搭建
文章概览: 1.机器规划和预配置 2.软件安装 3.集群文件配置 4.启动集群 5.HA验证 6.注意事项 7.小结 机器规划和预配置 主机/进程 NN DN RM NM ZK(QP) ZKFC ...
- 大数据Hadoop学习之搭建hadoop平台(2.2)
关于大数据,一看就懂,一懂就懵. 一.概述 本文介绍如何搭建hadoop分布式集群环境,前面文章已经介绍了如何搭建hadoop单机环境和伪分布式环境,如需要,请参看:大数据Hadoop学习之搭建had ...
- 大数据Hadoop学习之搭建Hadoop平台(2.1)
关于大数据,一看就懂,一懂就懵. 一.简介 Hadoop的平台搭建,设置为三种搭建方式,第一种是"单节点安装",这种安装方式最为简单,但是并没有展示出Hadoop的技术优势,适合 ...
- 高可用Hadoop平台-HBase集群搭建
1.概述 今天补充一篇HBase集群的搭建,这个是高可用系列遗漏的一篇博客,今天抽时间补上,今天给大家介绍的主要内容目录如下所示: 基础软件的准备 HBase介绍 HBase集群搭建 单点问题验证 截 ...
- 大数据平台搭建:Hadoop
To construct big data distributed platform based on Hadoop is a common method. Hadoop comes fron Goo ...
随机推荐
- pandas 索引、选取和过滤
Series索引的工作方式类似于NumPy数组的索引,不过Series的索引值不只是整数,如: import numpy as np import pandas as pd from pandas i ...
- jQuery方法-queue()
<!DOCTYPE html> <html> <head lang="en"> <meta charset="utf-8&quo ...
- ajax 工作原理
Ajax的优缺点及工作原理? 定义和用法: AJAX = Asynchronous JavaScript and XML(异步的 JavaScript 和 XML).Ajax 是一种用于创建快速动态网 ...
- leetcood学习笔记-501- 二叉搜索树中的众数
题目描述: 方法一: class Solution: def findMode(self, root: TreeNode) -> List[int]: if not root: return [ ...
- FreeMarker简单入门到使用
FreeMarker freemarker是一个用java开发的模版引擎,百度百科: 常用的java模版还有快要被抛弃的Jsp(熟悉).Thymeleaf(了解).Velocity(不知) freem ...
- 天猫精灵业务如何使用机器学习PAI进行模型推理优化
引言 天猫精灵(TmallGenie)是阿里巴巴人工智能实验室(Alibaba A.I.Labs)于2017年7月5日发布的AI智能语音终端设备.天猫精灵目前是全球销量第三.中国销量第一的智能音箱品牌 ...
- kafka和flume进行整合的日志采集的confi文件编写
配置flume.conf 为我们的source channel sink起名 a1.sources = r1 a1.channels = c1 a1.sinks = k1 指定我们的source收集到 ...
- NX二次开发-UFUN文件选择对话框UF_UI_create_filebox
NX11+VS2013 #include <uf.h> #include <uf_ui.h> UF_initialize(); //文件选择对话框 char sPromptSt ...
- Funcation:Object
ylbtech-Funcation:Object 1.返回顶部 1. public object GetMyRelation() { var list = new List<object> ...
- Redis连不上的一些细节配置
远程链接redis连不上,在确保防火墙设置正确的情况下 把redis.conf中的 bind 127.0.0.1注释 另外把protected-mode yes 改为protected-mode no