Hadoop 平台搭建
一、在Linux中安装JDK并配置环境变量
输入javac 查看是否已安装java环境
如果没有安装 sudo apt-get install openjdk-7-jdk
再次检测 javac
修改配置参数 vim /etc/profile
发现没有安装vim编辑器 apt-get install vim
安装完成后 vim /etc/profile 配置环境变量,参照安装过程中路径,具体如下
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
source /etc/profile
二、下载Hadoop并配置环境变量
网址:http://mirror.bit.edu.cn/apache/hadoop/common/
下载:wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-1.2.1/hadoop-1.2.1-bin.tar.gz
ls 查看已下载 hadoop-1.2.1-bin.tar.gz
移动到/opt/文件夹:mv hadoop-1.2.1-bin.tar.gz /opt/
进入到/opt/文件夹:cd /opt/
ls 查看/opt/目录下:hadoop-1.2.1-bin.tar.gz
解压:tar -zxvf hadoop-1.2.1-bin.tar.gz
ls 出现解压后的 hadoop-1.2.1
三、修改hadoop-1.2.1/conf/下四个配置文件
root@203-63:/opt# cd hadoop-1.2.1
root@203-63:/opt/hadoop-1.2.1# ls
root@203-63:/opt/hadoop-1.2.1# cd conf
root@203-63:/opt/hadoop-1.2.1/conf# ls
root@203-63:/opt/hadoop-1.2.1/conf# vim hadoop-env.sh
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
root@203-63:/opt/hadoop-1.2.1/conf# vim mapred-site.xml
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>imooc:9001</value>
</property>
</configuration>
root@203-63:/opt/hadoop-1.2.1/conf# vim core-site.xml
<configuration>
<property>
<name>hedoop.tmp.dir</name> 临时工作目录
<value>/hadoop</value>
</property>
<property>
<name>dfs.name.dir</name> 元数据目录
<value>/hadoop/name</value>
</property>
<property>
<name>fs.default.name</name>
<value>hdfs://imooc:9000</value>
</property>
</configuration>
root@203-63:/opt/hadoop-1.2.1/conf# vim hdfs-site.xml
<configuration>
<property>
<name>dfs.data.dir</name> 文件块的存放目录
<value>/hadoop/data</value>
</property>
</configuration>
root@203-63:/opt/hadoop-1.2.1/conf# vim /etc/profile
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
export JRE_HOME=$JAVA_HOME/jre
export HADOOP_HOME=/opt/hadoop-1.2.1
export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$HADOOP_HOME/bin:$PATH
root@203-63:/opt/hadoop-1.2.1/conf# source /etc/profile
四、检测是否安装成功
root@203-63:/opt/hadoop-1.2.1/conf# hadoop
root@203-63:/opt/hadoop-1.2.1/conf# cd ..
root@203-63:/opt/hadoop-1.2.1# cd bin/
root@203-63:/opt/hadoop-1.2.1/bin# ls
root@203-63:/opt/hadoop-1.2.1/bin# hadoop namenode -format 格式化
root@203-63:/opt/hadoop-1.2.1/bin# start-all.sh
root@203-63:/opt/hadoop-1.2.1/bin# jps 查看Hadoop是否正常运行
Hadoop 平台搭建的更多相关文章
- hadoop平台搭建
前言 这是小的第一次搭建hadoop平台,写下这篇博客有以下几个目的(ps:本博只记录在linux系统下搭建hadoop的步骤,如果需要了解在其他平台上搭建hadoop的步骤,还请移步): 1.希望大 ...
- hadoop伪分布式平台搭建(centos 6.3)
最近要写一个数据量较大的程序,所以想搭建一个hbase平台试试.搭建hbase伪分布式平台,需要先搭建hadoop平台.本文主要介绍伪分布式平台搭建过程. 目录: 一.前言 二.环境搭建 三.命令测试 ...
- Hadoop 全分布模式 平台搭建
现将博客搬家至CSDN,博主改去CSDN玩玩~ 传送门:http://blog.csdn.net/sinat_28177969/article/details/54138163 Ps:主要答疑区在本帖 ...
- 大数据平台搭建(hadoop+spark)
大数据平台搭建(hadoop+spark) 一.基本信息 1. 服务器基本信息 主机名 ip地址 安装服务 spark-master 172.16.200.81 jdk.hadoop.spark.sc ...
- Hadoop高可用平台搭建
文章概览: 1.机器规划和预配置 2.软件安装 3.集群文件配置 4.启动集群 5.HA验证 6.注意事项 7.小结 机器规划和预配置 主机/进程 NN DN RM NM ZK(QP) ZKFC ...
- 大数据Hadoop学习之搭建hadoop平台(2.2)
关于大数据,一看就懂,一懂就懵. 一.概述 本文介绍如何搭建hadoop分布式集群环境,前面文章已经介绍了如何搭建hadoop单机环境和伪分布式环境,如需要,请参看:大数据Hadoop学习之搭建had ...
- 大数据Hadoop学习之搭建Hadoop平台(2.1)
关于大数据,一看就懂,一懂就懵. 一.简介 Hadoop的平台搭建,设置为三种搭建方式,第一种是"单节点安装",这种安装方式最为简单,但是并没有展示出Hadoop的技术优势,适合 ...
- 高可用Hadoop平台-HBase集群搭建
1.概述 今天补充一篇HBase集群的搭建,这个是高可用系列遗漏的一篇博客,今天抽时间补上,今天给大家介绍的主要内容目录如下所示: 基础软件的准备 HBase介绍 HBase集群搭建 单点问题验证 截 ...
- 大数据平台搭建:Hadoop
To construct big data distributed platform based on Hadoop is a common method. Hadoop comes fron Goo ...
随机推荐
- leetcood学习笔记-58-最后一个单词的长度
题目描述: 第一次解答: class Solution: def lengthOfLastWord(self, s: str) -> int: L=s.strip().split(" ...
- JMM 内存模型 与 volatile 关键字
内存模型 线程之间的共享变量存储在主内存(main memory)中,每个线程都有一个私有的本地内存(local memory). 本地内存中存储了该线程以读/写共享变量的副本. 不同线程之间无法相互 ...
- Python获取房价信息和导出EXCEL
房价与生活息息相关,那么各地区房价情况和差别咋样呢? 可以打开网站或手机APP去查询一下,不过查看到的数据有限,很不过瘾~ 作为一个合格的程序员,要懂得用代码解决问题! 第一步:打开一个房产交易平台 ...
- 【设计】schema
Schema:表的模式: 设计数据的表,索引,以及表和表的关系 在数据建模的基础上将关系模型转为数据库表 满足业务模型需要基础上根据数据库和应用特点优化表结构 关系模型图: Schema关 ...
- 图片转换为base64
明天中秋了,先祝大家中秋快乐!哈哈,最近见有人在群里问怎么把图片转换成base64格式,之前刚好写过就把代码贴出来. 主要用到canvas中的toDataURL方法 <!DOCTYPE html ...
- C++ 将汉字转换成拼音全拼【转载】
转载自https://www.cnblogs.com/mzhrd/p/4758105.html #include <string> using std::string; //======= ...
- fread读入挂and普通读入挂and浮点数读入挂
fread读入挂 版本一 namespace fastIO { #define BUF_SIZE 100000 //fread -> read bool IOerror = 0; inline ...
- CApiHook__Api钩子类
见过网上有很多ApiHook的类,但是都不尽入人意,要么就是写的不够好不够完善,要么就是跑不起来. 用别人写的代码总是有种不安心,所以自己就花了一晚上写了CApiHook类.已经尽量确保自己写的类是非 ...
- OSI七层网络模型分别是哪七层?各运行那些协议?
本文摘自:https://blog.csdn.net/JeremyZJM/article/details/78184775 应用层 DHCP · DNS · FTP · Gopher · HTTP · ...
- tensorflow TypeError: Can not convert a float32 into a Tensor or Operation
遇到这种情况可能是你的程序中有和你定义的tensor 变量重名的其他变量名字,jishi在for循环中使用了这个名字的作为临时变量也不行.tenor 变量很娇气.坑了我一晚上的时间. 比如:x = t ...