Ubuntu 12.04搭建hadoop单机版环境
前言:
本文章是转载的,自己又加上了一些自己的笔记整理的
详细地址请查看Ubuntu 12.04搭建hadoop单机版环境
Hadoop的三种运行模式
独立模式:无需任何守护进程,所有程序都在单个JVM上执行。
伪分布模式:Hadoop守护进程运行在本地机器上,模拟一个小规模的集群。
全分布模式:Hadoop守护进程运行在一个集群中。
一. 安装Ubuntu;
二. 在Ubuntu下创建hadoop用户组和用户;
1. 创建hadoop用户组:
|
sudo groupadd hadoop |
如图:
12.04搭建hadoop单机版环境" TITLE="Ubuntu 12.04搭建hadoop单机版环境" />
2. 创建hadoop用户:
|
sudo useradd -ms /bin/bash -g hadoop hadoop |
如图:
12.04搭建hadoop单机版环境" TITLE="Ubuntu 12.04搭建hadoop单机版环境" />
3. 给hadoop用户添加sudo权限,打开/etc/sudoers文件:
| sudo gedit /etc/sudoers |
按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。
在root ALL=(ALL:ALL)
ALL下添加hadoop ALL=(ALL:ALL)
ALL,
| hadoop ALL=(ALL:ALL) ALL |
如图:
12.04搭建hadoop单机版环境" TITLE="Ubuntu 12.04搭建hadoop单机版环境" />
三. 在Ubuntu下安装JDK
使用如下命令执行即可:
|
sudo apt-get install openjdk-6-jre |
(这里我自己下载的jdk,具体的安装方法见我的另一篇Linux下安装JDK和Eclipse)
如图:
12.04搭建hadoop单机版环境" TITLE="Ubuntu 12.04搭建hadoop单机版环境" />
四. 修改机器名
每当ubuntu安装成功时,我们的机器名都默认为:ubuntu
,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。
1. 打开/etc/hostname文件:
|
sudo gedit /etc/hostname |
2. 将/etc/hostname文件中的ubuntu改为你想取的机器名。这里我取"dubin-ubuntu"。
重启系统后才会生效。
3. 为了彻底的改变你的主机名,还需要更改vim
/etc/hosts,将其中的
127.0.1.1改成和你hostname中一样的名字
五. 安装ssh服务
这里ssh可以实现远程登录和管理,具体可以参考其他相关资料。安装ssh的目的就是为了启动守护进行,且必须是无密码登陆的。
安装openssh-server,
|
sudo apt-get install ssh openssh-server |
这时假设您已经安装好了ssh,您就可以进行第六步了哦~
六、 建立ssh无密码登录本机
首先要转换成hadoop用户,执行以下命令:
| su - hadoop |
如图:
12.04搭建hadoop单机版环境" TITLE="Ubuntu 12.04搭建hadoop单机版环境" />
ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。
1. 创建ssh-key,,这里我们采用rsa方式:
|
ssh-keygen -t rsa -P "" |
如图:
12.04搭建hadoop单机版环境" TITLE="Ubuntu 12.04搭建hadoop单机版环境" />
(注:回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的)
2.
进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的:
|
cd ~/.ssh
cat id_rsa.pub >> authorized_keys |
如图:
12.04搭建hadoop单机版环境" TITLE="Ubuntu 12.04搭建hadoop单机版环境" />
(完成后就可以无密码登录本机了。)
3. 登录localhost:
|
ssh localhost |
如图:
( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)
4. 执行退出命令:
|
exit |
七. 安装hadoop
这里我的安装版本为:hadoop-1.1.2(http://www.apache.org/dyn/closer.cgi/hadoop/common/ )
1. 假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录 /usr/local/下:
| sudo cp hadoop-1.1.2.tar.gz /usr/local/ |
2. 解压hadoop-1.1.2.tar.gz:
|
cd /usr/local
sudo tar -zxf hadoop-1.1.2.tar.gz |
3. 将解压出的文件夹改名为hadoop:
|
sudo mv hadoop-1.1.2 hadoop1.1.2 |
4. 将该hadoop1.1.2文件夹的属主用户设为hadoop:
|
sudo chown -R hadoop:hadoop hadoop1.1.2 |
5. 打开hadoop/conf/hadoop-env.sh文件:
|
vim hadoop1.1.2/conf/hadoop-env.sh |
6. 配置conf/hadoop-env.sh(找到#export
JAVA_HOME=...,去掉#,然后加上本机jdk的路径):
| export JAVA_HOME=/usr/lib/jvm/java-6-openjdk |
这个主要就是为了配置hadoop运行环境的jdk路径
7. 打开conf/core-site.xml文件:
|
sudo gedit hadoop/conf/core-site.xml |
编辑如下:
版权声明:本文为博主原创文章,未经博主允许不得转载。
Ubuntu 12.04搭建hadoop单机版环境的更多相关文章
- Ubuntu 12.04 搭建Android开发环境
Ubuntu 12.04 搭建Android开发环境 2013/7/29 Linux环境下搭建Android开发环境 大部分开发人员可能都在Windows下做开发,可能是感觉在Windows下比较方便 ...
- 在ubuntu下使用Eclipse搭建Hadoop开发环境
一.安装准备1.JDK版本:jdk1.7.0(jdk-7-linux-i586.tar.gz)2.hadoop版本:hadoop-1.1.1(hadoop-1.1.1.tar.gz)3.eclipse ...
- Ubuntu 12.04搭建Andorid编译环境
1.安装JDK,Android 5.0开始,开始使用OpenJDK 1.7,4.4等低版本是Oracke JDK1.6 install java environment // install open ...
- Ubuntu学习总结-04 搭建JAVA开发环境
JAVA开发环境是一种跨平台的程序设计语言,可以在windows.LINUX等操作系统上进行开发. 1 下载JDK 从以下地址下所需的jdk安装包 . http://www.oracle.com/te ...
- Ubuntu 12.04下Hadoop 2.2.0 集群搭建(原创)
现在大家可以跟我一起来实现Ubuntu 12.04下Hadoop 2.2.0 集群搭建,在这里我使用了两台服务器,一台作为master即namenode主机,另一台作为slave即datanode主机 ...
- Ubuntu 12.04搭建MTK 6577 安卓开发环境
Ubuntu 12.04搭建 MTK 6577安卓开发环境 1. 下载并安装Vmware虚拟机: 2. 下载并在虚拟机上安装Ubuntu 12.04 iso 安装包:下载地址: ...
- Ubuntu 12.04 搭建 Eclipse Android 开发环境(转)
Ubuntu 12.04 搭建 Eclipse Android 开发环境 http://blog.sina.com.cn/s/blog_93dc666c0101b39p.html (2012-09-0 ...
- [Linux] Ubuntu Server 12.04 LTS 平台上搭建WordPress(Nginx+MySql+PHP) Part II
接着上一节继续搭建我们的LNMP平台,接下来我们安装PHP相关的服务 sudo apt-get install php5-cli php5-cgi php5-fpm php5-mcrypt php5- ...
- [Linux] Ubuntu Server 12.04 LTS 平台上搭建WordPress(Nginx+MySQL+PHP) Part IV
接下来我们去下载 WorePress 用最新的 3.7.1 下载地址是:http://cn.wordpress.org/wordpress-3.7.1-zh_CN.zip 我们先建立一个文件夹 /va ...
随机推荐
- UnicodeEncodeError: ‘ascii’ codec can’t encode characters in position xxx ordinal not in range(12
python在安装时,默认的编码是ascii,当程序中出现非ascii编码时,python的处理常常会报这样的错UnicodeDecodeError: 'ascii' codec can't deco ...
- HDU 6208 The Dominator of Strings 后缀自动机
The Dominator of Strings Time Limit: 3000/3000 MS (Java/Others) Memory Limit: 65535/32768 K (Java ...
- 之前博客中的代码都放到github上
之前一直把代码托管在taocode上,现在已经不能用了,所以把代码整理了一下,统一都放在gibhub上了. LALR(1)语法分析生成器:https://github.com/kiven-li/xby ...
- [转] 盘点8种CSS实现垂直居中水平居中的绝对定位居中技术
转自:http://blog.csdn.net/freshlover/article/details/11579669 Ⅰ.绝对定位居中(Absolute Centering)技术 我们经常用marg ...
- EasyPlayer_Android RTSP安卓播放器直播画面卡在第一帧问题修复
最近发现某些Android安卓手机在运行EasyPlayer播放视频时,会停留在第一帧画面,虽然有码率预示着接收端没有问题,但是画面却卡着不动. 一般来讲,这个现象有三种原因导致: 没有接收到视频帧; ...
- 全能,OnSize的使用,部分覆盖后重画,都没有问题
import wx class View(wx.Panel): def __init__(self, parent): super(View, self).__init__(parent) self. ...
- @Transactional注解不回滚原因详解
最近试了试spring的回滚功能,根据网上的教程配置怎么都不好使,遂寻找答案, 网上的答案都是这么讲的: 1. 检查你方法是不是public的. 2. 你的异常类型是不是unchecked异常.如果我 ...
- cinder挂载卷的过程原理
LVM名称介绍 PV:物理磁盘 VG:卷组,多个PV可以组成一个VG,一个VG可以划分成多个LV(逻辑卷). PP:物理区块,将一个VG逻辑的划分成连续的小块. LP:逻辑区块,若干个PP组成一个LP ...
- TopCoder SRM420 Div1 RedIsGood —— 期望
题目链接:https://vjudge.net/problem/TopCoder-9915 (论文上的题) 题解: 更正:, i>0, j>0 代码如下: #include <ios ...
- python基本模块相关信息
系统相关的信息模块: import sys sys.argv 是一个 list,包含所有的命令行参数. sys.stdout sys.stdin sys.stderr 分别表示标准输入输出,错误输出的 ...