Hadoop单机版安装,配置,运行
Hadoop是最近非常流行的东东啦,但是乍一看都觉得是集群的东东,其实在单机版上安装Hadoop也是可以的,并且安装好以后可以很方便的进行程序的调试,调试好程序以后再丢到集群中,放心的算吧,呵呵。。
本文说的是在ubuntu上hadoop的安装,其他的linux可以类比进行。
安装前的准备
在安装之前,我们需要准备以下的东西
- Ubuntu的安装盘,我装的就是桌面吧,你可以选择服务器版,无所谓。
- 一台空白电脑,当然,你也可以用虚拟机,推荐使用VirtualBox,高端大气上档次,还免费,我正好有台空着的机器,就直接用的机器了。
- hadoop安装包,选一个快的下载,版本的话,我用的1.2.1,不过差别不大。
OK,就需要这么些东西,我们开始吧。
安装操作系统
装系统大家都会,就不说了,Ubuntu现在的安装方法超级简单,不管是在虚拟机下还是在实体机上都很简单,一路next就行了。
创建hadoop用户
安装好系统,建立一个hadoop用户是必须的,如果你装的是桌面版的ubuntu,估计要使用root密码,创建root密码的方法是
sudo password root
然后输入你自己的密码,就可以创建root密码了,其实没有root密码也关系不大,因为你的用户已经有root权限了。
创建
hadoop
用户组sudo addgroup hadoop
创建
hadoop
用户sudo adduser -ingroup hadoop hadoop
就是在
hadoop
用户组下建立一个hadoop
用户,别问我为什么,关于用户组和用户的问题请自己去查linux文档。给
hadoop
加上root权限,方便hadoop用户以后的操作。方法就是打开/etc/sudoers
文件,然后添加一行hadoop ALL=(ALL:ALL) ALL
,就是让hadoop永远root权限,每次要执行权限指令时前面加上sudo
就行了。
修改主机名称
其实在安装ubuntu的时候就可以选择主机名,你要是没有创建的话应该显示的是ubuntu
,打开/etc/hostname
,把ubuntu
改成你想的任何名字,我改的是WuCloud
,显得高端点。
安装配置SSH,建立信任链接
SSH是一个安全的传输协议,可以进行远程登录,搞linux没听过ssh的话,建议不要往下看了。
一般情况下,安装ubuntu的时候我都会选上ssh,没有选的话,这里安装一下就行了,安装方法很傻瓜
sudo apt-get install openssh-server
由于hadoop默认是一个集群,所以需要登录各个服务器,就算你是单机的它也会这么干,所以你得配置一个不需要密码的登录环境给hadoop。
下面的操作,最好登录到hadoop
用户下进行。登录方法su hadoop
创建
ssh-key
ssh-keygen -t rsa -P ""
完了以后将在
~/.ssh/
目录下生成id_rsa
和id_rsa.pub
两个文件。确认以后输入:cat id_rsa.pub >> authorized_keys
OK,一切就绪
测试一下,登录一下本机,使用
ssh WuCloud
或者ssh localhost
都行,第一次要输入一个yes
,然后退出,再登录,发现不用密码了,OK,这一步完成了。
安装JAVA环境
这个不用说了吧,你搞hadoop的,没玩过java...呵呵,呵呵,其实我毕业后也没碰过JAVA,搞hadoop我还想用C++呢,不过安装JAVA环境我还是会的,而且,Ubuntu本身自带了OPENJDK环境,也可以用,你要是不想用的话,可以自己安装一个JDK,我用的自带的,没什么问题,话说要是装XenServer和CloudStack的话,原生的OpenJDK就不行,之前装CloudStack就被JDK坑死了。。。
恩,别跑题,JDK默认目录在/usr/lib/jvm/java-6-openjdk
下,如果你自己装的Java环境,目录你自己知道。
安装hadoop
重头戏来了,终于开始安装Hadoop了,其实Hadoop不用安装,解压就行了,我们拷贝到/usr/local/
下解压,显得专业点,当然,你也可以安装到任意目录,没什么区别。
sudo tar -zxvf hadoop-1.2.1.tar.gz
目录中多了一个hadoop-1.2.1
目录,改名成hadoop,mv hadoop-1.2.1 hadoop
好了,安装好了,简单吧,慢着,还要配置呢。
配置hadoop
将
hadoop
配置成hadoop用户属性sudo chown -R hadoop:hadoop hadoop
修改
hadoop/conf/hadoop-env.sh
文件,添加环境变量,最文件最后添加:export JAVA_HOME=/usr/lib/jvm/java-6-openjdk
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:/usr/local/hadoop/bin
实际上就是添加JAVA环境和HADOOP环境,完成了。
作为一个单机的hadoop,就配置完成了,也就是你可以开始写程序测试了,当然,hadoop配置还有很多东西,但是到目前为止,作为单机开发,不影响我们使用了。
开始运行吧
第一次运行hadoop,要格式化,不要怕,不会删除你电脑上的任何数据,况且你是虚拟机安装的,删了也没事。
bin/hadoop namenode -format
启动服务
bin/start-all.sh
如果没报错的话,就OK了。。
运行一个测试程序
在hadoop目录下,hadoop-examples-1.2.1.jar
这个是测试程序,里面包含了很多测试用的代码,我们运行一个经典的,wordcout,很多教程都用这个来做说明,我们也不例外。
由于我们已经格式化了文件系统了,运行一个测试程序可以按照以下步骤进行。
- 随便在任何地方建立一个目录,比如
/home/hadoop/input/
- 随便拷贝一些文本文件到该目录下
运行以下命令:
bin/hadoop jar hadoop-examples-1.2.1.jar wordcout /home/hadoop/input/ /home/hadoop/output/
进过一系列像黑客电脑般的刷屏以后,会在/home/hadoop/下生成一个output目录,里面有
part-r-00000
和_SUCCESS
两个文件,看到_SUCCESS
就知道已经成功了,打开part-r-00000
看看,每个单词的出现次数都给你统计好了吧。
好了,全部完成,可以开始自己写程序了~~~
Hadoop单机版安装,配置,运行的更多相关文章
- hadoop单机版安装及基本功能演示
本文所使用的Linux发行版本为:CentOS Linux release 7.4.1708 (Core) hadoop单机版安装 准备工作 创建用户 useradd -m hadoop passwd ...
- centos8安装fastdfs6.06集群方式三之:storage的安装/配置/运行
一,查看本地centos的版本 [root@localhost lib]# cat /etc/redhat-release CentOS Linux release 8.1.1911 (Core) 说 ...
- centos8安装fastdfs6.06集群方式二之:tracker的安装/配置/运行
一,查看本地centos的版本 [root@localhost lib]# cat /etc/redhat-release CentOS Linux release 8.1.1911 (Core) 说 ...
- Hadoop单机安装配置过程:
1. 首先安装JDK,必须是sun公司的jdk,最好1.6版本以上. 最后java –version 查看成功与否. 注意配置/etc/profile文件,在其后面加上下面几句: export JAV ...
- Hadoop的安装配置(一)
一.Hadoop的安装①Hadoop运行的前提是本机已经安装了JDK,配置JAVA_HOME变量②在Hadoop中启动多种不同类型的进程 例如NN,DN,RM,NM,这些进程需要进行通信 ...
- JMeter安装+配置+运行
环境配置: 操作系统:Win7系统 jdk版本:1.8 JMeter版本:3.0 一 JMeter的安装配置过程 JMeter是100%纯java应用程序,它在任何支持完整java实现的系统上都能正 ...
- windows + flutter +android+ vscode 安装配置运行流程(详细版本)
flutter 是由谷歌发布的一个全新的响应式.跨平台.高性能的移动开发框架,可以快速在iOS和Android上构建高质量的原生用户界面. 框架特点 快速开发:Flutter的热重载可以快速地进行测试 ...
- Hadoop简单安装配置
Hadoop开始设计以Linux平台为运行目标,所以这里推荐在Linux发行版比如Ubuntu进行安装,目前已经有Hadoop for Windows出来,大家自行搜下文章. Hadoop运行模式分为 ...
- Hadoop详细安装配置过程
步骤一:基础环境搭建 1.下载并安装ubuntukylin-15.10-desktop-amd64.iso 2.安装ssh sudo apt-get install openssh-server op ...
随机推荐
- Javascript实现简单的富文本编辑器
<span style="font-size:14px;"><!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 T ...
- MongoDB学习笔记(三) 在MVC模式下通过Jqgrid表格操作MongoDB数据
看到下图,是通过Jqgrid实现表格数据的基本增删查改的操作.表格数据增删改是一般企业应用系统开发的常见功能,不过不同的是这个表格数据来源是非关系型的数据库MongoDB.nosql虽然概念新颖,但是 ...
- qt宽字符串中文乱码(codec->toUnicode值得学习)
乱码原因: QT使用的是utf-8 简体中文版的windows操作系统及其应用软件默认都是ANSI/GBK编码.而且这里应该是宽字符串. 多字节ANISGB 宽字符UNICODE 多字节显示标准字符的 ...
- 怎样从ext3升级到ext4?
Ext4 文件系统提供了更佳的性能和可靠性,具有了更为丰富的功能,那么,怎样从ext3升级到ext4呢? 首先,我们须要保证系统支持ext4,一般来说,内核版本号在2.6.28及以上的版本号才支持ex ...
- Swift - 协议(protocol)
1,Swift中协议类似于别的语言里的接口,协议里只做方法的声明,包括方法名.返回值.参数等信息,而没有具体的方法实现. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 ...
- C# Http以文件的形式上传文件
以下的是上传的方法: // <summary> /// 将本地文件上传到指定的服务器(HttpWebRequest方法) /// </summary> /// <para ...
- poj 3450 Corporate Identity
题目链接:http://poj.org/problem?id=3450 题目分类:后缀数组 题意:求n个串的最长公共字串(输出字串) //#include<bits/stdc++.h> # ...
- 奋斗的孩子的TableView(三篇文章)
http://blog.sina.com.cn/s/blog_a6fb6cc90101i8it.html http://blog.sina.com.cn/s/blog_a6fb6cc90101hhse ...
- R语言数据框行转列实例
目的:须要把数据框的行列进行转置 方法: # 原始数据框 > hrl_jd_mon 年份 一月 二月 三月 四月 五月 六月 七月 八月 九月 十月 十一月 十二月 1 2010年 51 ...
- Lua学习笔记9:多文件
一 终端中运行多个文件:-l 增加在文件一中定义了一个变量,在还有一文件里输出这个变量.代码例如以下: --file1.lua num = 100 --file2.lua print(num) 终端输 ...