hadoop单节点windows 7 环境搭建
前言
Windows下运行,通常有两种方式:一种是用VM方式安装一个,这样基本可以实现全Linux环境的Hadoop运行;另一种是通过Cygwin模拟Linux环境。后者的好处是使用比较方便,安装过程也简单,本篇文章是介绍第二种方式Cygwin模拟Linux环境。
准备工作
(1)安装JDK1.6或更高版本,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置Hadoop的配置文件时会找不到JDK。
(2)hadoop官网下载hadoop 。
安装Cygwin
Cygwin是Windows平台下模拟Unix环境的工具,需要在安装Cygwin的基础上安装Hadoop,下载地址:http://www.cygwin.com/ 根据操作系统的需要下载32位或64的安装文件。
一、双击下载好的安装文件,点击下一步进入程序引导安装页,这里有三个选项,选择第一项网络安装:
- 网络安装:通过网络下载并安装软件包 
- 下载但不安装:通过网络下载软件包 
- 本地安装:是用本地软件包安装 
二、选择install from internet
三、选择安装路径
 
三、选择local Package Directory
 
四、选择您的Internet连接方式
 
五、选择合适的安装源,点击下一步
六、这一步比较重要,以下软件包要确保被安装:
在Select Packages界面里,Category展开net,选择如下openssh和openssl两项
  
如果要在Eclipe上编译Hadoop,需要安装Category为Base下的sed
  
如果想在Cygwin上直接修改hadoop的配置文件,可以安装Editors下的vim
七、点击“下一步”,等待安装完成。
八、配置环境变量
稿源:七星互联www . qixoo.com
在“我的电脑”上点击右键,选择菜单中的“属性",点击属性对话框上的高级页签,点击”环境变量"按钮,在系统变量列表里双击“Path”变量,在变量值后输入安装的Cygwin的bin目录,例如:D:\cygwin64\bin
久、安装sshd服务
双击桌面上的Cygwin图标,启动Cygwin,执行ssh-host-config -y命令,执行后,会提示输入密码。
此时输入密码和确认密码,回车。最后出现Host configuration finished.Have fun!表示安装成功。
输入net start sshd,启动服务。或者在系统的服务里找到并启动Cygwin sshd服务。
安装hadoop
前面部分在公司电脑操作,以下安装操作在本机操作,过程不受影响。
下载hadoop
hadoop官网下载地址: 。
把hadoop压缩包解压到/home/用户名 目录下,文件夹名称更改为hadoop,可以不修改,但后边在执行命令时稍显麻烦。
(1)单机模式配置方式
  单机模式不需要配置,这种方式下,Hadoop被认为是一个单独的进程,这种方式经常用来调试。
 (2)伪分布模式
  可以把伪分布模式看作是只有一个节点的集群,在这个集群中,这个节点既是Master,也是Slave,既是NameNode,也是DataNode,既是JobTracker,也是TaskTracker。
伪分布模式只需要修改几个配置文件即可。
配置hadoop-env.sh,记事本打开改文件,设置JAVA_HOME的值为你的JDK安装路径,例如:
JAVA_HOME="D:\javatools\jdk1.6.0"
配置core-site.xml
[html]
- <?xml version="1.0"?> 
- <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
- <!-- Put site-specific property overrides in this file. --> 
- <configuration> 
- <property> 
- <name>fs.default.name</name> 
- <value>hdfs://localhost:9000</value> 
- </property> 
- <property> 
- <name>mapred.child.tmp</name> 
- <value>/home/u/hadoop/tmp</value> 
- </property> 
- </configuration> 
配置hdfs-site.xml
[html]
- <?xml version="1.0"?> 
- <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
- <!-- Put site-specific property overrides in this file. --> 
- <configuration> 
- <property> 
- <name>dfs.replication</name> 
- <value>1</value> 
- </property> 
- </configuration> 
配置mapred-site.xml
[html]
- <?xml version="1.0"?> 
- <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
- <!-- Put site-specific property overrides in this file. --> 
- <configuration> 
- <property> 
- <name>mapred.job.tracker</name> 
- <value>localhost:9001</value> 
- </property> 
- <property> 
- <name>mapred.child.tmp</name> 
- <value>/home/u/hadoop/tmp</value> 
- </property> 
- </configuration> 
启动hadoop
打开Cgywin窗口,执行cd ~/hadoop命令,进入hadoop文件夹,启动Hadoop前,需要先格式化Hadoop的文件系统HDFS,执行命令:bin/hadoop namenode -format,(注意:namenode要小些,否则如果输入NameNode,会提示错误,找不到或无法加载主类NameNode。)如下图:
输入命令 bin/start-all.sh,启动所有进程。
验证是否成功安装
打开浏览器,输入网址:http://localhost:50030 然后回车,如果能访问则安装成功。访问截图如下:
hadoop单节点windows 7 环境搭建的更多相关文章
- Hadoop学习笔记(3)——分布式环境搭建
		Hadoop学习笔记(3) ——分布式环境搭建 前面,我们已经在单机上把Hadoop运行起来了,但我们知道Hadoop支持分布式的,而它的优点就是在分布上突出的,所以我们得搭个环境模拟一下. 在这里, ... 
- 一、hadoop单节点安装测试
		一.hadoop简介 相信你或多或少都听过hadoop这个名字,hadoop是一个开源的.分布式软件平台.它主要解决了分布式存储(hdfs)和分布式计算(mapReduce)两个大数据的痛点问题,在h ... 
- Spark+ECLIPSE+JAVA+MAVEN windows开发环境搭建及入门实例【附详细代码】
		http://blog.csdn.net/xiefu5hh/article/details/51707529 Spark+ECLIPSE+JAVA+MAVEN windows开发环境搭建及入门实例[附 ... 
- 老司机实战Windows Server Docker:3 单节点Windows Docker服务器简单运维(上)
		经过上两篇实战Windows Server Docker系列文章,大家对安装Windows Docker服务以及如何打包现有IIS应用为docker镜像已经有了基本认识.接下来我们来简单讲讲一些最基本 ... 
- 老司机实战Windows Server Docker:4 单节点Windows Docker服务器简单运维(下)
		上篇中,我们主要介绍了使用docker-compose对Windows Docker单服务器进行远程管理,编译和部署镜像,并且设置容器的自动启动.但是,还有一些重要的问题没有解决,这些问题不解决,就完 ... 
- Redis的简单介绍及在Windows下环境搭建
		简单介绍 1,Redis是什么 最直接的还是看官方的定义吧. Redis is an open source (BSD licensed), in-memory data structure stor ... 
- Windows GTK+ 环境搭建(详解)
		来源:http://blog.sina.com.cn/s/blog_a6fb6cc901017ygy.html Windows GTK+ 环境搭建 最近要做界面的一些东西,但是对微软提供的类库MFC不 ... 
- Hadoop完全分布式集群环境搭建
		1. 在Apache官网下载Hadoop 下载地址:http://hadoop.apache.org/releases.html 选择对应版本的二进制文件进行下载 2.解压配置 以hadoop-2.6 ... 
- Hadoop学习笔记—14.ZooKeeper环境搭建
		从字面上来看,ZooKeeper表示动物园管理员,这是一个十分奇妙的名字,我们又想起了Hadoop生态系统中,许多项目的Logo都采用了动物,比如Hadoop采用了大象的形象,所以我们可以猜测ZooK ... 
随机推荐
- 15SpringMvc_在业务控制方法中写入模型变量收集参数,且使用@InitBind来解决字符串转日期类型
			之前第12篇文章中提到过在业务控制方法中写入普通变量收集参数的方式,也提到了这种凡方式的弊端(参数很多怎么办),所以这篇文章讲的是在业务控制方法中写入模型变量来收集参数.本文的案例实现的功能是,在注册 ... 
- Android view中的requestLayout和invalidate方法
			Android view中的requestLayout和invalidate方法 requestLayout:当view确定自身已经不再适合现有的区域时,该view本身调用这个方法要求parent v ... 
- 华为访问列表traffic-policy案例
			1,最近某公司有个需求 2,配置为重点--在于思路 需求:192.168.1 3 5 8网段不能访问2.x网段 仅允许财务2.x访问1.253打印机. acl name permit_printer ... 
- Eclipse下配置tomcat且使用eclipse开启debug模式,集成JAD反编译插件
			Eclipse运行Tomcat的2种方式 eclipse启动Tomcat服务输入http://localhost:8080/报404解决方法 Eclipse 中Tomcat 启动 与直接启动Tomca ... 
- [WEB API] CLIENT 指定请求及回应格式(XML/JSON)
			[Web API] Client 指定请求及响应格式(xml/json) Web API 支持的格式请参考 http://www.asp.net/web-api/overview/formats-an ... 
- Ubuntu 14.04 下安装google的浏览器——Chrome
			小编用过好多浏览器,但最后还是选择Chrome, 因为这款浏览器确实做的不错,可是Ubuntu下自带的是火狐,因此小编在这里和大家分享一下如何在Ubuntu下安装chrome浏览器 工具/原料 安 ... 
- iOS——浅谈iOS中三种生成随机数方法
			ios 有如下三种随机数方法: 
- 20145222黄亚奇《Java程序设计》第1周学习总结
			教材学习内容总结 BJVM是Java程序唯一认识的操作系统,其可执行文件为.class文档 Java的三大平台为Java SE,Java EE,Java ME. Java SE的四个部分为:JVM,J ... 
- 20145316GDB调试汇编堆栈
			GDB调试例子的汇编堆栈 代码 直接-m32编译出现问题 编译64位Linux版本32位的二进制文件,需要安装一个库,使用指令sudo apt-get install libc6-dev-i386 编 ... 
- 将Mininet与真实网络相连接
			原文发表在我的博客主页,转载请注明出处 前言 Mininet是SDN网络仿真的一大利器,在小规模网络模拟使用上独领风骚,其开源性允许使用者按照自己的需求修改源码,得到想要的数据,其提供了多个函数用来满 ... 
