Hadoop的安装与配置说明

安装hadoop是一件非常容易的事情,读者可以在官网上下载到最近的几个hadoop版本。网址为http://apache.etoak.com//hadoop/core/.
   目前，hadoop可以运行在linux，unix，windows系统上。实际上hadoop是为在linux平台上使用而开发出来的。但是hadoop在一些主流的unix版本（甚至包括Mac OS X）也运行良好。对于windows，这个问题有些复杂。如果想在windows上运行hadoop，那么必须先安装Cygwin以模拟linux环境，然后再安装hadoop。在unix上安装hadoop和在linux上安装hadoop的过程基本相同，因此对在unix上安装hadoop的过程不再赘述。

安装与配置

在linux安装Hadoop之前，需要先安装两个程序：
      Sun公司的java-1.6
      SSH，推荐安装OpenSSH

安装JDK

安装JDK是一个很简单的过程，以ubuntu为例。
   （1）下载安装JDK
   确保可以连接到互联网，输入命令：
   sudo apt-get install sun-java6-jdk
   输入密码，确认，就可以安装java了
   （2）配置环境变量：
   输入命令：
   sudo gedit /etc/profile
   输入密码，打开profile文件
   在最下面输入如下内容：
   #set Java Environment
   export JAVA_HOME= （你的java安装位置，一般为/usr/lib/jvm/java-6-sun）
   export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"
   export PATH="$JAVA_HOME/:$PATH"
   （3）验证java是否安装成功
   输入命令：
   java -version
   查看信息
   java version "1.6.0_14"
   Java(TM) SE Runtime Environment (build 1.6.0_14-b08)
   Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode)

配置ssh免密码登录

同样的，以ubuntu为例，用户名为u：
   （1）确认已经连接上互联网，输入命令：sudo apt-get install ssh
   （2）配置可以无密码登陆本机:
   首先查看在u用户下是否存在.ssh文件夹（注意ssh前面有“.”，这是一个隐藏文件夹），输入命令：
   ls -a /home/u。
   接下来，输入命令：
   ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
   这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是ssh的一对私钥和公钥，类似于钥匙及锁，把id_da.pub（公钥）追加到授权的key里面去，
   输入命令：
   cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
这段话的意思是把公钥加入到用于认证的公钥文件中，这里authorized_keys是用于认证的公钥文件。
   至此无密码登陆本机以安装完成。
   （3）验证ssh已安装成功及无密码登陆本机
   输入命令：
   ssh -version
   显示结果：
   OpenSSH_5.1p1 Debian-6ubuntu2, OpenSSL 0.9.8g 19 Oct 2007
   Bad escape character 'rsion'.
   这显示了ssh已经安装成功
   输入命令：
   ssh localhost
   会有如下显示：
   The authenticity of host 'localhost (::1)' can't be established.
   RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77.
   Are you sure you want to continue connecting (yes/no)? yes
   Warning: Permanently added 'localhost' (RSA) to the list of known hosts.
   Linux master 2.6.31-14-generic #48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686

To access official Ubuntu documentation, please visit:
   http://help.ubuntu.com/

Last login: Mon Oct 18 17:12:40 2010 from master
   admin@hadoop:~$
   如上显示，说明已经安装成功，第一次登录时会询问你是否继续链接，输入yes即可以进入。
   实际上，在hadoop的安装过程中，是否无密码登陆不是必须的，但是如果不配置无密码登陆的话，每次启动hadoop，都需要输入密码以登陆到每台daotanode，考虑到一般的hadoop集群动辄数十数百台机器，因此一般来说都会配置ssh的无密码登陆。

安装运行Hadoop

介绍hadoop的安装之前，介绍一下hadoop对各个节点的角色定义。
   Hadoop按三类分别将主机划分为两种角色，首先，最基本的就是master和slave，主人与奴隶；第二，按hdfs的角度，将主机划分为namenode和datanode（在分布式文件系统中，目录的管理很重要，管理目录的就相当于主人，而namenode就是目录管理者）；第三，按mapreduce的角度，将主机划分为jobtracker和tasktracker（一个job经常被划分为多个task，从这个角度不难理解他们之间的关系）。
hadoop有官方发行版与cloudera版，其中cloudera版式hadoop的商用版本，这里笔者先介绍hadoop官方发行版的安装方法。
   （1）hadoop官方发行版
   Hadoop有三种运行方式，单节点方式，单机伪分布方式与集群方式。乍看之下，前两种方式并不能体现云计算的优势，在实际应用并没有什么意义，但是在程序的测试与调试中，还是很有意义的。
   你可以在以下地址获得hadoop的官方发行版
   http://www.apache.org/dyn/closer.cgi/hadoop/core/
   下载hadoop-0.20.2.tar.gz并将其解压，这里将其解压到用户目录下，一般为/home/[你的用户名]/。
   单节点配置方式：
   安装单节点的hadoop无需配置，在这种方式下，hadoop被认作为一个单独的java进程，这种方式经常用来调试。
   伪分布式hadoop配置：
   你可以把伪分布式的hadoop看作为一个只有一个节点的集群，在这个集群中，这歌节点既是master，也是slave；既是namenode也是datanode；既是jobtracker，也是tasktracker。
   配置伪分布的过程也很简单，只需要修改几个文件
   进入conf文件夹，修改配置文件：
   Hadoop-env.sh:
   export JAVA_HOME=“你的java安装地址”
   指定java位置：
   conf/core-site.xml:
<configuration>
     <property>
 <name>fs.default.name</name>
 <value>hdfs://localhost:9000</value>
     </property>
</configuration>
   这是hadoop核心的配置文件，这里配置的是hdfs（hadoop的分布式文件系统）的地址及端口号
   conf/hdfs-site.xml:
<configuration>
     <property>
 <name>dfs.replication</name>
 <value>1</value>
     </property>
</configuration>
   这是hadoop中hdfs的配置，配置的备份方式，默认为3，在单机版hadoop中，需要将其改为1
   conf/mapred-site.xml:
<configuration>
     <property>
 <name>mapred.job.tracker</name>
 <value>localhost:9001</value>
     </property>
</configuration>
   这是hadoop中mapreduce的配置文件，配置的是jobtracker的地址及端口
   需要注意的是，如果安装的是0.20之前的版本，那么只有一个配置文件，即为hadoop-site.xml。
   接下来，启动hadoop前，需格式化hadoop的文件系统hdfs（这点与windows是一样的，重新分区后的卷总是需要格式化的），进入hadoop文件夹
   输入命令：
   bin/hadoop namenode ?format
   格式化文件系统，接下来，启动hadoop
   输入命令：
   bin/start-all.sh（全部启动）
   最后，验证hadoop是否安装成功
   打开浏览器，分别输入网址
   http://localhost:50030 (mapreduce的web页面)
   http://localhost:50070 (hdfs的web页面)
   如果都能查看，说明hadoop已经安装成功。
   对于hadoop来说，mapreduce及hdfs都是必须的，但是如果有必要的话，你依然可以只启动hdfs（start-dfs.sh）或mapreduce（start-mapred.sh）。