Hadoop技术内幕-第一章 阅读原代码前的准备
1.1 源代码学习环境
1.1.1 基础软件的下载
JDK-http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
Ant-http://ant.apache.org/bindownload.cgi
Cygwin-http://www.cygwin.com/
Eclipse-http://www.eclipse.org/downloads/
1.1.2 Windows环境
D:\hadoop\ 包括apache-ant-1.9.6、cygwin、Java-jdk1.8.0_65
1.JDK安装
双击安装包将JDK安装到D:\hadoop\Java\下,配置环境变量JAVA_HOME、CLASSPATH、PATH
(1)环境变量
http://jingyan.baidu.com/article/d5a880eb6aca7213f047cc6c.html
(2)配置JAVA_HOME

(3)配置CLASSPATH
变量值:.;%JAVA_HOME%/lib/dt.jar;%JAVA_HOME%/lib/tools.jar;

(4)配置PATH
变量值:%JAVA_HOME%/bin;%JAVA_HOME%/jre/bin

配置完后,cmd运行java -version,输出以下内容,说明成功。

2.Ant安装
双击安装包将其解压到D:\hadoop\ ,新添加环境变量ANT_HOME。

配置完后,在cmd命令方式下输入:ant -version
出现问题:Unable to locate tools.jar. Expected to find it in D:\hadoop\Java\lib
ANT_HOME环境变量已经配置;
解决途径:将“D:\hadoop\Java\jdk1.8.0_65\lib”目录下的tools.jar文件拷贝到“D:\hadoop\Java\lib”目录下,重新运行命令ant,运行正常,问题解决。

3.Cygwin安装(类Unix环境)
(1)安装Cygwin









(2)安装并启动sshd服务
Hadoop启动/停止脚本需要通过ssh发送命令启动相关守护进程,为此安装sshd服务。
以管理员身份打开,

输入:ssh-host-config 按提示安装。
安装后,输入 net start sshd
4.Eclipse安装
直接安装到D:\hadoop\。
1.1.3 Linux环境
安装目录结构:
ROOT/home/dong/eclipse
/usr/lib/apache-ant-1.9.6
/jvm/jdk1.8.0_65
1.JDK安装与配置
步骤1: 安装JDk
(1) 在/usr/lib/下新建java文件夹
sudo mkdir java
(2) 将桌面上 jdk-8u65-linux-x64.tar.gz 拷贝到java文件夹下
sudo scp jdk-8u25-linux-i586.tar.gz /usr/lib/java/
(3) 解压jdk-8u65-linux-x64.tar.gz
sudo tar xzvf jdk-8u65-linux-x64.tar.gz
步骤2:配置JDK
打开~/.bashrc文件:sudo gedit ~/.bashrc
输入:
export JAVA_HOME=/usr/lib/java/jdk1.8.0_25
export JRE_HOME=/usr/lib/java/jdk1.8.0_25/jre
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$JAVA_HOME:$PATH
使~/.bashrc生效:source ~/.bashrc
检查java是否安装成功
输入:java -version
2.Ant以及Eclipse安装
(1)安装与配置Ant
步骤同JDK的操作
export Ant_HOME=/usr/lib/apache-ant-1.9.6
export PATH=$PATH:$ANT_HOME/bin
配置生效:source ~./bashrc
检查ant是否安装成功
输入:ant-version
(2)安装Eclipse
直接解压压缩包到/usr/lib/hadoop/
Hadoop技术内幕-第一章 阅读原代码前的准备的更多相关文章
- 强化学习 reinforcement learning: An Introduction 第一章, tic-and-toc 代码示例 (结构重建版,注释版)
强化学习入门最经典的数据估计就是那个大名鼎鼎的 reinforcement learning: An Introduction 了, 最近在看这本书,第一章中给出了一个例子用来说明什么是强化学习, ...
- 《Hadoop技术内幕》读书笔记——Task运行过程分析
本文是董西成的Hadoop技术内幕一书的读书章节总结. 第八章 Task运行过程分析 所有Task需要周期性地向TaskTracker汇报最新进度和计数器值,而这正是由Reporter组件实现的,其中 ...
- 2本Hadoop技术内幕电子书百度网盘下载:深入理解MapReduce架构设计与实现原理、深入解析Hadoop Common和HDFS架构设计与实现原理
这是我收集的两本关于Hadoop的书,高清PDF版,在此和大家分享: 1.<Hadoop技术内幕:深入理解MapReduce架构设计与实现原理>董西成 著 机械工业出版社2013年5月出 ...
- Hadoop技术内幕(YARN)第4章问题部分答案
问题1:改写DistributedShell程序,使得每个container运行在不同节点上(目前是随机的,可能运行在任意节点上). 问题2:改写DistributedShell程序,使得某个用户指定 ...
- Hadoop技术内幕1——源代码环境准备
Hadoop核心 1.HDFS:高容错性.高伸缩性……,允许用户将Hadoop部署在廉价的硬件上,构建分布式系统 2.MapReduce:分布式计算框架,允许用户在不了解分布式系统底层细节的情况下,开 ...
- 《Android深度探索HAL与驱动开发》第一章阅读心得
首先了解到Android系统架构是由四层构成:其中第一层是Linux内核,他的作用是负责Linux的驱动程序以及内存.进程.电源等管理操作:第二层是C/C++代码库,也就是Linux下.so的文件:第 ...
- [hadoop读书笔记] 第一章 初识 Hadoop
P3-P4: 目前遇见的问题很简单:硬盘容量不断提升,1TB的已成为主流,然而数据传输速度从1990年的4.4MB/s仅上升到当前约100MB/s 读取一个1TB的硬盘数据需要耗时至少2.5个小时.写 ...
- WCF技术内幕 第二章 - 简单的Message
1.契约 - 接口 (客户端和服务端都要认识Message) namespace WCFService { [ServiceContract(Namespace = "http://wint ...
- animal farm 第一章阅读笔记
chapter 1 Old Major's dream. paragraph 1 //Mr Jones is the mastor of the Manor Farm.That night ...
随机推荐
- 函数类型+WINAPI+函数名(例如inline DWORD static WINAPI RecordToKeys(const DRWT& theDRWT,WTSBH* pKey,DWORD dwMaxNum)
winapi标识符在WINDEF.H定义,语句如下: #define winapi __stdcall 让我们说说这个__stdcall stdcall调用约定 stdcall很多时候被称为pasca ...
- [翻译] 为什么Uber的数据库从Postgres 切换到 MySql
Uber工程师团队发布了一个重要的博客文章:他们的数据库从Postgres从移动到MySQL.毫不夸张地说,阅读这篇文章是一种享受,特别是因为他们提到这些细节:磁盘格式和那对他们2个数据库的表现的影响 ...
- c/c++ 数据结构 链表插入数据代码(二)
如果参数传递不使用使用指针的指针,也不使用引用. #include <stdio.h> #include <stdlib.h> typedef struct LNode{ in ...
- Linux系统巡检常用命令
# uname -a # 查看内核/操作系统/CPU信息 # head -n 1 /etc/issue # 查看操作系统版本 # cat /proc/cpuinfo # 查看CPU信息 # hostn ...
- 修改yv12像素值
YV12内存布局 1 unsigned char *pY = (unsigned char *)pBuf; unsigned char *pV = pY + nWidth * nHeight; uns ...
- Unity随机随学
1.什么是渲染管道? 是指在显示器上为了显示出图像而经过的一系列必要操作.渲染管道中的步骤很多,都要将几何物体从一个坐标系中变换到另一个坐标系中去. 主要步骤有: 本地坐标->视图坐标-> ...
- Dynamics AX 2012 R2 RemoteApp导出项目报错
今天,Reinhard使用RemoteApp的方式登陆AX开发环境,对项目文件进行修改后,习惯性地将项目导出到Reinhard的电脑上,做个备份.但是导出时弹出错误提示框,报以下错误: ...
- servlet定义
. 运行在服务器上的java类
- nginx 配置文件备份
1. /etc/nginx/sites-enabled/default 的原始文件 # You may add here your # server { # ... # } # statements ...
- mys.cnf-性能优化
MYSQL服务器my.cnf配置文档详解 硬件:内存16G [client] port = socket = /data//mysql.sock [mysql] no-auto-rehash [mys ...