Hadoop技术内幕-第一章 阅读原代码前的准备
1.1 源代码学习环境
1.1.1 基础软件的下载
JDK-http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
Ant-http://ant.apache.org/bindownload.cgi
Cygwin-http://www.cygwin.com/
Eclipse-http://www.eclipse.org/downloads/
1.1.2 Windows环境
D:\hadoop\ 包括apache-ant-1.9.6、cygwin、Java-jdk1.8.0_65
1.JDK安装
双击安装包将JDK安装到D:\hadoop\Java\下,配置环境变量JAVA_HOME、CLASSPATH、PATH
(1)环境变量
http://jingyan.baidu.com/article/d5a880eb6aca7213f047cc6c.html
(2)配置JAVA_HOME
(3)配置CLASSPATH
变量值:.;%JAVA_HOME%/lib/dt.jar;%JAVA_HOME%/lib/tools.jar;
(4)配置PATH
变量值:%JAVA_HOME%/bin;%JAVA_HOME%/jre/bin
配置完后,cmd运行java -version,输出以下内容,说明成功。
2.Ant安装
双击安装包将其解压到D:\hadoop\ ,新添加环境变量ANT_HOME。
配置完后,在cmd命令方式下输入:ant -version
出现问题:Unable to locate tools.jar. Expected to find it in D:\hadoop\Java\lib
ANT_HOME环境变量已经配置;
解决途径:将“D:\hadoop\Java\jdk1.8.0_65\lib”目录下的tools.jar文件拷贝到“D:\hadoop\Java\lib”目录下,重新运行命令ant,运行正常,问题解决。
3.Cygwin安装(类Unix环境)
(1)安装Cygwin
(2)安装并启动sshd服务
Hadoop启动/停止脚本需要通过ssh发送命令启动相关守护进程,为此安装sshd服务。
以管理员身份打开,
输入:ssh-host-config 按提示安装。
安装后,输入 net start sshd
4.Eclipse安装
直接安装到D:\hadoop\。
1.1.3 Linux环境
安装目录结构:
ROOT/home/dong/eclipse
/usr/lib/apache-ant-1.9.6
/jvm/jdk1.8.0_65
1.JDK安装与配置
步骤1: 安装JDk
(1) 在/usr/lib/下新建java文件夹
sudo mkdir java
(2) 将桌面上 jdk-8u65-linux-x64.tar.gz 拷贝到java文件夹下
sudo scp jdk-8u25-linux-i586.tar.gz /usr/lib/java/
(3) 解压jdk-8u65-linux-x64.tar.gz
sudo tar xzvf jdk-8u65-linux-x64.tar.gz
步骤2:配置JDK
打开~/.bashrc文件:sudo gedit ~/.bashrc
输入:
export JAVA_HOME=/usr/lib/java/jdk1.8.0_25
export JRE_HOME=/usr/lib/java/jdk1.8.0_25/jre
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$JAVA_HOME:$PATH
使~/.bashrc生效:source ~/.bashrc
检查java是否安装成功
输入:java -version
2.Ant以及Eclipse安装
(1)安装与配置Ant
步骤同JDK的操作
export Ant_HOME=/usr/lib/apache-ant-1.9.6
export PATH=$PATH:$ANT_HOME/bin
配置生效:source ~./bashrc
检查ant是否安装成功
输入:ant-version
(2)安装Eclipse
直接解压压缩包到/usr/lib/hadoop/
Hadoop技术内幕-第一章 阅读原代码前的准备的更多相关文章
- 强化学习 reinforcement learning: An Introduction 第一章, tic-and-toc 代码示例 (结构重建版,注释版)
强化学习入门最经典的数据估计就是那个大名鼎鼎的 reinforcement learning: An Introduction 了, 最近在看这本书,第一章中给出了一个例子用来说明什么是强化学习, ...
- 《Hadoop技术内幕》读书笔记——Task运行过程分析
本文是董西成的Hadoop技术内幕一书的读书章节总结. 第八章 Task运行过程分析 所有Task需要周期性地向TaskTracker汇报最新进度和计数器值,而这正是由Reporter组件实现的,其中 ...
- 2本Hadoop技术内幕电子书百度网盘下载:深入理解MapReduce架构设计与实现原理、深入解析Hadoop Common和HDFS架构设计与实现原理
这是我收集的两本关于Hadoop的书,高清PDF版,在此和大家分享: 1.<Hadoop技术内幕:深入理解MapReduce架构设计与实现原理>董西成 著 机械工业出版社2013年5月出 ...
- Hadoop技术内幕(YARN)第4章问题部分答案
问题1:改写DistributedShell程序,使得每个container运行在不同节点上(目前是随机的,可能运行在任意节点上). 问题2:改写DistributedShell程序,使得某个用户指定 ...
- Hadoop技术内幕1——源代码环境准备
Hadoop核心 1.HDFS:高容错性.高伸缩性……,允许用户将Hadoop部署在廉价的硬件上,构建分布式系统 2.MapReduce:分布式计算框架,允许用户在不了解分布式系统底层细节的情况下,开 ...
- 《Android深度探索HAL与驱动开发》第一章阅读心得
首先了解到Android系统架构是由四层构成:其中第一层是Linux内核,他的作用是负责Linux的驱动程序以及内存.进程.电源等管理操作:第二层是C/C++代码库,也就是Linux下.so的文件:第 ...
- [hadoop读书笔记] 第一章 初识 Hadoop
P3-P4: 目前遇见的问题很简单:硬盘容量不断提升,1TB的已成为主流,然而数据传输速度从1990年的4.4MB/s仅上升到当前约100MB/s 读取一个1TB的硬盘数据需要耗时至少2.5个小时.写 ...
- WCF技术内幕 第二章 - 简单的Message
1.契约 - 接口 (客户端和服务端都要认识Message) namespace WCFService { [ServiceContract(Namespace = "http://wint ...
- animal farm 第一章阅读笔记
chapter 1 Old Major's dream. paragraph 1 //Mr Jones is the mastor of the Manor Farm.That night ...
随机推荐
- [转] java集合详解
结合框架体系应该最重要的是如何灵活利用三种接口,set,map,list,他们如何遍历,各有什么特征,怎么样去处理,这是关键,在这个基础上再去掌握在什么场合用什么类型的接口.比如说list和set,s ...
- C++之路进阶——codevs1319(玩具装箱)
1319 玩具装箱 时间限制: 1 s 空间限制: 128000 KB 题目等级 : 钻石 Diamond 题目描述 Description P教授要去看奥运,但是他舍不下他的玩具,于是 ...
- CentOS 命令模式下设置静态IP
ASP.NET程序猿第一次修改IP,之前没有接触过Linux,有点伤不起... # cd /etc/sysconfig/network-scripts/ # ls 会看到 ifcfg-eth0 if ...
- 0512 Scrum 4.0
看板设计 每日例会时间定于下午放学回到宿舍,地点是在宿舍外的走廊或宿舍里,特殊情况待定: 团队开会照片 任务认领: 首页设计-------王俊杰 鸡汤版面-------列志华 论“汤”版面------ ...
- 白话LINQ系列2---以代码演进方式学习LINQ必备条件
今天,我们通过一个简单的示例代码的演进过程,来学习LINQ必备条件:隐式类型局部变量:对象集合初始化器:委托:匿名函数:lambda表达式:扩展方法:匿名类型.废话不多说,我们直接进入主题. 一.实现 ...
- 关于SSIS中解密数据库字符串的方法
此文章适合于SSIS新手,我是个小白,在繁复查阅资料后仍无果到最后解决问题,走了很多弯路,现在讲其中一些关于SSIS的理解写出来,供大家参考,在正文之前,我就我自己的理解,阐明一些概念. 什么是SSI ...
- React,js实现分页的案列
<!DOCTYPE html> <html lang="en"> <head> <meta charset="utf-8&quo ...
- RCP:如何移除Search对话框中不需要的项
前言 很久没写文章了,准备写一系列关于Eclipse RCP /Plugin的文章. 这些文章都是trouble shooting性质的,不准备写的很细,当你碰到这样的问题,google到时,能帮你把 ...
- Java程序员开发参考资源
构建 这里搜集了用来构建应用程序的工具. Apache Maven:Maven使用声明进行构建并进行依赖管理,偏向于使用约定而不是配置进行构建.Maven优于Apache Ant.后者采用了一种过程化 ...
- Zip it
https://www.codewars.com/kata/zip-it/train/csharp using System; using System.Collections.Generic; us ...