Linux下搭建hadoop开发环境-超详细
先决条件:开发机器需要联网
已安装java
已安装Desktop组
1、上传安装软件到linux上:

2、安装maven,用于管理项目依赖包:以hadoop用户安装apache-maven-3.0.5-bin.zip。
--解压安装文件到相应目录下:
[root@db07 opt]# chown -R hadoop:hadoop /opt/*
[hadoop@db07 opt]# mkdir bd_dev
[hadoop@db07 opt]# cd software/
[hadoop@db07 software]# unzip apache-maven-3.0.5-bin.zip
[hadoop@db07 software]# mv apache-maven-3.0.5 /opt/bd_dev/maven-3.0.5
[hadoop@db07 software]# cd /opt/bd_dev/maven-3.0.5/
--配置环境变量(sudo权限执行以下脚本):
echo "export MAVEN_HOME=/opt/bd_dev/maven-3.0.5" >> /etc/profile
echo "export PATH=$MAVEN_HOME/bin:$PATH" >> /etc/profile
source /etc/profile
检查配置情况:
mvn -version
配置maven仓库:
[hadoop@db07 ~]$ mkdir ~/.m2/
[hadoop@db07 software]$ tar -zxf repository.tar.gz -C ~/.m2/
[hadoop@db07 .m2]$ cp /opt/bd_dev/maven-3.0.5/conf/settings.xml .
[hadoop@db07 .m2]$ ll
total 16
drwxrwxr-x 56 hadoop hadoop 4096 Jun 24 2015 repository
-rw-r--r-- 1 hadoop hadoop 10224 Apr 19 13:35 settings.xml
3、安装eclipse:hadoop用户安装
[hadoop@db07 software]$ tar -zxf eclipse-jee-kepler-SR1-linux-gtk-x86_64.tar.gz -C /opt/bd_dev/
[hadoop@db07 software]$ cd /opt/bd_dev/eclipse/
[hadoop@db07 eclipse]$ ./eclipse --启动eclipse,然后图形界面配置eclipse
1)启动后在下图界面配置workspace工作目录,我把它放在/opt/bd_dev/workspace目录下,因为测试环境要部署应用比较多,所以我放置在同一目录下,方便管理。

2)启动后界面如下图所示:

3)因为eclipse启动要加载很多插件,所以部署后首先去掉无用插件:
点击Window->preferences,打开下图界面,并且在搜索栏输入start,选择startup and shutdown筛选出启动配置项,按图上指示操作后点击ok应用配置。

4、配置eclipse快捷键(Context Assist、Word Completion):在Window->preferences界面下。


5、配置eclipse与maven集成插件:指定maven目录为我们自己安装的目录。

6、至此CentOS 6.5上hadoop开发环境搭建完成了,下一步就要创建工程,如下图所示:

默认,next:

默认,next:

配置group id、artifact id、version三要素,然后finash完成工程创建:

7、创建开发配置文件目录(sources folder):

选择文件位置及配置文件名称,finash完成source floder创建:

以下内容配置sreources目录编译目标目录:

选择source->hadoop.hdfs/src/main/resources->output folder:hadoop.hdfs/target/classes,点击edit选择目标目录target/classes,点击ok完成工程创建。

Linux下搭建hadoop开发环境-超详细的更多相关文章
- 在Eclipse下搭建Hadoop开发环境
在前面的博文中博主展示了如何在虚拟机中搭建Hadoop的单节点伪分布集群,今天给大家介绍一下如何在Eclipse环境中搭建Hadoop的管理和开发环境,话不多说,下面我们就进入正题吧! 1.JDK安装 ...
- 【大数据系列】windows环境下搭建hadoop开发环境使用api进行基本操作
前言 搭建完hadoop集群之后在windows环境下搭建java项目进行测试 操作hdfs中的文件 版本一 package com.slp.hadoop274.hdfs; import java.i ...
- linux下搭建java开发环境
1 下载jdk包 这里下载.gz格式的,通过ftp上传到服务器 2 解压到指定目录,如/usr/java/ tar -xvf XXX.tar.gz 解压后会在/usr/java下生成一个目录,如jdk ...
- Linux下搭建PHP开发环境(LAMP)
LAMP:Linux+Apache+Mysql/MariaDB+Perl/PHP/Python 一键安装方法如下: 注:Ubuntu下可使用sudo su 命名切换到root用户. 开始安装之前,先执 ...
- linux 下搭建go开发环境
- ubuntu下搭建android开发环境之超顺畅模拟器
如果说android系统的卡,像耳边蚊子让人抓狂,那么android模拟器的卡,那就像午睡时的苍蝇.大概就是一样的恶心~~ 那么,这样的问题对于开发者肯定忍无可忍,我也一样,虽然我还没有入门,但我也一 ...
- 【Hadoop】:Windows下使用IDEA搭建Hadoop开发环境
笔者鼓弄了两个星期,终于把所有有关hadoop的环境配置好了,一是虚拟机上的完全分布式集群,但是为了平时写代码的方便,则在windows上也配置了hadoop的伪分布式集群,同时在IDEA上就可以编写 ...
- Linux 下搭建 Hadoop 环境
Linux 下搭建 Hadoop 环境 作者:Grey 原文地址: 博客园:Linux 下搭建 Hadoop 环境 CSDN:Linux 下搭建 Hadoop 环境 环境要求 操作系统:CentOS ...
- 【原创】windows下搭建vue开发环境+IIS部署
[原创]win10下搭建vue开发环境 如果要转发,请注明原作者和原产地,谢谢! 特别说明:下面任何命令都是在windows的命令行工具下进行输入,打开命令行工具的快捷方式如下图: 详细的安 ...
随机推荐
- Java实现策略模式的简单应用
在使用图像处理软件处理图片后,需要选择一种格式进行保存.然而各种格式在底层实现的算法并不相同,这刚好适合策略模式.编写程序,演示如何使用策略模式与简单工厂模式组合进行开发. 思路如下: 使用inter ...
- Python中的类(中)
上一篇介绍了Python中类相关的一些基本点,本文看看Python中类的继承和__slots__属性. 继承 在Python中,同时支持单继承与多继承,一般语法如下: class SubClassNa ...
- error:undefined reference to 'net_message_processor::net_message_processor()'
net_message_processor是我自己定义的一个类,文件名称分别是net_message_processor.h & net_message_processor.cpp 和CCD ...
- [原]如何为SqlServer2008数据库分配用户
前言: 当一个项目完成后,为了数据安全,总会对该项目的数据库分配一个用户,应该说总会创建一个用户来管理这个数据库,并且这个用户只能管理这个数据库.搞了好多次,每次都忘记怎么设置,所以写一篇博文记录一下 ...
- vc 使用ShellExecut来启动控制面板中功能模块的操作
文件夹,文件,网址可以创建快捷方式,控制面板 中的设置也可以创建快捷方式,下面是快捷方式的命令,使用方法:在桌面或文件夹的空白处点右键,选择新建,快捷方式,在“请键入项目的位置”输入下面的命 令,然后 ...
- 怎样在js中使用EL表达式
相信已经有很多人对如何在js中使用EL表达式存有困惑,各种引号的处理不胜其烦. 1.在js(嵌入jsp页面)中通过定义变量的方式使用EL表达式: 如:var url = '${param.url}'; ...
- HIGHGUI ERROR: V4L/V4L2: VIDIOC_S_CROP错误解决方法
在树莓派上运行在windows上正确的程序, 报错: HIGHGUI ERROR: V4L/V4L2: VIDIOC_S_CROP OpenCV Error: Assertion failed (s ...
- SharpGL学习笔记(四) 正射投影
上节谈到投影变换分为透视投影(perspective projection)和正射投影(orthographic projection)两种. 透视投影我们已经介绍过了, 现在谈谈正视投影. 正射投影 ...
- Window 命令行神器:cmder
http://cmder.net/ https://github.com/cmderdev/cmder/releases/ 官网下载地址 http://www.360doc.com/content ...
- mysql的root的权限被控制无法授权
一.环境: MariaDB [(none)]> select version(); +----------------+ | version() | +---------------- ...