Linux下搭建hadoop开发环境-超详细
先决条件:开发机器需要联网
已安装java
已安装Desktop组
1、上传安装软件到linux上:

2、安装maven,用于管理项目依赖包:以hadoop用户安装apache-maven-3.0.5-bin.zip。
--解压安装文件到相应目录下:
[root@db07 opt]# chown -R hadoop:hadoop /opt/*
[hadoop@db07 opt]# mkdir bd_dev
[hadoop@db07 opt]# cd software/
[hadoop@db07 software]# unzip apache-maven-3.0.5-bin.zip
[hadoop@db07 software]# mv apache-maven-3.0.5 /opt/bd_dev/maven-3.0.5
[hadoop@db07 software]# cd /opt/bd_dev/maven-3.0.5/
--配置环境变量(sudo权限执行以下脚本):
echo "export MAVEN_HOME=/opt/bd_dev/maven-3.0.5" >> /etc/profile
echo "export PATH=$MAVEN_HOME/bin:$PATH" >> /etc/profile
source /etc/profile
检查配置情况:
mvn -version
配置maven仓库:
[hadoop@db07 ~]$ mkdir ~/.m2/
[hadoop@db07 software]$ tar -zxf repository.tar.gz -C ~/.m2/
[hadoop@db07 .m2]$ cp /opt/bd_dev/maven-3.0.5/conf/settings.xml .
[hadoop@db07 .m2]$ ll
total 16
drwxrwxr-x 56 hadoop hadoop 4096 Jun 24 2015 repository
-rw-r--r-- 1 hadoop hadoop 10224 Apr 19 13:35 settings.xml
3、安装eclipse:hadoop用户安装
[hadoop@db07 software]$ tar -zxf eclipse-jee-kepler-SR1-linux-gtk-x86_64.tar.gz -C /opt/bd_dev/
[hadoop@db07 software]$ cd /opt/bd_dev/eclipse/
[hadoop@db07 eclipse]$ ./eclipse --启动eclipse,然后图形界面配置eclipse
1)启动后在下图界面配置workspace工作目录,我把它放在/opt/bd_dev/workspace目录下,因为测试环境要部署应用比较多,所以我放置在同一目录下,方便管理。

2)启动后界面如下图所示:

3)因为eclipse启动要加载很多插件,所以部署后首先去掉无用插件:
点击Window->preferences,打开下图界面,并且在搜索栏输入start,选择startup and shutdown筛选出启动配置项,按图上指示操作后点击ok应用配置。

4、配置eclipse快捷键(Context Assist、Word Completion):在Window->preferences界面下。


5、配置eclipse与maven集成插件:指定maven目录为我们自己安装的目录。

6、至此CentOS 6.5上hadoop开发环境搭建完成了,下一步就要创建工程,如下图所示:

默认,next:

默认,next:

配置group id、artifact id、version三要素,然后finash完成工程创建:

7、创建开发配置文件目录(sources folder):

选择文件位置及配置文件名称,finash完成source floder创建:

以下内容配置sreources目录编译目标目录:

选择source->hadoop.hdfs/src/main/resources->output folder:hadoop.hdfs/target/classes,点击edit选择目标目录target/classes,点击ok完成工程创建。

Linux下搭建hadoop开发环境-超详细的更多相关文章
- 在Eclipse下搭建Hadoop开发环境
在前面的博文中博主展示了如何在虚拟机中搭建Hadoop的单节点伪分布集群,今天给大家介绍一下如何在Eclipse环境中搭建Hadoop的管理和开发环境,话不多说,下面我们就进入正题吧! 1.JDK安装 ...
- 【大数据系列】windows环境下搭建hadoop开发环境使用api进行基本操作
前言 搭建完hadoop集群之后在windows环境下搭建java项目进行测试 操作hdfs中的文件 版本一 package com.slp.hadoop274.hdfs; import java.i ...
- linux下搭建java开发环境
1 下载jdk包 这里下载.gz格式的,通过ftp上传到服务器 2 解压到指定目录,如/usr/java/ tar -xvf XXX.tar.gz 解压后会在/usr/java下生成一个目录,如jdk ...
- Linux下搭建PHP开发环境(LAMP)
LAMP:Linux+Apache+Mysql/MariaDB+Perl/PHP/Python 一键安装方法如下: 注:Ubuntu下可使用sudo su 命名切换到root用户. 开始安装之前,先执 ...
- linux 下搭建go开发环境
- ubuntu下搭建android开发环境之超顺畅模拟器
如果说android系统的卡,像耳边蚊子让人抓狂,那么android模拟器的卡,那就像午睡时的苍蝇.大概就是一样的恶心~~ 那么,这样的问题对于开发者肯定忍无可忍,我也一样,虽然我还没有入门,但我也一 ...
- 【Hadoop】:Windows下使用IDEA搭建Hadoop开发环境
笔者鼓弄了两个星期,终于把所有有关hadoop的环境配置好了,一是虚拟机上的完全分布式集群,但是为了平时写代码的方便,则在windows上也配置了hadoop的伪分布式集群,同时在IDEA上就可以编写 ...
- Linux 下搭建 Hadoop 环境
Linux 下搭建 Hadoop 环境 作者:Grey 原文地址: 博客园:Linux 下搭建 Hadoop 环境 CSDN:Linux 下搭建 Hadoop 环境 环境要求 操作系统:CentOS ...
- 【原创】windows下搭建vue开发环境+IIS部署
[原创]win10下搭建vue开发环境 如果要转发,请注明原作者和原产地,谢谢! 特别说明:下面任何命令都是在windows的命令行工具下进行输入,打开命令行工具的快捷方式如下图: 详细的安 ...
随机推荐
- C#中的Abstract、Virtual、Interface理解
容易混淆是必须的,都是与继承有关系,并且涉及到override的使用 一.Virtual方法(虚方法) virtual 关键字用于在基类中修饰方法.virtual的使用会有两种情况: 情况1:在基类中 ...
- Linux oracle数据库创建表空间、用户并赋予权限
管理员用户登录oracle数据库 1.创建临时表空间 select name from v$tempfile;查出当前数据库临时表空间,主要是使用里面的存放路径: 得到其中一条记录/opt/oracl ...
- 【代码审计】ThinkSNS_V4 任意文件下载漏洞分析
0x00 环境准备 ThinkSNS官网:http://www.thinksns.com 网站源码版本:ThinkSNS V4 更新时间:2017-09-13 程序源码下载:http://www ...
- Bypass 360主机卫士SQL注入防御(多姿势)
0x00 前言 在服务器客户端领域,曾经出现过一款360主机卫士,目前已停止更新和维护,官网都打不开了,但服务器中依然经常可以看到它的身影.从半年前的测试虚拟机里面,翻出了360主机卫士Apache版 ...
- windows本地hash值获取和破解详解
powershell版的procdump https://www.t00ls.net/articles-48428.html procdump procdump是微软官方提供的一个小工具, 微软官方下 ...
- 一句话shell
作者:NetSeek1.删除0字节文件find -type f -size 0 -exec rm -rf {} \; 2.查看进程按内存从大到小排列ps -e -o "%C : %p : % ...
- Expected BEGIN_OBJECT but was BEGIN_ARRAY at line 1 column 2
原因是解析的时候多了,逗号,或是 \ 解决方法:一 revJson=revJson.replace("\\", "");//去掉'/' revJson=revJ ...
- iOS - 直播总结(理论到实践)
一.直播原理及流程 1.一个完整直播app原理 直播原理:把主播录制的视频,推送到服务器,在由服务器分发给观众观看. 直播环节:推流端(采集.美颜处理.编码.推流).服务端处理(转码.录制.截图.鉴黄 ...
- 如何用微信小程序模仿豆瓣首页
程序思路: 用微信自带组件swiper来实现轮播图 用豆瓣提供的api(这里使用的电影api)来获取最近的电影数据[豆瓣api地址] 获取数据用微信的request方法,只需要提供豆瓣api的url链 ...
- Web编辑器的使用
1.复制web编辑器到你的项目中的表现层(UI) 2.添加引用:FredCK.FCKeditorV2.dll到你的项目中来 3.页面中加引用 <%@ Register TagPrefix=&qu ...