从零自学Hadoop(04):Linux准备下
阅读目录
本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作。
文章是哥(mephisto)写的,SourceLink
序
我们已经准备好了网络访问,防火墙,Hosts,SSH等设置,下面我们根据上篇中的检查列表处理下剩下的内容,包括yum,时间同步,本地仓库等。
我们开始吧。
搭建环境
一:检查yum,出现了列表就说明已经安装。
rpm -qa|grep yum
二:修改yum源
由于国内网络的情况,所以尽量还是找点国内的镜像,或者比较快的国外镜像。
目前俺只找到一个源还行(上海交通大学的),不过大家有好的源,还是分享出来吧。
#进入目录
cd /etc/yum.repos.d/
#列表
ls -al
在这里我们就修改CentOS-Base.repo就可以了。
将原来的注释掉,然后加入baseurl=http://ftp.sjtu.edu.cn/centos/$releasever/os/$basearch/
vim CentOS-Base.repo
三:H30时间服务器安装
这里需要安装时间服务器,其他的服务器通过这个来进行多机器时间的同步。
yum install ntp
配置ntp.conf
vim /etc/ntp.conf将H30的本地时钟作为时间供给源,这样,即便它失去网络连接,它也可以继续为网络提供服务。
server 127.127.1.0
fudge 127.127.1.0 stratum如果集群是在一个封闭的局域网内,可以屏蔽掉默认的server。
#server .centos.pool.ntp.org iburst
#server .centos.pool.ntp.org iburst
#server .centos.pool.ntp.org iburst
#server .centos.pool.ntp.org iburst[restrict]参数设定方式:
restrict [address] mask [netmask_ip] [parameter]
其中parameter的参数主要有:
ignore : 拒绝所有类型的ntp连接
nomodify : 客户端不能使用ntpc与ntpq两支程式来修改服务器的时间参数
noquery : 客户端不能使用ntpq、ntpc等指令来查询服务器时间,等于不提供ntp的网络校时
notrap : 不提供trap这个远程时间登录的功能
notrust : 拒绝没有认证的客户端
nopeer : 不与其他同一层的ntp服务器进行时间同步restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap这一行的含义是授权192.168.1.0网段上的所有机器可以从这台机器上查询和同步时间。这里的配置涉及到了一些网络知识。 对于第一个参数[address] 它可能是一个IP,也可能是一个网段,这取决于后面给出的子网掩码。如果这里的子网掩码是255.255.255.255,那么配置就变成了只授权给IP是192.168.1.0的那一台机器连接!但是这里子网掩码是255.255.255.0,则此时的192.168.1.0就是一个网络标识了!它代表的是这样一个网段:192.168.1这个网段了。
启动ntp服务
#启动
service ntpd start
#开机启动
chkconfig ntpd on
#状态
service ntpd status
四:其他客户机配置
安装
修改ntp.conf
手动同步时间
这里暂时不要开ntpd服务,开了就不能手动同步了,因为使用同一个端口。
ntpdate 192.168.1.30
这里出一个思考题,学习得举一反三,掌握基本的原理,其他的只是组合搭配了。
ntpdate H30 行不行得通。
注:这里可以使用-u这样,就不用停止ntpd服务。就可以同步时间。
ntpdate -u 192.168.1.30然后,我们开启服务
#开启服务
service ntpd start
#开机启动
chkconfig ntpd on检查状态
ntpstat ntpq -p这两个命令都可以查看是否与H30同步了。
watch ntpq -p
这样,我们的时间同步就做到位了。
五:H30搭建本地仓库
那些库文件都不小,而且从yum上下,很多都不稳定,下的你开始怀疑自己的智商,所以,作为生产环境,我们还是辛苦点,一部到位,做个属于我们自己的本地仓库。
本篇下面的内容均是介绍本地仓库的搭建。这次我们搭建的是基于html的本地仓库。
六:安装httpd服务
httpd是Apache超文本传输协议(HTTP)服务器的主程序。被设计为一个独立运行的后台进程,它会建立一个处理请求的子进程或线程的池。
yum install httpdservice httpd start
chkconfig httpd on
我们打开浏览器,输入192.168.1.30
这样说明httpd服务正常运行。
七:安装createrepo
yum install createrepo
八:安装yum-utils
yum install yum-utils
九:拷贝资源文件
通过Xftp4将文件copy到/var/www/html/hdp目录,如果没有该目录,创建。
cd /var/www/html
ls -al
#创建hdp目录
mkdir hdp
开始Copy,这里使用的都是最新的hdp和ambari,大家是不是开始激动了。
这里主要是HDP-2.3.0.0-centos6-rpm.tar和HDP-UTILS-1.1.0.20-centos6.tar要拷贝进来,剧透下,后面我们使用ambari安装的时候,需要这两个库。
十:解压缩文件
tar zxvf HDP-2.3.0.0-centos6-rpm.tar.gz tar zxvf HDP-UTILS-1.1.0.20-centos6.tar.gz
我们可以明显的看到多了两个绿色的目录。
十一:创建基于html的创建源
在html的目录下,执行
createrepo hdp
执行完成后,我们可以看到hdp目录会多一个repodata的新目录。
-------------------------------------------------------------------------------
到此,我们这部分内容暂时落幕,剩下的本地库的留到下一章节补充完善。
系列索引
本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作。
文章是哥(mephisto)写的,SourceLink
从零自学Hadoop(04):Linux准备下的更多相关文章
- 从零自学Hadoop系列索引
本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephisto)写的,SourceLink 从零自学Hadoop(01):认识Hadoop ...
- 从零自学Hadoop(03):Linux准备上
阅读目录 序 检查列表 常用Linux命令 搭建环境 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephisto)写的,Sou ...
- 从零自学Hadoop(13):Hadoop命令下
阅读目录 序 MapReduce Commands User Commands Administration Commands YARN Commands User Commands Administ ...
- 从零自学Hadoop(21):HBase数据模型相关操作下
阅读目录 序 变量 数据模型操作 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephisto)写的,SourceLink 序 ...
- 从零自学Hadoop(17):Hive数据导入导出,集群数据迁移下
阅读目录 序 将查询的结果写入文件系统 集群数据迁移一 集群数据迁移二 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephis ...
- 从零自学Hadoop(25):Impala相关操作下
阅读目录 序 导入数据 查询 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephisto)写的,SourceLink 序 上一 ...
- 从零自学Hadoop(22):HBase协处理器
阅读目录 序 介绍 Observer操作 示例下载 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephisto)写的,Sour ...
- 从零自学Hadoop(01):认识Hadoop
本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephisto)写的,SourceLink 阅读目录 序 Hadoop 项目起源 优点 核心 ...
- 从零自学Hadoop(06):集群搭建
阅读目录 序 集群搭建 监控 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephisto)写的,SourceLink 序 上一 ...
随机推荐
- Centos7下修改mysql5.6编码方式 解决网站中文显示问号
解决办法: 修改MySQL数据库字符编码为UTF-8,UTF-8包含全世界所有国家需要用到的字符,是国际编码. 具体操作: 1.进入MySQL控制台 mysql -u root -p 输入密码 查看 ...
- CSS魔法堂:重拾Border之——更广阔的遐想
前言 当CSS3推出border-radius属性时我们是那么欣喜若狂啊,一想到终于不用再添加额外元素来模拟圆角了,但发现border-radius还分水平半径和垂直半径,然后又发现border-t ...
- linux下命令行操作快捷键及技巧
历史相关命令 !!:执行上一条命令 !num:执行历史命令中第num条命令 !-num:执行历史命令中倒数第num条命令 !?string?:执行最近一条包含有string字符串的命令 Ctrl+ ...
- 【C#】分享一个可携带附加消息的增强消息框MessageBoxEx
--------------201507160917更新--------------- 无意中发现标准消息框在Windows7是有声音的,只是在Windows server 2008(R2)无声,而我 ...
- C# 工作中遇到的几个问题
C# 工作中遇到的几个问题 1.将VS2010中的代码编辑器的默认字体“新宋体”改为“微软雅黑”后,代码的注释,很难对齐,特别是用SandCastle Help File Builder生成帮助文档 ...
- javascript中的两个定时函数setTimeOut()和setInterVal()的区别
js中经常性要用到间隔几秒或暂停几秒执行某个函数, 简单介绍我从网上收集到setTimeOut()和setInterVal()的区别1.setInterVal()介绍 1)定义 setInterval ...
- EC笔记,第二部分:6.若不想使用编译器默认生成的函数,就该明确拒绝
6.若不想使用编译器默认生成的函数,就该明确拒绝 1.有的时候不希望对象被复制和赋值,那么就把复制构造函数与赋值运算符放在private:中,但是这两个函数是否需要实现呢?假设实现了,那么你的类成员方 ...
- What does "size" in int(size) of MySQL mean?
What does "size" in int(size) of MySQL mean? https://alexander.kirk.at/2007/08/24/what-doe ...
- 房地产行业的商业智能BusinessIntelligence介绍
商业智能(BI)的需求 随着企业信息化程度的深入,企业内部对获取决策信息的效率.正确性.全面性和准确度的要求也越来越高.但是,伴之而来的却是繁多的报表和信息孤岛的出现,同时由于各 ...
- TouchPoint.js – 可视化展示 HTML 原型点击效果
TouchPoint.js 是一个用于 HTML 原型展示的 JavaScript 库(作为UX过程的一部分),通过视觉表现用户在屏幕上的点击.TouchPoint 是高度可定制,非常适合屏幕录制,用 ...