hadoop hadoop-0.20.2-cdh3u4升级
[hadoop@lab02 ~]$ uname -a
Linux lab02 2.6.18-194.el5 #1 SMP Tue Mar 16 21:52:39 EDT 2010 x86_64 x86_64 x86_64 GNU/Linux
[hadoop@lab02 ~]$ hadoop dfsadmin -upgradeProgress status
There are no upgrades in progress.
备份相关信息
hadoop fs -lsr / > namenode_lsr.log
hadoop fsck / > namenode_fsck.log
nohup rsync -av filesystem/ ../hadoop_upgrade/filesystem/ &
分发软件
[hadoop@lab02 opdir]$ cat sync_hadoop_main.sh
#!/bin/bash
HOSTS="lab03 lab04 lab05 lab06 lab07 lab08 lab09 lab10 lab11 lab12 lab13"
cd /home/hadoop/hadoop-installed && rm hadoop && ln -s hadoop-0.20.2-cdh3u4 hadoop && chown hadoop.hadoop hadoop
for host in $HOSTS
do
echo rsync -av /home/hadoop/hadoop-installed/hadoop-1.2.1/ $host:/home/hadoop/hadoop-installed/hadoop-1.2.1/
rsync -av /home/hadoop/hadoop-installed/hadoop-1.2.1/ $host:/home/hadoop/hadoop-installed/hadoop-1.2.1/
done
cd /home/hadoop/hadoop-installed && rm -f hadoop && ln -s hadoop-1.2.1 hadoop
cd /home/hadoop/hadoop-installed/hadoop-1.2.1/contrib/streaming && ln -s hadoop-streaming-1.2.1.jar hadoop-streaming.jar
stop-all.sh
start-dfs.sh -upgrade
ssck -f allhost.lab -u root "cd /home/hadoop/hadoop-installed && rm hadoop && ln -s hadoop-0.20.2-cdh3u4 hadoop && chown hadoop.hadoop hadoop"
ssck -f allhost.lab -u root "cd /home/hadoop/hadoop-installed && rm hadoop && ln -s hadoop-1.2.1 hadoop && chown hadoop.hadoop hadoop"
ssck -f allhost.lab -u root "chmod 755 /home/hadoop/hadoop-installed/filesystem/dfs/data"
参考链接
http://dongxicheng.org/mapreduce-nextgen/hadoop-upgrade-in-version-1/
http://blog.pureisle.net/archives/1845.html
hadoop hadoop-0.20.2-cdh3u4升级的更多相关文章
- Hadoop 1.0 和 2.0 中的数据处理框架 - MapReduce
1. MapReduce - 映射.化简编程模型 1.1 MapReduce 的概念 1.1.1 map 和 reduce 1.1.2 shufftle 和 排序 MapReduce 保证每个 red ...
- hadoop 0.20.2伪分布式安装详解
adoop 0.20.2伪分布式安装详解 hadoop有三种运行模式: 伪分布式不需要安装虚拟机,在同一台机器上同时启动5个进程,模拟分布式. 完全分布式至少有3个节点,其中一个做master,运行名 ...
- hadoop历史版本,包括大名鼎鼎的hadoop 0.20.2
http://archive.apache.org/dist/hadoop/core/ 大名鼎鼎的hadoop 0.20.2在此: http://archive.apache.org/dist/had ...
- Hadoop 0.20.2+Ubuntu13.04配置和WordCount測试
事实上这篇博客写的有些晚了.之前做过一些总结后来学校的事给忘了,这几天想又一次拿来玩玩发现有的东西记不住了.翻博客发现居然没有.好吧,所以赶紧写一份留着自己用吧.这东西网上有非常多,只是也不是全然适用 ...
- hadoop 2.0 详细配置教程(转载)
转载: http://www.cnblogs.com/scotoma/archive/2012/09/18/2689902.html 作者:杨鑫奇 PS:文章有部分参考资料来自网上,并经过实践后写出, ...
- Hadoop 2.0 中的资源管理框架 - YARN(Yet Another Resource Negotiator)
1. Hadoop 2.0 中的资源管理 http://dongxicheng.org/mapreduce-nextgen/hadoop-1-and-2-resource-manage/ Hadoop ...
- [转] Hadoop 2.0 详细安装过程
1. 准备 创建用户 useradd hadoop passwd hadoop 创建相关的目录 定义代码及工具存放的路径 mkdir -p /home/hadoop/source mkdir -p / ...
- Hadoop 2.0 NameNode HA和Federation实践【转】
Hadoop 2.0 NameNode HA和Federation实践 Posted on 2012/12/10 一.背景 天云趋势在2012年下半年开始为某大型国有银行的历史交易数据备份及查询提供基 ...
- Hadoop 2.0中单点故障解决方案总结
Hadoop 1.0内核主要由两个分支组成:MapReduce和HDFS,众所周知,这两个系统的设计缺陷是单点故障,即MR的JobTracker和HDFS的NameNode两个核心服务均存在单点问题, ...
- Sqoop安装与使用(sqoop-1.4.5 on hadoop 1.0.4)
1.什么是Sqoop Sqoop即 SQL to Hadoop ,是一款方便的在传统型数据库与Hadoop之间进行数据迁移的工具,充分利用MapReduce并行特点以批处理的方式加快数据传输,发展至今 ...
随机推荐
- matrix_last_acm_3
the first CCPC password 123 A http://acm.hust.edu.cn/vjudge/contest/view.action?cid=97380#problem/ ...
- while小问题
while(!m_SMque.pop(data)); 看到这个有点忘了,如果pop返回false会一直执行pop,其实这个执行的是空语句,而while每次执行都需要判断条件,所以如果pop返回fals ...
- 响应式嵌入 iframe Pym.js
Pym.js 可以让你在嵌入 iframe 的时候可自动的对 iframe 的大小进行调整以适应父一层容器,并且可以避免跨域问题. 支持浏览器: Internet Explorer 9, 10 (Wi ...
- aspx文件、aspx.cs文件、aspx.designer.cs文件之讲解
.aspx文件:(页面)书写页面代码.存储的是页面design代码.只是放各个控件的代码,处理代码一般放在.cs文件中. .aspx.cs文件:(代码隐藏页)书写类代码.存储的是程序代码.一般存放与数 ...
- https+ssl详解
这是转载别人的写的很好,(转:崔永秀) 把这几天学习到的关于ssl和https协议的内容在这里分享一下,适合一些像我一样的网络协议初学者. ssl协议的起源和历史我就不再多说了,就是那个Netscap ...
- 说说php取余运算(%)的那点事
http://www.phpddt.com/php/php-take-over.html fmod()与 % 区别 都是取余 fmod是函数 原型float fmod(float x, ...
- Coder-Strike 2014 - Finals (online edition, Div. 2) C题
C. Online Meeting time limit per test 1 second memory limit per test 256 megabytes input standard in ...
- javascript 最常用的技巧整理
1. oncontextmenu="window.event.returnValue=false" 将彻底屏蔽鼠标右键<table border oncontextmenu= ...
- Twitter注册
Twitter注册 - (一般分享不了是回调地址不对) 1.打开twitter的官网https://dev.twitter.com,如果还没有注册账号的,需要注册账号,已经注册账号的,请先登录: 2. ...
- java 分割split
1.如果用“.”作为分隔的话,必须是如下写法:String.split("\\."),这样才能正确的分隔开,不能用String.split(".");2.如果用 ...