hadoop hadoop-0.20.2-cdh3u4升级
[hadoop@lab02 ~]$ uname -a
Linux lab02 2.6.18-194.el5 #1 SMP Tue Mar 16 21:52:39 EDT 2010 x86_64 x86_64 x86_64 GNU/Linux
[hadoop@lab02 ~]$ hadoop dfsadmin -upgradeProgress status
There are no upgrades in progress.
备份相关信息
hadoop fs -lsr / > namenode_lsr.log
hadoop fsck / > namenode_fsck.log
nohup rsync -av filesystem/ ../hadoop_upgrade/filesystem/ &
分发软件
[hadoop@lab02 opdir]$ cat sync_hadoop_main.sh
#!/bin/bash
HOSTS="lab03 lab04 lab05 lab06 lab07 lab08 lab09 lab10 lab11 lab12 lab13"
cd /home/hadoop/hadoop-installed && rm hadoop && ln -s hadoop-0.20.2-cdh3u4 hadoop && chown hadoop.hadoop hadoop
for host in $HOSTS
do
echo rsync -av /home/hadoop/hadoop-installed/hadoop-1.2.1/ $host:/home/hadoop/hadoop-installed/hadoop-1.2.1/
rsync -av /home/hadoop/hadoop-installed/hadoop-1.2.1/ $host:/home/hadoop/hadoop-installed/hadoop-1.2.1/
done
cd /home/hadoop/hadoop-installed && rm -f hadoop && ln -s hadoop-1.2.1 hadoop
cd /home/hadoop/hadoop-installed/hadoop-1.2.1/contrib/streaming && ln -s hadoop-streaming-1.2.1.jar hadoop-streaming.jar
stop-all.sh
start-dfs.sh -upgrade
ssck -f allhost.lab -u root "cd /home/hadoop/hadoop-installed && rm hadoop && ln -s hadoop-0.20.2-cdh3u4 hadoop && chown hadoop.hadoop hadoop"
ssck -f allhost.lab -u root "cd /home/hadoop/hadoop-installed && rm hadoop && ln -s hadoop-1.2.1 hadoop && chown hadoop.hadoop hadoop"
ssck -f allhost.lab -u root "chmod 755 /home/hadoop/hadoop-installed/filesystem/dfs/data"
参考链接
http://dongxicheng.org/mapreduce-nextgen/hadoop-upgrade-in-version-1/
http://blog.pureisle.net/archives/1845.html
hadoop hadoop-0.20.2-cdh3u4升级的更多相关文章
- Hadoop 1.0 和 2.0 中的数据处理框架 - MapReduce
1. MapReduce - 映射.化简编程模型 1.1 MapReduce 的概念 1.1.1 map 和 reduce 1.1.2 shufftle 和 排序 MapReduce 保证每个 red ...
- hadoop 0.20.2伪分布式安装详解
adoop 0.20.2伪分布式安装详解 hadoop有三种运行模式: 伪分布式不需要安装虚拟机,在同一台机器上同时启动5个进程,模拟分布式. 完全分布式至少有3个节点,其中一个做master,运行名 ...
- hadoop历史版本,包括大名鼎鼎的hadoop 0.20.2
http://archive.apache.org/dist/hadoop/core/ 大名鼎鼎的hadoop 0.20.2在此: http://archive.apache.org/dist/had ...
- Hadoop 0.20.2+Ubuntu13.04配置和WordCount測试
事实上这篇博客写的有些晚了.之前做过一些总结后来学校的事给忘了,这几天想又一次拿来玩玩发现有的东西记不住了.翻博客发现居然没有.好吧,所以赶紧写一份留着自己用吧.这东西网上有非常多,只是也不是全然适用 ...
- hadoop 2.0 详细配置教程(转载)
转载: http://www.cnblogs.com/scotoma/archive/2012/09/18/2689902.html 作者:杨鑫奇 PS:文章有部分参考资料来自网上,并经过实践后写出, ...
- Hadoop 2.0 中的资源管理框架 - YARN(Yet Another Resource Negotiator)
1. Hadoop 2.0 中的资源管理 http://dongxicheng.org/mapreduce-nextgen/hadoop-1-and-2-resource-manage/ Hadoop ...
- [转] Hadoop 2.0 详细安装过程
1. 准备 创建用户 useradd hadoop passwd hadoop 创建相关的目录 定义代码及工具存放的路径 mkdir -p /home/hadoop/source mkdir -p / ...
- Hadoop 2.0 NameNode HA和Federation实践【转】
Hadoop 2.0 NameNode HA和Federation实践 Posted on 2012/12/10 一.背景 天云趋势在2012年下半年开始为某大型国有银行的历史交易数据备份及查询提供基 ...
- Hadoop 2.0中单点故障解决方案总结
Hadoop 1.0内核主要由两个分支组成:MapReduce和HDFS,众所周知,这两个系统的设计缺陷是单点故障,即MR的JobTracker和HDFS的NameNode两个核心服务均存在单点问题, ...
- Sqoop安装与使用(sqoop-1.4.5 on hadoop 1.0.4)
1.什么是Sqoop Sqoop即 SQL to Hadoop ,是一款方便的在传统型数据库与Hadoop之间进行数据迁移的工具,充分利用MapReduce并行特点以批处理的方式加快数据传输,发展至今 ...
随机推荐
- Leetcode#129 Sum Root to Leaf Numbers
原题地址 二叉树的遍历 代码: vector<int> path; int sumNumbers(TreeNode *root) { if (!root) ; ; path.push_ba ...
- linux centos yum 安装 rar
linux yum安装rar时,可能会出现无资源的错误,只需把配置好资源即可,具体操作如下: 1.# vi /etc/yum.repos.d/dag.repo 2.将以下内容写入文件中 [dag] n ...
- Spring中自动装配(转)
Spring中有四种自动装配类型,分别为:byName,byType,constructor,autodetect,下面来分别介绍一下这些是如何自动装配的 <bean id="foo& ...
- HDOJ 1220 Cube
CubeTime Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/32768 K (Java/Others)Total Submiss ...
- self._raiseerror(v) File "D:\GameDevelopment\Python27\lib\xml\etree\ElementTree.py", line 1506, in _raiseerror
D:\BaiDuYun\Plist>python unpack_plist.py lobbyRelieveTraceback (most recent call last): File &quo ...
- Too many levels of symbolic links 问题
Too many levels of symbolic links 问题 Posted on 2011-11-30 20:33 张贺 阅读(5826) 评论(0) 编辑 收藏 今天弄了个ZendStu ...
- linux shell的输出效果修改方法(界面颜色)
文本终端的颜色可以使用“ANSI非常规字符序列”来生成.举例: echo -e "\033[44;37;5m ME \033[0m COOL" 以上命令设置背景成为蓝色,前景白色, ...
- 微信公众号token的asp.net脚本
老板让我搞一个微信公众号.好吧.前面都很EZ,直到要使用一个token验证服务器的有效性. 看了下文档,大概意思就是微信的服务器用GET请求访问你的服务器. 其中包含了signature,nonce, ...
- POJ 1317
#include <iostream> #include <string> using namespace std; char p_code[] = {'_','a','b', ...
- DMS平台从.NET 1.1升级到.NET 4.0的升级步骤
1)复制新增的项目到4.0平台解决方案对应目录,添加到到解决方案中:2)合并公共文件(比如修改了FormMain主界面.基础类库.售后界面的修改)3)控件的修订(Dev少数属性可能需要手工调整为新的方 ...