基于Hadoop2.0、YARN技术的大数据高阶应用实战(Hadoop2.0\YARN\Ma

Hadoop的前景

随着云计算、大数据迅速发展，亟需用hadoop解决大数据量高并发访问的瓶颈。谷歌、淘宝、百度、京东等底层都应用hadoop。越来越多的企 业急需引入hadoop技术人才。由于掌握Hadoop技术的开发人员并不多，直接导致了这几年hadoop技术的薪水远高于JavaEE及 Android程序员。

Hadoop入门薪资已经达到了8K以上，工作1年可达到1.2W以上，具有2-3年工作经验的hadoop人才年薪可以达到30万—50万。

一般需要大数据处理的公司基本上都是大公司，所以学习hadoop技术也是进大公司的捷径！

2课程内容简介

本课程基于《基于Greenplum Hadoop分布式平台的大数据解决方案》Hadoop部分的基础课程来进行扩展延伸，主要内容分为以下四部分：

一、对Hadoop最新的2.0系列版本和YARN进行介绍，掌握最前沿的Hadoop技术框架。

二、针对MapReduce和HBase的高阶应用做深入的讲解和实战演练。

三、讲解之前基础篇中未涉及的Hadoop子项目，包括Cassandra、Sqoop、Avatar、Mahout、Avro、Flume等

四、Hadoop与R结合应用、Hadoop源代码导读基础及最后的综合实战

适合对象：

1、要求具有一定的Linux和Java基础

2、要求具有一定SQL语言基础

3、学习完《基于Greenplum Hadoop分布式平台的大数据解决方案》Hadoop部分的基础课程

3课程大纲

Hadoop高阶应用课程（81课时）

Hadoop 2.0（6课时）

Hadoop 2.0产生背景

Hadoop 2.0基本构成

HDFS 2.0

MapReduce 2.0

Hadoop 2.0安装配置

集群测试

YARN资源管理系统（4课时）

YARN产生背景

YARN基本设计思想

YARN基本架构

YARN工作流程

YARN通信协议

YARN容错

YARN资源调度机制

YARN支持的计算框架（Storm，Tez，Spark）（11课时）

以YARN为核心的生态系统

Storm基本概念

Storm流式计算框架

基于YARN的Storm架构

YARN-Storm部署

Storm On YARN服务

Apache Tez介绍

Tez特点

Tez数据处理引擎

DAGAppMaster实现

Tez优化机制

Tez应用场景

Tez部署

什么是Spark

Spark生态系统

Spark的核心--RDD和Lineage

RDD的存储、容错机制、内部设计及数据模型

Spark调度框架

Spark的分布式部署方式

基于Mesos的Spark模式

基于YARN的Spark模式

Spark的独立模式部署

Spark的YARN模式部署

MapReduce多语言编程（5课时）

MapReduce编程接口

Java编程接口实例解析

Hadoop Streaming实现方式

Hadoop Streaming编程实战（C++，PHP，PYTHON）

Hadoop Streaming原理剖析

Hadoop Pipes的编程实例

Hadoop Pipes的原理剖析

MapReduce高阶实现（14课时）

复杂的MapReduce应用

K-means聚类、贝叶斯分类等

工作流编程实例及原理剖析

JobControl、ChainMapper/ChainReducer

Hadoop工作流引擎

常用MapReduce优化技巧

配置多个reducer

设置Stream的处理格式

控制分片的大小

避免分片

输入格式：文本输入、多种类型输入

输出控制：多个输出、延迟输出

实战：数据分区

MapReduce高级特性

计数器、内置计数器

实例：用户自定义计数器

MapReduce部分排序的实现

实例：MapReduce全排序

Terasort算法分析

实例：MapReduce实现二次排序

连接、Map端连接的实现

实例：Reduce端连接

连接类型、连接策略介绍

重分区连接框架的实现

复制连接框架的实现

实例：半连接

全局作业参数/数据文件传递

HBase编程实践及案例分析（10课时）

HBase基础精讲

HBase Java编程实例

HBase多语言编程

Thrift安装、服务配置

HBase C++编程实例

HBase Python编程实例

HBase MapReduce编程基础

实战：HBase MapReduce编程

Hbase案例：OpenTSDB的实现

基于HBase的爬虫调度库

基于HBase的爬虫索引库

银行人民币查询系统

Sqoop（6课时）

Sqoop产生背景、基本

Sqoop1和Sqoop2架构及特点

Sqoop1安装配置（版本1.4.4）

Sqoop导入介绍

实战：从mysql导入数据到HDFS

实战：从mysql导入数据到Hive

Sqoop导出介绍

实战：将Hive数据导出到Mysql

Sqoop与Hbase结合

Sqoop作业操作

Sqoop作业安全配置

Sqoop2安装配置（版本1.99.3）

Sqoop2使用综合实战

Flume日志收集系统（7课时）

Flume概念和特点

Flume OG架构、组成、特点、容错机制设计

日志收集系统综合比较

Flume NG架构、核心概念

Flume OG的安装

Flume OG的配置（Web端、Flume shell）

Flume NG的安装配置、测试

Flume NG模块配置（Source、Channel、Sink）

Flume NG配置实战分析

Avro数据序列化系统（1课时）

Avro介绍

Avro特性、主要作用

RPC使用Avro

Avro与其他序列化系统的区别

Mahout数据挖掘工具（10课时）

数据挖掘概念、系统组成

数据挖掘常用方法及算法（回归分析、分类、聚类等）

数据挖掘分析工具

Mahout支持的算法

Mahout起源和特点

Mahout安装、配置及测试

实战：Mahout K-means聚类分析

Mahout实现Canopy算法

Mahout实现分类算法

实战：Mahout逻辑回归分类预测

实战：Mahout朴素贝叶斯分类

推荐系统的概念及分类

协同过滤推荐算法概念、分类及应用

实战：实现基于Mahout的电影推荐系统

Hadoop综合实战-文本挖掘项目（7课时）

文本挖掘的概念及应用场景

项目背景

项目流程

中文分词技术

庖丁分词器的使用

MapReduce并行分词程序的设计与实现

Pig划分数据集

Mahout构建朴素贝叶斯文本分类器

模型应用-计算用户偏好类别