Hive架构原理

什么是Hive

• Hive是由Facebook开源用于解决海量结构化日志的数据统计；Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射 成一张表，并提供类SQL查询功能，底层计算引擎默认为Hadoop的MapReduce（本质是将sql转化成mapreduce程序），可以将引擎更换为Spark/Tez；

Hive架构

 

Hive架构.PNG

• 如图中所示，Hive通过给用户提供的一系列交互接口，接收到用户的指令(SQL)，使用自己的Driver，结合元数据(MetaStore)，将这些指令翻译成MapReduce，提交到Hadoop中执行，最后，将执行返回的结果输出到用户交互接口。
• 1）用户接口：Client
  • CLI（hive shell）、JDBC/ODBC(java访问hive)、WEBUI（浏览器访问hive）
• 2）元数据：Metastore
  • 元数据包括：表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、表的类型（是否是外部表）、表的数据所在目录等；
    默认存储在自带的derby数据库中，推荐使用MySQL存储Metastore
  • 推荐学习博客 数仓--Hive--元数据表结构学习
• 3）Hadoop
  • 使用HDFS进行存储，使用MapReduce进行计算。
• 4）驱动器：Driver
  （1）解析器（SQL Parser）：将SQL字符串转换成抽象语法树AST，这一步一般都用第三方工具库完成，比如antlr；对AST进行语法分析，比如表是否存在、字段是否存在、SQL语义是否有误。
  （2）编译器（Physical Plan）：将AST编译生成逻辑执行计划。
  （3）优化器（Query Optimizer）：对逻辑执行计划进行优化。
  （4）执行器（Execution）：把逻辑执行计划转换成可以运行的物理计划。对于Hive来说，就是MR/Spark。

Hive优点

• 操作接口采用类SQL语法，提供快速开发的能力(简单、容易上手)；
• 避免了去写MapReduce，减少开发人员的学习成本；
• 统一的元数据管理，可与impala/spark等共享元数据；
• 易扩展(HDFS+MapReduce：可以扩展集群规模；支持自定义函数)；

Hive使用场景

• 数据的离线处理；比如：日志分析，海量结构化数据离线分析…
• Hive的执行延迟比较高，因此hive常用于数据分析的，对实时性要求不高的场合；
• Hive优势在于处理大数据，对于处理小数据没有优势，因为Hive的执行延迟比较高。

Hive的执行流程

• HiveQL通过CLI/web UI或者thrift 、 odbc 或 jdbc接口的外部接口提交，经过complier编译器，运用Metastore中的元数据进行类型检测和语法分析，生成一个逻辑方案(logical plan),然后通过简单的优化处理，产生一个以有向无环图DAG数据结构形式展现的map-reduce任务。

SQL转化成MapReduce过程

• Hive是如何将SQL转化为MapReduce任务的，整个编译过程分为六个阶段：
  • 1-Antlr定义SQL的语法规则，完成SQL词法，语法解析，将SQL转化为抽象语法树AST Tree；
  • 2-遍历AST Tree，抽象出查询的基本组成单元QueryBlock；
  • 3-遍历QueryBlock，翻译为执行操作树OperatorTree；
  • 4-逻辑层优化器进行OperatorTree变换，合并不必要的ReduceSinkOperator，减少shuffle数据量；
  • 5-遍历OperatorTree，翻译为MapReduce任务；
  • 6-物理层优化器进行MapReduce任务的变换，生成最终的执行计划。