CM记录-配置Hive on Spark
默认hive on spark是禁用的,需要在Cloudera Manager中启用。
1.登录CM界面,打开hive服务。
2.单击 配置标签,查找enable hive on spark属性。
3.勾选Enbale Hive on Spark(Unsupported),并保存更改。
4.查找Spark on YARN 服务,并勾选保存。
5.保存后,重新部署下客户端使其生效。
在Spark上配置Hive
- 配置Hive客户端中所述使用Spark执行引擎配置单元执行引擎。
 set hive.execution.engine=spark;
set hive.execution.engine;
- 确定Hive使用的Spark服务。Cloudera Manager自动将其设置为已配置的MapReduce或YARN服务以及已配置的Spark服务。请参阅配置Spark服务的Hive依赖关系。
 
配置Spark服务的Hive依赖关系
默认情况下,如果Spark服务可用,则配置Spark服务上的Hive依赖项。要更改此配置,请执行以下操作:
- 在Cloudera Manager管理控制台中,转至Hive服务。
 - 单击配置选项卡。
 - 在YARN服务上搜索Spark。要配置Spark服务,请选择Spark服务名称。要删除依赖项,请选择none。
 - 单击保存更改。
 - 转到Spark服务。
 - 将Spark网关角色添加到运行HiveServer2的主机。
 - 点击Cloudera Manager徽标返回主页。
 - 单击
任何陈旧的服务旁边的图标以调用集群重新启动向导。
 - 单击重新启动旧服务。
 - 单击立即重新启动。
 - 单击完成。
 - 在Hive客户端中,配置Spark执行引擎。
 
参考:https://www.cloudera.com/documentation/enterprise/latest/topics/admin_hos_oview.html#concept_i22_l1h_1v__section_k22_l1h_1v
CM记录-配置Hive on Spark的更多相关文章
- Hive on Spark安装配置详解(都是坑啊)
		
个人主页:http://www.linbingdong.com 简书地址:http://www.jianshu.com/p/a7f75b868568 简介 本文主要记录如何安装配置Hive on Sp ...
 - 大数据学习系列之九---- Hive整合Spark和HBase以及相关测试
		
前言 在之前的大数据学习系列之七 ----- Hadoop+Spark+Zookeeper+HBase+Hive集群搭建 中介绍了集群的环境搭建,但是在使用hive进行数据查询的时候会非常的慢,因为h ...
 - Mac OSX系统中Hadoop / Hive 与 spark 的安装与配置 环境搭建 记录
		
Mac OSX系统中Hadoop / Hive 与 spark 的安装与配置 环境搭建 记录 Hadoop 2.6 的安装与配置(伪分布式) 下载并解压缩 配置 .bash_profile : ...
 - Hive记录-配置远程连接(JAVA/beeline)
		
1.修改配置hive-site.xml hadoop core-site.xml限制---参考Hive记录-部署Hive环境 2.启动hadoop #sh /usr/app/hadoop/sbi ...
 - 基于CDH 5.9.1 搭建 Hive on Spark 及相关配置和调优
		
Hive默认使用的计算框架是MapReduce,在我们使用Hive的时候通过写SQL语句,Hive会自动将SQL语句转化成MapReduce作业去执行,但是MapReduce的执行速度远差与Spark ...
 - hive on spark配置
		
1.安装java.maven.scala.hadoop.mysql.hive 略 2.编译spark ./make-distribution.sh --name "hadoop2-witho ...
 - Hive记录-Hive on Spark环境部署
		
1.hive执行引擎 Hive默认使用MapReduce作为执行引擎,即Hive on mr.实际上,Hive还可以使用Tez和Spark作为其执行引擎,分别为Hive on Tez和Hive on ...
 - spark 2.0.0集群安装与hive on spark配置
		
1. 环境准备: JDK1.8 hive 2.3.4 hadoop 2.7.3 hbase 1.3.3 scala 2.11.12 mysql5.7 2. 下载spark2.0.0 cd /home/ ...
 - Spark记录-源码编译spark2.2.0(结合Hive on Spark/Hive on MR2/Spark on Yarn)
		
#spark2.2.0源码编译 #组件:mvn-3.3.9 jdk-1.8 #wget http://mirror.bit.edu.cn/apache/spark/spark-2.2.0/spark- ...
 
随机推荐
- [C#]使用Label标签控件模拟窗体标题的移动及窗体颜色不断变换
			
本文为原创文章.源代码为原创代码,如转载/复制,请在网页/代码处明显位置标明原文名称.作者及网址,谢谢! 开发工具:VS2017 语言:C# DotNet版本:.Net FrameWork 4.0及以 ...
 - 取两张mysql表中分别两个字段相同的值
			
看起来有点绕口吧,举个例子吧,如图 两张表,字段名也不同字段gs 和另一张表 gsmc 的有些值是相同的 我们要做的就是把这个相同的值找出来 会写这个sql语句就可以 只写重点 $sql2 = &q ...
 - Asp.Net_优化
			
ASP.NET: 一.返回多个数据集 检查你的访问数据库的代码,看是否存在着要返回多次的请求.每次往返降低了你的应用程序的每秒能够响应请求的次数.通过在单个数据库请求中返回多个结果集,可以减少与数据库 ...
 - 微软职位内部推荐-Sr. SW Engineer for Privacy Id
			
微软近期Open的职位: Job posting title: Senior Software Engineer for Privacy Identification Profession: Engi ...
 - 原生 JavaScript 实现 AJAX、JSONP
			
相信大多数前端开发者在需要与后端进行数据交互时,为了方便快捷,都会选择JQuery中封装的AJAX方法,但是有些时候,我们只需要JQuery的AJAX请求方法,而其他的功能用到的很少,这显然是没必要的 ...
 - 使用不同的namespace让不同的kafka/Storm连接同一个zookeeper
			
背景介绍: 需要部署2个kafka独立环境,但是只有一个zookeeper集群. 需要部署2个独立的storm环境,但是只有一个zookeeper集群. ----------------------- ...
 - T检验在项目上的具体实施
			
我觉得 T 检验,应该用在 判断某种仿真条件因素 对碳纳米管的随机性 是否有显著影响 上.所以不是针对<相同仿真条件对不同源的影响>这个表中的数据做 T 检验 如:判断 金属/半导体比率 ...
 - Linux命令(二十五) 磁盘管理命令(三) fdisk
			
一.fdisk命令介绍 fdisk 为Linux系统下的分区管理工具,类型windows下的 分区助手等工具软件.分过区装过操作系统的人都知道硬盘分区是必要和重要的.fdisk 的帮助如下所示: [r ...
 - 600字让你读懂Git
			
设想你现在位于 alpha/ 目录下,这里有一个文本文件 number.txt,里面的内容只有一个词:“first”. 现在执行 git init 将这个 alpha 文件夹初始化为 Git 仓库. ...
 - Spring注解开发简要步骤
			
1.除spring基本包外还需要下载AOP包 spring-aop-4.2.4.RELEASE.jar 2.导入约束(最后两行) <beans xmlns="http://www.sp ...