038 关于HIVE的配置
一:常用版本
1.版本
0.13.1 2014年
1.2.1 2015年
版本之间的区别:支持SQL不同,向关系型数据库靠拢。
目前看到的版本是2.3.2了。
2.官网
二:安装配置hive
1.检测hadoop
2.解压hive
3.修改环境
sudo vi /etc/profile
4.source以下
5.复制hive-env.sh
6.编辑hive-env.sh
设置hadoop的配置环境,因为hive需要hadoop,不然hive和hadoop没有关联。
hive的配置文件目录要启动的,因为除了默认的hive加载,自定义的hive文件在conf下,也需要加载。
7.在HDFS上创建文件夹并修改写权限
同组可写权限。
保存hive的数据,主要放在HDFS上的warehouse文件夹下。
说明:
为啥是这个目录。因为hive.metastore.warehouse.dir在默认文件中的位置是这个位置,所以就设置了这个目录。
8.验证hive的安装
属于启动。
进入hive的命令行。
二:操作hive
1.显示有哪些数据库
有一个default数据库。
说明:
假设在这个数据库下创建一个表,这个表就在user/hive/warehouse文件夹下。
2.创建数据库
3.在新建的数据库中新建表
使用新建的数据库
use hadoop09;
这个使用的字符串是string,不是varchar,因为底层是hadoop。
4.加载数据
首先要书写数据:
加载数据:
5.HDFS里文件的分布
一开始是数据仓库文件。
hadoop09是数据库,所以生成的文件名字教hadoop09.db。
student是一张表。
里面有一个文件,是数据文件,这个文件也是刚才在本地编辑的文件。
维护都是使用文件夹。
6.hive查询语句
三:hive的问题
1.问题的由来
当开启第二个hive的时候,就会出现问题。
因为hive的默认数据库使用的是derby,只能启用一个实例,所以不适合企业。
解决的方案是:使用mysql关系数据库代替derby。
四:配置mysql
1.卸载已经安装的mysql
2.安装mysql
3.查看mysql的状态
4.开启服务
5.设置开机启动
6.设置密码
7.进入数据库
8.修改连接权限的位置
9.修改连接权限
增加一个权限
删除其他的
10.刷新权限,退出,重启服务
以上的mysql已经配置完成
五.配置hive
1.生成hive-site.xml
2.配置hive-site.xml、
官网位置:
修改的配置:
3.在lib下加入驱动
4.启动hive
5.观看效果
出现了metastore数据库。
六:日志的配置问题
1.问题的由来
2.在conf中启用
3.修改配置,hive运行的日志配置
七.人性化设置
1.列名,数据库名
2.效果
038 关于HIVE的配置的更多相关文章
- Hive安装配置指北(含Hive Metastore详解)
个人主页: http://www.linbingdong.com 本文介绍Hive安装配置的整个过程,包括MySQL.Hive及Metastore的安装配置,并分析了Metastore三种配置方式的区 ...
- Hadoop之Hive(2)--配置Hive Metastore
Hive metastore服务以关系性数据库的方式存储Hive tables和partitions的metadata,并且提供给客户端访问这些数据的metastore service的API.下面介 ...
- 【转】 hive安装配置及遇到的问题解决
原文来自: http://blog.csdn.net/songchunhong/article/details/51423823 1.下载Hive安装包apache-hive-1.2.1-bin.ta ...
- hive权限配置
基于CDH5.x的Hive权限配置 1.打开权限控制,默认是没有限制的 set hive.security.authorization.enabled=true; 2.配置默认权限 hive.secu ...
- Hive的配置| 架构原理
Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能. 本质是:将HQL转化成MapReduce程序 1)Hive处理的数据存储在HDFS 2)Hi ...
- Mac上Hive安装配置
Mac上Hive安装配置 1.安装 下载hive,地址:http://mirror.bit.edu.cn/apache/hive/ 之前我配置了集群,tjt01.tjt02.tjt03,这里hive安 ...
- Hive的配置详解和日常维护
Hive的配置详解和日常维护 一.Hive的参数配置详解 1>.mapred.reduce.tasks 默认为-1.指定Hive作业的reduce task个数,如果保留默认值,则Hive 自 ...
- Hive安装配置详解步骤以及hive使用mysql配置
Hive是一个数据仓库基础工具在Hadoop中用来处理结构化数据.它架构在Hadoop之上,总归为大数据,并使得查询和分析方便.并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务 ...
- Hive设置配置参数的方法,列举8个常用配置
Hive设置配置参数的方法 Hive提供三种可以改变环境变量的方法,分别是: (1).修改${HIVE_HOME}/conf/hive-site.xml配置文件: (2).命令行参数: (3).在已经 ...
随机推荐
- tcp的连接断开
tcp的断开连接是需要主机完成四次挥手的过程的,并不是断网了就表示断开连接了.假如双方已经建立起了连接,突然一方断网(比如突然停电,或者网线突然被拔了),对于另一方来讲他并不会知道这个情况,他依然认为 ...
- jquery中选择checkbox拼接成字符串,然后到后台拆分取值
jquery中选择checkbox拼接成字符串,然后到后台拆分取值 js中的代码 $("#btn").click(function(){ var chenked=$("i ...
- Android性能优化系列之Bitmap图片优化
https://blog.csdn.net/u012124438/article/details/66087785 在Android开发过程中,Bitmap往往会给开发者带来一些困扰,因为对Bitma ...
- android view绘制流程 面试
一.view树的绘制流程 measure--->layout--->draw measure 1.ViewGroup.LayoutParams 指定部件的长宽 2.MeasureSpec ...
- JNI打通java和c
1.JNI简介 The Java Native Interface (JNI) is a programming framework that enables Java code running in ...
- 【Python】zip文件密码破解
掌握基础语法后,尝试使用python的zipfile模块练手. zipfile是Python里用来做zip格式编码的压缩和解压缩的. 这里将大体的思路分解成四段代码,逐一完善功能: 第一段代码:解压z ...
- python内置模块之collections(六)
前言 collections是Python内建的一个集合模块,提供了许多有用的集合类. 系列文章 python模块分析之random(一) python模块分析之hashlib加密(二) python ...
- Linux中THIS_MODULE宏定义详解
一直都在耿耿于怀,这个THIS_MODULE到底是个什么玩意,linux内核中无处不在的东西.今天上网搜了一下,算是基本明白了.网上牛人写的已经比较详细,另外目前暂时没有时间往更深层次分析,所以直接贴 ...
- php 日期格式转换万能公式
思路用strtotime转换时间的字符串 $t='2017-03-09 02:30'; echo(date('Y-m-d H-i', strtotime($t)));
- springboot系列十二、springboot集成RestTemplate及常见用法
一.背景介绍 在微服务都是以HTTP接口的形式暴露自身服务的,因此在调用远程服务时就必须使用HTTP客户端.我们可以使用JDK原生的URLConnection.Apache的Http Client.N ...