Hive的导入导出和常用过滤语句的学习
原文:
https://www.toutiao.com/i6769166601871688196/?group_id=6769166601871688196
数据的导入
- load data [local]
创建数据表
加载数据
load data local inpath '/data/hivetest/stu_info_two' into table stu_info;
加载HDFS数据,移动数据文件到表对应的目录
我们先清空数据truncate table stu_info;
将数据加载到HDFS上
hdfs dfs -put /data/hivetest/stu_info_local_format /hivetestdata/
Hive中查看下
然后加载数据
- load data + overwrite 覆盖数据
为了区分我们新创建数据库
可以覆盖数据
3、子查询 as select
create table tb_stu_as_test_stu as select * from stu_info;
适合数据查询结果的保存
4、insert 方式
插入数据的表必须要存在
我们创建新表
我们如果再执行一遍,数据就会增多(追加)
执行覆盖(原先数据变了)
在关系型数据库插入一条数据
insert into table table_name(id,name) values(1,'test');
Hive也支持插入
insert into table hive_table_name(id,name) values(1,'test');
注意:这种方式适合数据非常小的情况下去使用,如果大数据量,避免这种操作,如果执行show tables会发现一个临时表values__tmp__table__1,说明SQL这种方式用在Hive中会用临时表过渡。
5、建表的时候用location指定数据文件的方式
数据的导出
官网
- INSERT OVERWRITE [LOCAL] DIRECTORY directory1 方式(local的方式和插入一样一个是本地一个是HDFS)
Insert overwrite local directory '/data/hivetest/export_local_stu_info' select * from stu_info;
我们查看数据
添加语句可以指定分隔符 ROW FORMAT DELIMITED FIELDS TERMINATED BY ' '
语句:
Insert overwrite local directory '/data/hivetest/export_local_stu_info' ROW FORMAT DELIMITED FIELDS TERMINATED BY ' ' select * from stu_info;
数据有空格了
如果不使用local的话就是将输入导入到HDFS中,就可以用hdfs命令下载文件了
- bin/hive -e 或者 -f + >> 或者 >
hive -e 'select * from db_import_export.stu_info' >> /data/hivetest/export_local_stu_info_1.txt;
- 可以使用sqoop等工具
我们使用之前的数据库
select * from emp where sal > 3000;
select * from emp limit 5;
select distinct deptno from emp;
select * from emp where sal between 1300 and 3000;
select * from emp where sal >=1000 and sal <= 3000;
select empno,ename from emp where comm is null;
select empno,ename from emp where comm is not null;
聚合函数
count()、max()、min()、sum()、avg()、group by
如果我们加一个字段
select deptno,max(sal) from emp ;
有错误
select中出现的字段,需要用聚合函数包裹或者放入group by当中
select deptno ,max(sal) from emp group by deptno;
select max(deptno) ,max(sal) from emp ;
join
left join 、right join、inner join(等值)、full join(全)
新创建一个库
创建两张表
我们准备两个数据
等值join
select a_test.id,a_test.name,b_test.id,b_test.adress from a a_test join b b_test on a_test.id=b_test.id;
左join,以左表为基准,没有匹配到的字段为NULL
select a_test.id,a_test.name,b_test.id,b_test.adress from a a_test left join b b_test on a_test.id=b_test.id;
右join,以右表为基准,没有匹配到的字段为NULL
select a_test.id,a_test.name,b_test.id,b_test.adress from a a_test right join b b_test on a_test.id=b_test.id;
全join,所有的字段都会出现,没有匹配到的字段为NULL
select a_test.id,a_test.name,b_test.id,b_test.adress from a a_test full join b b_test on a_test.id=b_test.id;
不写连接条件,两张表做笛卡尔积
select a_test.id,a_test.name,b_test.id,b_test.adress from a a_test join b b_test ;
Hive的导入导出和常用过滤语句的学习的更多相关文章
- hive数据导入导出和常用操作
导出到本地文件 insert overwrite local directory '/home/hadoop'select * from test1; 导出到hdfs insert overwrite ...
- 利用sqoop将hive数据导入导出数据到mysql
一.导入导出数据库常用命令语句 1)列出mysql数据库中的所有数据库命令 # sqoop list-databases --connect jdbc:mysql://localhost:3306 ...
- Hive数据导入导出的几种方式
一,Hive数据导入的几种方式 首先列出讲述下面几种导入方式的数据和hive表. 导入: 本地文件导入到Hive表: Hive表导入到Hive表; HDFS文件导入到Hive表; 创建表的过程中从其他 ...
- 从零自学Hadoop(16):Hive数据导入导出,集群数据迁移上
阅读目录 序 导入文件到Hive 将其他表的查询结果导入表 动态分区插入 将SQL语句的值插入到表中 模拟数据文件下载 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并 ...
- Hive数据导入导出
Hive三种不同的数据导出的方式 (1) 导出到本地文件系统 insert overwrite local directory '/home/anjianbing/soft/export_data/ ...
- 从零自学Hadoop(17):Hive数据导入导出,集群数据迁移下
阅读目录 序 将查询的结果写入文件系统 集群数据迁移一 集群数据迁移二 系列索引 本文版权归mephisto和博客园共有,欢迎转载,但须保留此段声明,并给出原文链接,谢谢合作. 文章是哥(mephis ...
- Sqoop_mysql,hive,hdfs导入导出操作
前言: 搭建环境,这里使用cdh版hadoop+hive+sqoop+mysql 下载 hadoop-2.5.0-cdh5.3.6.tar.gz hive-0.13.1-cdh5.3.6.tar.gz ...
- Hive 实战(1)--hive数据导入/导出基础
前沿: Hive也采用类SQL的语法, 但其作为数据仓库, 与面向OLTP的传统关系型数据库(Mysql/Oracle)有着天然的差别. 它用于离线的数据计算分析, 而不追求高并发/低延时的应用场景. ...
- 数据仓库Hive数据导入导出
Hive库数据导入导出 1.新建表data hive (ebank)> create table data(id int,name string) > ROW FORMAT DELIMIT ...
随机推荐
- 4、Linux下安装tomcat
Linux系统下安装tomcat 一.安装JDK 安装Tomcat之前需要安装JDk,安装JDk请参考:JDK安装. 二.Linux安装Tomcat 1.官网上下载Tomcat Apach ...
- $(document).ready()与window.onload的区别,站在三个维度回答问题
1.执行时机 window.onload必须等到页面内包括图片的所有元素加载完毕后才能执行. $(document).ready()是DOM结构绘制完毕后就执行,不必等到加载完毕. 2 ...
- iterator 前++ 后++区别
for(iterator it = begin(); it != end(); ++it) 此处的 begin()<==>this->begin() 或者for(ite ...
- 2. Go中defer使用注意事项
1. 简介 defer 会在当前函数返回前执行传入的函数,它会经常被用于关闭文件描述符.关闭数据库连接以及解锁资源. 理解这句话主要在三个方面: 当前函数 返回前执行,当然函数可能没有返回值 传入的函 ...
- Java中List排序的3种方法
在某些特殊的场景下,我们需要在 Java 程序中对 List 集合进行排序操作.比如从第三方接口中获取所有用户的列表,但列表默认是以用户编号从小到大进行排序的,而我们的系统需要按照用户的年龄从大到小进 ...
- Go语言核心36讲(Go语言实战与应用二十七)--学习笔记
49 | 程序性能分析基础(下) 在上一篇文章中,我们围绕着"怎样让程序对 CPU 概要信息进行采样"这一问题进行了探讨,今天,我们再来一起看看它的拓展问题. 知识扩展 问题 1: ...
- 第二周Python笔记 数据类型 列表 字典
列表,拉锁式儿合并. [ [a,b] for a,b in zip(list1,list2)] #最笨的 a=[1,2,3,4,5] b=[2,3,4,5,6] d=[] for i in range ...
- 宕机导致分区丢失恢复方案testdisk
一.执行此预案的动机 云主机数据盘分区丢失 二.执行此预案的条件 1.确定用户在报障时间点之前有过数据盘分区存在,而在报障时间点该分区消失 2.在执行我们的恢复操作之前,确保将分区所在数据盘进行备份 ...
- 启动jetty命令
mvn jetty:run在某个maven web工程目录下启动此命令,将把此web工程部署到jetty应用服务器下,默认端口是8080
- Tomcat配置使用域名访问项目
找到tomcat下的conf文件夹,打开server.xml文件 在操作之前要把域名映射到服务器上.测试办法就是,打开cmd 输入ping 域名,能够显示对应的ip即可 首先把访问端口改为80访问. ...