窗口函数（window functions）对多行进行操作，并为查询中的每一行返回一个值。 OVER()子句能将窗口函数与其他分析函数（analytical functions）和报告函数（reporting functions）区分开来。

1. 常用窗口函数

下表列出了一些窗口函数以及描述信息：

窗口函数 描述
LAG() LAG()窗口函数返回分区中当前行之前行（可以指定第几行）的值。 如果没有行，则返回null。
LEAD() LEAD()窗口函数返回分区中当前行后面行（可以指定第几行）的值。 如果没有行，则返回null。
FIRST_VALUE FIRST_VALUE窗口函数返回相对于窗口中第一行的指定列的值。
LAST_VALUE LAST_VALUE窗口函数返回相对于窗口中最后一行的指定列的值。
2. 语法

LAG 和 LEAD 语法

LAG | LEAD

( <col>, <line_num>, <DEFAULT> )

OVER ( [ PARTITION BY ] [ ORDER BY ] )

FIRST_VALUE | LAST_VALUE 语法

FIRST_VALUE | LAST_VALUE

( <col>,<ignore nulls as boolean> ) OVER

( [ PARTITION BY ] [ ORDER BY ][ window_clause ] )

3.demo

原数据：

hive> select * from tmp_pv;

OK

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-10    1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-11    5

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-12    7

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-13    3

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-14    2

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-15    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-16    4

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-10    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-11    9

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-12    3

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-13    10

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-14    1

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-15    8

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-16    2

Time taken: 0.102 seconds, Fetched: 14 row(s)

3.1 LAG()

LAG(col,n,DEFAULT)窗口函数返回分区中当前行之前第n行对应列的值。 如果没有相应的行，则返回NULL。 第一个参数为列名，第二个参数为当前行之前第n行（可选，默认为1），第三个参数为缺失时默认值（当前行之前第n行为NULL没有时，返回该默认值，如不指定，则为NULL）。

为了比较每个用户浏览次数与前一天的浏览次数进行比较，查询返回当前浏览次数以及前一天的浏览数量。由于在2017-02-10之前没有浏览行为，前一天的浏览次数设置为0（不设置默认为NULL）。

hive> select gid, dt, pv, lag(pv, 1, 0) over (partition by gid order by dt) as pre_pv from tmp_pv;

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-10    1    0

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-11    5    1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-12    7    5

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-13    3    7

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-14    2    3

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-15    4    2

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-16    4    4

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-10    2    0

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-11    9    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-12    3    9

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-13    10    3

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-14    1    10

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-15    8    1

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-16    2    8

Time taken: 11.783 seconds, Fetched: 14 row(s)

3.2 LEAD()

LEAD(col,n,DEFAULT)窗口函数返回分区中当前行后面第n行对应列的值。 如果没有相应的行，则返回NULL。 第一个参数为列名，第二个参数为当前行后面第n行（可选，默认为1），第三个参数为缺失时默认值（当前行后面第n行为没有时，返回该默认值，如不指定，则为NULL）。

为了比较每个用户浏览次数与后一天的浏览次数进行比较，查询返回当前浏览次数以及后一天的浏览数量。由于在2017-02-16之后没有浏览行为，后一天的浏览次数显示为NULL（默认为NULL）

hive> select gid, dt, pv, lead(pv, 1) over (partition by gid order by dt) from tmp_pv;

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-10    1    5

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-11    5    7

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-12    7    3

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-13    3    2

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-14    2    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-15    4    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-16    4    NULL

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-10    2    9

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-11    9    3

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-12    3    10

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-13    10    1

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-14    1    8

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-15    8    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-16    2    NULL

Time taken: 9.509 seconds, Fetched: 14 row(s)

3.3 FIRST_VALUE()

为了比较每个用户浏览次数与第一天浏览次数进行比较，查询返回当前浏览次数以及第一天浏览次数。第一个用户第一天浏览次数为1，第二个用户第一天浏览次数为2。

hive> select gid, dt, pv, first_value(pv) over (partition by gid order by dt) from tmp_pv;

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-10    1     1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-11    5     1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-12    7     1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-13    3     1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-14    2     1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-15    4     1

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-16    4     1

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-10    2     2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-11    9     2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-12    3     2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-13    10    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-14    1     2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-15    8     2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-16    2     2

Time taken: 9.862 seconds, Fetched: 14 row(s)

备注

上面例子窗口为第一行到当前行(缺失window子句有order by ，默认为rows between unbounded preceding and current row)。所以，first_value返回窗口的第一行，即第一天浏览次数。

4.4 LAST_VALUE()

为了比较每个用户浏览次数与最新一天浏览次数进行比较，查询返回当前浏览次数以及最新一天浏览次数。第一个用户最新一天（2017-02-16）浏览次数为4，第二个用户最新一天（2017-02-16）浏览次数为2。

hive> select gid, dt, pv, last_value(pv) over (partition by gid order by dt rows between current row and unbounded following) from tmp_pv;

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-10    1    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-11    5    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-12    7    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-13    3    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-14    2    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-15    4    4

0006D2BC-4DF9-4C0B-83AD-0183789E78D4    2017-02-16    4    4

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-10    2    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-11    9    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-12    3    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-13    10    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-14    1    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-15    8    2

993BD7AD-3B62-BA0C-15AE-A14B85921889    2017-02-16    2    2

Time taken: 9.335 seconds, Fetched: 14 row(s)

备注

上面例子的窗口为当前行到最后一行（rows between current row and unbounded following）。last_value返回的是窗口最后一行，即最新一天的浏览次数。

Hive 窗口函数LEAD LAG FIRST_VALUE LAST_VALUE的更多相关文章

  1. hive 取两次记录的时间差 lead lag first_value last_value

    -- LEAD(col,n,DEFAULT) 用于统计窗口内往下第n行值 -- 第一个参数为列名,第二个参数为往下第n行(可选,默认为1),第三个参数为默认值(当往下第n行为NULL时候,取默认值,如 ...

  2. Hive窗口函数之LAG、LEAD、FIRST_VALUE、LAST_VALUE的用法

    一.创建表: create table windows_ss ( polno string, eff_date string, userno string ) ROW FORMAT DELIMITED ...

  3. Hive 窗口函数、分析函数

    1 分析函数:用于等级.百分点.n分片等 Ntile 是Hive很强大的一个分析函数. 可以看成是:它把有序的数据集合 平均分配 到 指定的数量(num)个桶中, 将桶号分配给每一行.如果不能平均分配 ...

  4. hive窗口函数/分析函数详细剖析

    hive窗口函数/分析函数 在sql中有一类函数叫做聚合函数,例如sum().avg().max()等等,这类函数可以将多行数据按照规则聚集为一行,一般来讲聚集后的行数是要少于聚集前的行数的.但是有时 ...

  5. Hive窗口函数保姆级教程

    在SQL中有一类函数叫做聚合函数,例如sum().avg().max()等等,这类函数可以将多行数据按照规则聚集为一行,一般来讲聚集后的行数是要少于聚集前的行数的.但是有时我们想要既显示聚集前的数据, ...

  6. Hive 窗口函数

    举例: row_number() over(partition by clue_id order by state_updated desc) 业务举例: select distinct a.clue ...

  7. Hive 窗口函数sum() over()求当前行和前面n条数据的和

    前几天遇到一个这样的需求:销售总占比加起来超过75%的top分类.具体需求是这样的:商品一级分类标签下面有许多商品标签,例如运动户外一级标签,下面可能存在361°,CBA,Nike,Adidas... ...

  8. oracle函数中lead,lag,over,partition by 的使用

    lead,lag函数的分析 http://blog.csdn.net/mazongqiang/article/details/7621328 举例如下: SQL> select *  from ...

  9. Hive学习之路 （十六）Hive分析窗口函数(四) LAG、LEAD、FIRST_VALUE和LAST_VALUE

    数据准备 数据格式 cookie4.txt cookie1, ::,url2 cookie1, ::,url1 cookie1, ::,1url3 cookie1, ::,url6 cookie1, ...

随机推荐

  1. javase程序设计上机作业1

    package javaxgp.teacher.test; import java.math.BigInteger; import java.util.Scanner; import java.uti ...

  2. ARM的编程模式及寄存器

    根据朱老师的课程及下面博客整理 http://blog.chinaunix.net/uid-20443992-id-5700979.html ARM 采用的是32位架构 ARM 约定: Byte : ...

  3. nginx优化方案

    一.nginx 配置文件中对优化比较有作用的为以下几项:1. worker_processes  8; nginx 进程数,建议按照cpu 数目来指定,一般为它的倍数 (如,2个四核的cpu计为8). ...

  4. nginx源码包安装

    一.下载码源包 1. 获得源码包途径官方网站,可以获得最新的软件包 Nginx: www.nginx.org 2.具体实例展示(tengine) 下载源码包,准备软件包 准备编译环境如编译器gcc.m ...

  5. IDEA 双击只选择了一个变量的某部分单词

    1,很多抄袭文章说  在keymap 里搜索 select Word at caret , 鄙视手动抄袭和编写爬虫来 作恶的开发者. 2,自己试了,File菜单 ---->  settings- ...

  6. windeployqt.exe 发布windows下qt产生的exe程序

    以官方 Qt 5.4.0+MinGW 开发环境为例,从开始菜单-->Qt 5.4.0-->5.4-->MinGW 4.9 (32-bit)-->Qt 5.4 for Deskt ...

  7. input type=file accept中文件格式限制

    原文链接:https://blog.csdn.net/usuallyuser/article/details/83060341 accept="application/msexcel,app ...

  8. CentOS7Linux中服务器LVS负载均衡、高可用集群搭建（NAT、DR）；

    目录 集群 声明 集群概念 集群特性 Web服务器并发相应瓶颈 集群的分类 LB实现方法: LVS集群 负载调度器 服务器池 共享存储 LVS负载均衡的三种模式 负载均衡 集群 声明 文档不断更新中. ...

  9. 洛谷P1029 最大公约数和最小公倍数问题 （简单数学题）

    一直懒的写博客,直到感觉不写不总结没有半点进步,最后快乐(逼着)自己来记录蒟蒻被学弟学妹打压这一年吧... 题目描述 输入22个正整数x_0,y_0(2 \le x_0<100000,2 \le ...

  10. AT2294 Eternal Average

    题目 题目给我们的这个东西可以转化为一棵\(k\)叉树,有\(n+m\)个叶子节点,其中\(m\)个权值为\(1\),\(n\)个权值为\(0\),每个非叶子节点的权值为其儿子的平均值,现在问你根节点 ...