pandas pivot_table或者groupby实现sql 中的count distinct 功能
pandas pivot_table或者groupby实现sql 中的count distinct 功能
import pandas as pd
import numpy as np
data = pd.read_csv('活跃买家分析初稿.csv')
data.head()
.dataframe tbody tr th:only-of-type {
vertical-align: middle;
}
.dataframe tbody tr th {
vertical-align: top;
}
.dataframe thead th {
text-align: right;
}
| recycler_key | date 周 | date 年 | date 月 | 记录数 | |
|---|---|---|---|---|---|
| 0 | 1694 | 周 1 | 2018 | 一月 | 6 |
| 1 | 1693 | 周 1 | 2018 | 一月 | 14 |
| 2 | 1686 | 周 1 | 2018 | 一月 | 20 |
| 3 | 1677 | 周 1 | 2018 | 一月 | 62 |
| 4 | 1676 | 周 1 | 2018 | 一月 | 25 |
- 我们发现表格的表头有空格,且看起来不舒服,尝试使用上篇文章的改名功能,将表头修改为合理的格式
data.columns=['merchant','week','year','month','records']
data.head()
.dataframe tbody tr th:only-of-type {
vertical-align: middle;
}
.dataframe tbody tr th {
vertical-align: top;
}
.dataframe thead th {
text-align: right;
}
| merchant | week | year | month | records | |
|---|---|---|---|---|---|
| 0 | 1694 | 周 1 | 2018 | 一月 | 6 |
| 1 | 1693 | 周 1 | 2018 | 一月 | 14 |
| 2 | 1686 | 周 1 | 2018 | 一月 | 20 |
| 3 | 1677 | 周 1 | 2018 | 一月 | 62 |
| 4 | 1676 | 周 1 | 2018 | 一月 | 25 |
- 我们的目标就是统计每个自然月内对应每个客户提交的周次数
- 同样的原理,我们也可以统计自然月内客户数
方法一: 多重groupby,较为麻烦
- 首先利用groupby求出每个月中商家提交订单数
data1 =data.groupby(['month','merchant']).size()
data1.head()
month merchant
一月 1 2
240 1
241 1
256 9
277 2
dtype: int64
- 重建索引
data1.reset_index().head()
.dataframe tbody tr th:only-of-type {
vertical-align: middle;
}
.dataframe tbody tr th {
vertical-align: top;
}
.dataframe thead th {
text-align: right;
}
| month | merchant | 0 | |
|---|---|---|---|
| 0 | 一月 | 1 | 2 |
| 1 | 一月 | 240 | 1 |
| 2 | 一月 | 241 | 1 |
| 3 | 一月 | 256 | 9 |
| 4 | 一月 | 277 | 2 |
- 将重建索引的生成的dataFrame再次groupby
data1.reset_index().groupby('month')['merchant'].size().reindex(['一月','二月','三月','四月','五月','六月','七月','八月','九月','十月','十一月','十二月']).reset_index()
.dataframe tbody tr th:only-of-type {
vertical-align: middle;
}
.dataframe tbody tr th {
vertical-align: top;
}
.dataframe thead th {
text-align: right;
}
| month | merchant | |
|---|---|---|
| 0 | 一月 | 615 |
| 1 | 二月 | 622 |
| 2 | 三月 | 359 |
| 3 | 四月 | 175 |
| 4 | 五月 | 209 |
| 5 | 六月 | 258 |
| 6 | 七月 | 320 |
| 7 | 八月 | 366 |
| 8 | 九月 | 417 |
| 9 | 十月 | 428 |
| 10 | 十一月 | 522 |
| 11 | 十二月 | 617 |
方法2 pivot_table使用aggfunc 实现nunique方法
data2=data.pivot_table(index='month',values='merchant',aggfunc=lambda x:len(x.unique()))
data2.reindex(['一月','二月','三月','四月','五月','六月','七月','八月','九月','十月','十一月','十二月']).reset_index()
.dataframe tbody tr th:only-of-type {
vertical-align: middle;
}
.dataframe tbody tr th {
vertical-align: top;
}
.dataframe thead th {
text-align: right;
}
| month | merchant | |
|---|---|---|
| 0 | 一月 | 615 |
| 1 | 二月 | 622 |
| 2 | 三月 | 359 |
| 3 | 四月 | 175 |
| 4 | 五月 | 209 |
| 5 | 六月 | 258 |
| 6 | 七月 | 320 |
| 7 | 八月 | 366 |
| 8 | 九月 | 417 |
| 9 | 十月 | 428 |
| 10 | 十一月 | 522 |
| 11 | 十二月 | 617 |
方法3,直接采用Series的nunique方法
data3 = data.pivot_table(index='month',values='merchant',aggfunc=pd.Series.nunique)
data3.reindex(['一月','二月','三月','四月','五月','六月','七月','八月','九月','十月','十一月','十二月']).reset_index()
.dataframe tbody tr th:only-of-type {
vertical-align: middle;
}
.dataframe tbody tr th {
vertical-align: top;
}
.dataframe thead th {
text-align: right;
}
| month | merchant | |
|---|---|---|
| 0 | 一月 | 615 |
| 1 | 二月 | 622 |
| 2 | 三月 | 359 |
| 3 | 四月 | 175 |
| 4 | 五月 | 209 |
| 5 | 六月 | 258 |
| 6 | 七月 | 320 |
| 7 | 八月 | 366 |
| 8 | 九月 | 417 |
| 9 | 十月 | 428 |
| 10 | 十一月 | 522 |
| 11 | 十二月 | 617 |
方法4 使用单个的groupby,聚合使用nunique方法
data4 = data.groupby(['month']).agg({'merchant': pd.Series.nunique})
data4.reindex(['一月','二月','三月','四月','五月','六月','七月','八月','九月','十月','十一月','十二月']).reset_index()
.dataframe tbody tr th:only-of-type {
vertical-align: middle;
}
.dataframe tbody tr th {
vertical-align: top;
}
.dataframe thead th {
text-align: right;
}
| month | merchant | |
|---|---|---|
| 0 | 一月 | 615 |
| 1 | 二月 | 622 |
| 2 | 三月 | 359 |
| 3 | 四月 | 175 |
| 4 | 五月 | 209 |
| 5 | 六月 | 258 |
| 6 | 七月 | 320 |
| 7 | 八月 | 366 |
| 8 | 九月 | 417 |
| 9 | 十月 | 428 |
| 10 | 十一月 | 522 |
| 11 | 十二月 | 617 |
可以参考
- refer this stackoverflow

pandas pivot_table或者groupby实现sql 中的count distinct 功能的更多相关文章
- VC++2005下的ADO SQL语句(like,count,distinct)和操作(转)
http://blog.sina.com.cn/s/blog_56fd66a70100hxjf.html http://timke.blog.163.com/blog/#m=0 环境:MFC Dia ...
- Python中实现count(distinct )
假设一个表有6个字段c1,c2,c3,c4,c5,c6,有如下的sql语句: select c1,count(distinct(c6)) from tbl where c3>1 group by ...
- 知方可补不足~SQL中的count命令的一些优化措施(百万以上数据明显)
回到目录 SQL中对于求表记录总数的有count这个聚合命令,这个命令给我们感觉就是快,比一般的查询要快,但是,当你的数据表记录比较多时,如百万条,千万条时,对于count来说,就不是那么快了,我们需 ...
- SQL中以count及sum为条件的查询
在开发时,我们经常会遇到以“累计(count)”或是“累加(sum)”为条件的查询.比如user_num表: id user num 1 a 3 2 a 4 3 b 5 4 b 7 例1:查询出现 ...
- SQL中以count或sum为条件的查询方式
在开发时,我们经常会遇到以“累计(count)”或是“累加(sum)”为条件的查询.比如user_num表: id user num 1 a 3 2 a 4 3 b 5 4 b 7 例1:查询出现 ...
- sql中unique和distinct
在SQL语法里面,有unique和distinct两个关键字, unique是distinct的同义词,功能完全相同.distinct是标准语法,其他数据库 sql server,db2,oracle ...
- sql中简单的触发器功能
触发器分为DML触发器和DDL触发器DML触发器包含After触发器,执行insert update delete语句后会触发after触发器,会事务回滚DML触发器还包含instead of触发器, ...
- Linq 实现普通sql中 where in 的功能
user.ProjectIds 的值是使用逗号分隔的 例如:1,2,3 projectList = (from a in projectList where (user.ProjectIds.Spli ...
- SQL中 select count(1) count中的1 到底是什么意思呢?和count(*)的区别
count(1),其实就是计算一共有多少符合条件的行. 1并不是表示第一个字段,而是表示一个固定值.其实就可以想成表中有这么一个字段,这个字段就是固定值1,count(1),就是计算一共有多少个1.同 ...
随机推荐
- linux bash timeout
http://www.digitalinternals.com/unix/unix-linux-run-command-with-timeout/500/ There are two ways to ...
- C# IOThread
在看微软的ASP.NET - 将 ASP.NET 用作高性能文件下载器 示例里面用到了IO 线程,以前打算自己撸的,这里贴出来 已标记一下: ///////////////////////////// ...
- 【UML】Java代码与UML模型相互转换方法
最近重温了一下设计模式,看到大家的博客里面都是Java代码+UML视图,UML表达整体框架,然后再秀出具体的代码,点面结合.一目了然.所以也研究了一下Java代码与UML模型相互转换方法. 一.常用的 ...
- Django 数据表更改
Django 数据表更改 « Django 开发内容管理系统(第四天) Django 后台 » 我们设计数据库的时候,早期设计完后,后期会发现不完善,要对数据表进行更改,这时候就要用到本节的知识. D ...
- 怎么样加快JavaScript加载和执行效率
概览 无论当前 JavaScript 代码是内嵌还是在外链文件中,页面的下载和渲染都必须停下来等待脚本执行完成.JavaScript 执行过程耗时越久,浏览器等待响应用户输入的时间就越长.浏览器在下载 ...
- php : 开发记录(2017-03-10)
0.后台 循环N*10000次操作的简单处理 后台需要循环做N*10000次级别的工作时候,比如,发送邮件,推送通知.可以先把所有数据导入数据表(数据库操作所需的时间1~2秒),然后前台循环发送请求, ...
- server后台TCP连接存活问题
公司的server后台部署在某一个地方,接入的是用户的APP,而该地方的网络信号较差,导致了server后台在执行一段时间后用户无法接入,那边的同事反馈使用netstat查看系统.存在较多的TCP连接 ...
- linux下fallocate快速创建大文件
以前创建文件我一般用dd来创建,例如创建一个512M的文件: dd命令可以轻易实现创建指定大小的文件,如 dd if=/dev/zero of=test bs=1M count=1000 会生成一个1 ...
- Linux下终端录制工具-asciinema
1. 官网 https://asciinema.org/ 2. 功能 录音 录制终端命令 上传到多种位置 3. 使用方法 sudo yum install asciinema # 安装 asciine ...
- CDC在sql server 2017中无法使用的问题
Symptom === sp_MScdc_capture_job in the CDC job raised error message Msg 217, Level 16, State 1, Pro ...
