重点方法

  • 分组:groupby('列名') groupby(['列1'],['列2'........])

分组步骤:

  1. (spiltting)拆分 按照一些规则将数据分为不同的组

  2. (Applying)申请 对于每组数据分别执行一个函数

  3. (Combining) 组合 将结果组合到一个数据结构

  • 分组后默认统计的方法

    1.size() 大小 = count() max(),min(),std(),median()中位数,first(),last()

    函数名 使用
    count 分组中非NA(空值)的数量
    sum 非NA的和
    mean 非NA的平均值
    median 非NA的值的算术中位数
    std;var 无偏(分母为n-1)标准差和方差
    prod 非NA值的积
    first;last 第一个和最后一个非NA的值

以上统计函数:除了count()外,都会自动过滤非数字列!!!

排重:duplicated() 重复

1.检查重复数据:df.duplicated() 判断整行数据

2.检查重复指定列名:df.duplicated(['列1','列2....'])

3.删除重复数据:df.drop_duplicates()

4.删除时指定保留的数据:df.drop_duplicates(['列1','列2'...],keep='first/last')

  • keep:保存

  • first:第一个

  • last:最后一个

数据透视表

  • df.pivot_table(df,index=['列1','列2...'],values='名',aggfunc=np.mean/sum)

    • index : 排序的列

    • values: 统计列

    • aggfunc :执行的统计函数,不写默认统计平均值

分组替换:categories 分组/分类

  • 实现第二列!分组,并替换数据!

  • df['新列名']=df['B'].astype('category'): 转换为分类/分组类型

  • 分配列名:df['新列名'].cat.categories(['值1','值2....'])

  • 重新设置:df['新列名']=df['新列名'].cat.set_categories(['值1','值2.....'])

读写文件

  • HDF5:存储大数据,可方便和其他语言对接, 了解

    • to_hdf(文件)

    • read_hdf(文件)

  • csv:

    • to_csv(文件)

    • read_csv(文件)

  • 表格 excel:

    • to_excel(文件)

    • read_excel(文件)

Python数据分析 Pandas模块 基础数据结构与简介(二)的更多相关文章

  1. Python数据分析 Pandas模块 基础数据结构与简介(一)

    pandas 入门 简介 pandas 组成 = 数据面板 + 数据分析工具 poandas 把数组分为3类 一维矩阵:Series 把ndarray强大在可以存储任意数据类型可以专门处理时间数据 二 ...

  2. Python数据分析Pandas库之熊猫(10分钟二)

    pandas 10分钟教程(二) 重点发法 分组 groupby('列名') groupby(['列名1','列名2',.........]) 分组的步骤 (Splitting) 按照一些规则将数据分 ...

  3. Python数据分析--Pandas知识点(二)

    本文主要是总结学习pandas过程中用到的函数和方法, 在此记录, 防止遗忘. Python数据分析--Pandas知识点(一) 下面将是在知识点一的基础上继续总结. 13. 简单计算 新建一个数据表 ...

  4. Python数据分析--Pandas知识点(三)

    本文主要是总结学习pandas过程中用到的函数和方法, 在此记录, 防止遗忘. Python数据分析--Pandas知识点(一) Python数据分析--Pandas知识点(二) 下面将是在知识点一, ...

  5. python 数据分析--pandas

    接下来pandas介绍中将学习到如下8块内容:1.数据结构简介:DataFrame和Series2.数据索引index3.利用pandas查询数据4.利用pandas的DataFrames进行统计分析 ...

  6. Python数据分析-Day2-Pandas模块

    1.pandas简介 Python Data Analysis Library 或 pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的.Pandas 纳入了大量库和一些标 ...

  7. Python数据分析-Pandas(Series与DataFrame)

    Pandas介绍: pandas是一个强大的Python数据分析的工具包,是基于NumPy构建的. Pandas的主要功能: 1)具备对其功能的数据结构DataFrame.Series 2)集成时间序 ...

  8. 第一章:Python数据分析前的基础铺垫

    本节概要 - 数据类型 - 数据结构 - 数据的常用操作方法 数据类型 基础铺垫 定义 我们搞数据时,首先要告诉Python我们的数据类型是什么 数值型:直接写一个数字即可 逻辑型:True,Fals ...

  9. 小白学 Python 数据分析(17):Matplotlib(二)基础操作

    人生苦短,我用 Python 前文传送门: 小白学 Python 数据分析(1):数据分析基础 小白学 Python 数据分析(2):Pandas (一)概述 小白学 Python 数据分析(3):P ...

随机推荐

  1. Struts+Spring+Hibernate处理Lob(Blob,Clob)

    在使用struts+spring+hibernate的开发中,有些时候用户会有数据库存储文件的需求,在数据库中一般会采用Blob字段或Clob字段来存储二进制图片.流媒体或文件.现就将在实际开发中遇到 ...

  2. PJzhang:Lucifer1993的struts-scan漏洞全量检测工具

    猫宁!!! 参考链接: https://www.freebuf.com/sectool/149815.html 有关struts 2的漏洞测试工具,很多,不过有的已经很久没更新了,有的只是针对某一个s ...

  3. 《算法竞赛进阶指南》1.6Trie

    142. 前缀统计 给定N个字符串S1,S2-SN,接下来进行M次询问,每次询问给定一个字符串T,求S1-SN中有多少个字符串是T的前缀. 输入字符串的总长度不超过106,仅包含小写字母. 输入格式 ...

  4. 富文本编辑器vue2-editor实现全屏功能

    vue2-editor非常不错,可惜并未带全屏功能,自己实现了一个,供大家参考. 实现思路:自定义模块. 1. 定义全屏模块Fullscreen /** * 编辑器的全屏实现 */ import no ...

  5. size_t与size_type区别

    size()  标准库string里面有个函数size,用来返回字符串中的字符个数,具体用法如下: string st("The expense of spirit\n");cou ...

  6. EF架构处理

    1,edmx 从数据库更新模型-选中表-根据模型生成数据库 清理解决方案,重新生成解决方案

  7. A Dangerous Maze LightOJ - 1027

    这题意真是... 题意:你在一个迷宫里,有一些门,每个门有一个参数x,如果为正表明你进入门后可以花x的时间出去,如果为负表明你进入门后可以花-x的时间回到出发的地方.每次回到出发的地方之后,不能记得之 ...

  8. AIX系统常用命令

    netstat -an | grep 9090  可以看到该端口正被监听,但却不知道是哪个进程占用了该端口 1. netstat -Aan|grep 端口号找到该端口连接对应的PCB/ADDR和连接的 ...

  9. innobackupex的使用

    优点: 不暂停服务器创建Innodb热备份 为mysql做增量的备份 在mysql服务器之间做在线表迁移 使创建mysql replication更加容易 备份mysql但不增加服务器的负载 安装:x ...

  10. Redis学习笔记1-安装配置

    一.Redis安装 Redis官网:http://www.redis.io/download 注意:版本号2.4,2.6,2.8等偶数结尾为稳定版,2.5等为非稳定版本,生成环境应该使用稳定版 下载解 ...