重点方法

  • 分组:groupby('列名') groupby(['列1'],['列2'........])

分组步骤:

  1. (spiltting)拆分 按照一些规则将数据分为不同的组

  2. (Applying)申请 对于每组数据分别执行一个函数

  3. (Combining) 组合 将结果组合到一个数据结构

  • 分组后默认统计的方法

    1.size() 大小 = count() max(),min(),std(),median()中位数,first(),last()

    函数名 使用
    count 分组中非NA(空值)的数量
    sum 非NA的和
    mean 非NA的平均值
    median 非NA的值的算术中位数
    std;var 无偏(分母为n-1)标准差和方差
    prod 非NA值的积
    first;last 第一个和最后一个非NA的值

以上统计函数:除了count()外,都会自动过滤非数字列!!!

排重:duplicated() 重复

1.检查重复数据:df.duplicated() 判断整行数据

2.检查重复指定列名:df.duplicated(['列1','列2....'])

3.删除重复数据:df.drop_duplicates()

4.删除时指定保留的数据:df.drop_duplicates(['列1','列2'...],keep='first/last')

  • keep:保存

  • first:第一个

  • last:最后一个

数据透视表

  • df.pivot_table(df,index=['列1','列2...'],values='名',aggfunc=np.mean/sum)

    • index : 排序的列

    • values: 统计列

    • aggfunc :执行的统计函数,不写默认统计平均值

分组替换:categories 分组/分类

  • 实现第二列!分组,并替换数据!

  • df['新列名']=df['B'].astype('category'): 转换为分类/分组类型

  • 分配列名:df['新列名'].cat.categories(['值1','值2....'])

  • 重新设置:df['新列名']=df['新列名'].cat.set_categories(['值1','值2.....'])

读写文件

  • HDF5:存储大数据,可方便和其他语言对接, 了解

    • to_hdf(文件)

    • read_hdf(文件)

  • csv:

    • to_csv(文件)

    • read_csv(文件)

  • 表格 excel:

    • to_excel(文件)

    • read_excel(文件)

Python数据分析 Pandas模块 基础数据结构与简介(二)的更多相关文章

  1. Python数据分析 Pandas模块 基础数据结构与简介(一)

    pandas 入门 简介 pandas 组成 = 数据面板 + 数据分析工具 poandas 把数组分为3类 一维矩阵:Series 把ndarray强大在可以存储任意数据类型可以专门处理时间数据 二 ...

  2. Python数据分析Pandas库之熊猫(10分钟二)

    pandas 10分钟教程(二) 重点发法 分组 groupby('列名') groupby(['列名1','列名2',.........]) 分组的步骤 (Splitting) 按照一些规则将数据分 ...

  3. Python数据分析--Pandas知识点(二)

    本文主要是总结学习pandas过程中用到的函数和方法, 在此记录, 防止遗忘. Python数据分析--Pandas知识点(一) 下面将是在知识点一的基础上继续总结. 13. 简单计算 新建一个数据表 ...

  4. Python数据分析--Pandas知识点(三)

    本文主要是总结学习pandas过程中用到的函数和方法, 在此记录, 防止遗忘. Python数据分析--Pandas知识点(一) Python数据分析--Pandas知识点(二) 下面将是在知识点一, ...

  5. python 数据分析--pandas

    接下来pandas介绍中将学习到如下8块内容:1.数据结构简介:DataFrame和Series2.数据索引index3.利用pandas查询数据4.利用pandas的DataFrames进行统计分析 ...

  6. Python数据分析-Day2-Pandas模块

    1.pandas简介 Python Data Analysis Library 或 pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的.Pandas 纳入了大量库和一些标 ...

  7. Python数据分析-Pandas(Series与DataFrame)

    Pandas介绍: pandas是一个强大的Python数据分析的工具包,是基于NumPy构建的. Pandas的主要功能: 1)具备对其功能的数据结构DataFrame.Series 2)集成时间序 ...

  8. 第一章:Python数据分析前的基础铺垫

    本节概要 - 数据类型 - 数据结构 - 数据的常用操作方法 数据类型 基础铺垫 定义 我们搞数据时,首先要告诉Python我们的数据类型是什么 数值型:直接写一个数字即可 逻辑型:True,Fals ...

  9. 小白学 Python 数据分析(17):Matplotlib(二)基础操作

    人生苦短,我用 Python 前文传送门: 小白学 Python 数据分析(1):数据分析基础 小白学 Python 数据分析(2):Pandas (一)概述 小白学 Python 数据分析(3):P ...

随机推荐

  1. 【转】有了Auto Layout,为什么你还是害怕写UITabelView的自适应布局?

      Apple 算是最重视应用开发体验的公司了.从Xib到StoryBoard,从Auto Layout到Size Class,每一次的更新,都会给iOS应用的开发带来不小的便利.但是,对于绝对多数i ...

  2. 条形码问题 dp+求某个序列在某种排列中的序号的方法

    题目 条形码是一种由亮条(Light Bar)和暗条(Dark Bar)交替出现且以暗条为起头的符号,每条都占有若干个单位宽.图33-1给出了一个含有4个条的条形码,它延续了1+2+3+1=7单位的宽 ...

  3. javascript简单的表单验证

    <html> <head> <title>用户登录</title> <script language="javascript" ...

  4. python对ini配置文件处理

    实例文件: [root@docker2 ~]# cat test.ini [base] host = 192.168.88.121 port = 3306 user = root path = /ho ...

  5. pscp多线程传输文件

    前面说过pscp不支持多线程,所以在此特地实现了一个 程序分三个部分: 1.初始化各种参数,涉及getopt函数的使用 2.重新定义scp,实现传递IP然后远程拷贝 3.启动多线程调用scp,涉及多线 ...

  6. 虚方法virtual详解

    虚方法virtual详解   从C#的程序编译的角度来看,它和其它一般的函数有什么区别呢?一般函数在编译时就静态地编译到了执行文件中,其相对地址在程序运行期间是不发生变化的,也就是写死了的!而虚函数在 ...

  7. 最新版kubernetesV1.14.1集群一键自动部署脚本

    部署命令如下:详情及注意事项请看README.md git clone https://github.com/luckman666/deploy_Kubernetes-v1.14.1.git cd d ...

  8. 设计 REST API 的13个最佳实践

    写在前面 之所以翻译这篇文章,是因为自从成为一名前端码农之后,调接口这件事情就成为了家常便饭,并且,还伴随着无数的争论与无奈.编写友好的 restful api 不论对于你的同事,还是将来作为第三方服 ...

  9. Java集合类工具CollectionUtils的操作方法

    集合判断: 例1: 判断集合是否为空:CollectionUtils.isEmpty(null): trueCollectionUtils.isEmpty(new ArrayList()): true ...

  10. javascript动态添加、修改、删除对象的属性与方法

    在其他语言中,对象一旦生成,就不可更改了,要为一个对象添加修改成员必须要在对应的类中修改,并重新实例化,而且程序必须经过重新编译.JavaScript 中却非如此,它提供了灵活的机制来修改对象的行为, ...