本文始发于个人公众号:TechFlow,原创不易,求个关注 今天是pandas数据处理专题的第四篇文章,我们一起来聊聊DataFrame中的索引. 上一篇文章当中我们介绍了DataFrame数据结构当中一些常用的索引的使用方法,比如iloc.loc以及逻辑索引等等.今天的文章我们来看看DataFrame的一些基本运算. 数据对齐 我们可以计算两个DataFrame的加和,pandas会自动将这两个DataFrame进行数据对齐,如果对不上的数据会被置为Nan(not a number). 首先我

df.mode()return的是一个frame,因为可能存在多个总数.那么用mode()来填充nan的时候就要注意了,如果直接 df.fillna(df.mode()) 会发现还是有很多空值没有填充,正确的写法如下: df.fillna(df.mode().iloc[0])# iloc 安装行的index访问

1.空值 1.1 有两种丢失数据: None: Python自带的数据类型 不能参与到任何计算中 np.nan: float类型 能参与计算,但结果总是nan # None+2 # 报错 # np.nan + 2 # 值仍然是nan 1.2 np.nan(NaN) 数组直接运算会得到nan,但可以使用np.nansum()函数来计算nan,此时视nan为0. ndarr = np.array([1,2,3,np.nan]) np.sum(ndarr) np.nansum(ndarr) Serie

官方文档:pandas之DataFrame 1.构造函数 用法 pandas.DataFrame( data=None, index=None, columns=None, dtype=None, ) 参数 参数 类型 说明 data ndarray.iterable.dict.DataFrame 用于构造DataFrame的数据(注意,用某个DataFrame构造另一个DataFrame,可能会导致同步修改的问题:如果要得到某个DataFrame的副本,可以用df.copy()) index

Python:pandas(一) 这一章翻译总结自:pandas官方文档--General functions 空值:pd.NaT.np.nan //判断是否为空 if a is np.nan: ... 数据操作 melt 将DataFrame从一个宽类型转化为长类型:固定某一列,看该列变量其他列的值 pivot 用某些列将DataFrame变形(不是常见的大小变形) cut 切割一个一维数据为离散的区间 qcut 与cut相似,区别在于cut是等长切割,qcut是等元素数切割 merge 连接

Pandas是Python下最强大的数据分析和探索库,是基于Numpy库构建的,支持类似SQL的结构化数据的增.删.查.改,具有丰富的数据处理函数.Pandas有两大数据结构:Series和DataFrame,本文主要对Series的常用用法进行总结梳理. 约定: import pandas as pd 1.什么是Series对象? Series对象本质上类似于一个一维数组,由一列元素(由值和对应的索引)组成. 2.Series对象的创建 Series对象的创建主要是使用pd.Series方法.

Pandas有两大数据结构:Series和DataFrame,之前已对Series对象进行了介绍(链接),本文主要对DataFrame对象的常用用法进行总结梳理. 约定: import pandas as pd 1.什么是DataFrame对象? 一个二维表,有行索引(index)和列索引(columns),列的数据类型可以不同. 2.DataFrame对象的创建 DataFrame对象的创建主要是使用pd.DataFrame方法.主要包括以下三种: (1)方法1:通过等长列表组成的字典创建 d

pandas 两种数据结构 Series和DataFrame 一  Series 一种类似与一维数组的对象 values:一组数据(ndarray类型) index:相关的数据索引标签 1.1  series的创建 Series(data=None, index=None, dtype=None, name=None, copy=False, fastpath=False) data:列表/numpy一维数据/dic. index:显示索引,格式为:[] dtype:数据的类型 name:Ser

一.Pandas介绍 1.介绍 pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的.Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具.pandas提供了大量能使我们快速便捷地处理数据的函数和方法.你很快就会发现,它是使Python成为强大而高效的数据分析环境的重要因素之一. 2.数据结构 Series:一维数组,与Numpy中的一维array类似.二者与Python基本的数据结构List也很相近.Series如今能保存不同种数据类

第16天pandas的基本功能(一) 灵活的二进制操作 体现在2个方面 支持一维和二维之间的广播 支持缺失值数据处理 四则运算支持广播 +add - sub *mul /div divmod()分区和模运算(返回商和余数2个结果) 案例:a,b=divmod(一维矩阵) 空值处理 矩阵中空值用NaN代替 NaN+值=NaN np(numpy).nan表示空值 填充空值: fillna(value=值) np.nan == np.nan 结果为False 如果a矩阵和b矩阵中有空值 那么 a ==

背景 关于同一个话题,不同作者也有不同行文结构.但要真正理解并会用,在我的经验里,是必须要自己重新组织的. 本文是基于以往看过的资料,从自身数据处理应用的角度出发,重新组织pandas应用结构,希望能边梳理边掌握. 目录 1.dataframe&series 2.输入输出&常用函数 3.数据清洗 4.数据转换 5.高阶函数lamba 6.图 1.dataframe&series 2.输入输出&常用函数 3.数据清洗 查看各列情况(空值数.数据类型.异常值) 空值填充 数据类

人的理想志向往往和他的能力成正比. —— 约翰逊 其实整个需求呢,就是题目.2018-08-16 需求的结构图: 涉及的包有:pandas.numpy 1.导入包: import pandas as pd import numpy as np 2.构造DataFrame,里面包含三种数据类型:int.null.str  data = {"number":[1,1,np.nan,np.nan,2,2,1,2,2], "letter":['a','b',np.nan,n

处理丢失数据 import pandas as pd from pandas import Series, DataFrame import numpy as np 有两种丢失数据: 1. None None是Python自带的,其类型为python object.因此,None不能参与到任何计算中. 2. np.nan(NaN) np.nan是浮点类型,能参与到计算中.但计算的结果总是NaN. 3. pandas中的None与NaN 1) pandas中None与np.nan都视作np.nan

首先, 读入一个 csv 文件: import pandas as pd df = pd.read_csv('/Users/rachel/Sites/pandas/py/pandas/5_handling_missing_data_fillna_dropna_interpolate/weather_data.csv') df 输出: 查看一下 day 列的数据类型: type(df.day[0]) 输出: str 所以目前 day 列里数据类型是字符串. 把 day 列里的数据转成时间戳, 加上

其实每一篇博客我都要用很多琐碎的时间片段来学完写完,每次一点点,用到了就学一点,学一点就记录一点,要用上好几天甚至一两个礼拜才感觉某一小类的知识结构学的差不多了. Pandas 是基于 NumPy 的一个开源 Python 库,它被广泛用于快速分析数据,以及数据清洗和准备等工作.它的名字来源是由“ Panel data”(面板数据,一个计量经济学名词)两个单词拼成的.简单地说,你可以把 Pandas 看作是 Python 版的 Excel. 一.  数据结构介绍 在pandas中有两类非常重要的

jupter nootbok 快捷键 插入cell:a b 删除cell:x cell模式的切换:m:Markdown模式 y:code模式 运行cell:shift+enter tab:补全 shift+tab:打开帮助文档 NumPy NumPy(Numerical Python) 是 Python 语言的一个扩展程序库,支持大量的维度数组与矩阵运算,此外也针对数组运算提供大量的数学函数库. 一.创建ndarray 1. 使用np.array()创建 一维数据创建 import numpy

Pandas是Python下最强大的数据分析和探索库,是基于Numpy库构建的,支持类似SQL的结构化数据的增.删.查.改,具有丰富的数据处理函数.Pandas有两大数据结构:Series和DataFrame,本文主要对Series的常用用法进行总结梳理. 约定: import pandas as pd 1.什么是Series对象? Series对象本质上类似于一个一维数组,由一列元素(由值和对应的索引)组成. 2.Series对象的创建 Series对象的创建主要是使用pd.Series方法.

pandas对象拥有一组常用的数学和统计方法,大部分都属于约简和汇总统计,用于从Series中提取单个的值,或者从DataFrame中的行或列中提取一个Series.相比Numpy而言,Numpy都是基于没有缺失数据的假设而构建的. 来看一个简单的例子 In [6]: df=DataFrame([[1.4,np.nan],[7,-4],[np.nan,np.nan],[0.75,-1.3]],index=['a ...: ','b','c','d'],columns=['one','two'])

6.12自我总结 一.pandas模块 import pandas as pd约定俗称为pd 1.模块官方文档地址 https://pandas.pydata.org/pandas-docs/stable/?v=20190307135750 2.对一维的数据处理成列表 1.pd.Serirs功能 import numpy as np import pandas as pd arr = np.array([1, 2, 3, 4, np.nan, ]) s = pd.Series(arr) prin

新建表 data1 = { "name": ["Tom", "Bob", "Mary", "James"], "age": [18, 30, 35, 18], "city": ["Bei Jing ", "Shang Hai ", "Guang Zhou", "Shen Zhen"] }