pandas常用】的更多相关文章

shift函数是对数据进行移动的操作,假如现在有一个DataFrame数据df,如下所示: index value1 A 0 B 1 C 2 D 3 那么如果执行以下代码: df.shift() 就会变成如下: index value1 A NaN B 0 C 1 D 2 看一下函数原型: DataFrame.shift(periods=1, freq=None, axis=0) 参数: periods:类型为int,表示移动的幅度,可以是正数,也可以是负数,默认值是1,1就表示移动一次,注意这…
diff函数是用来将数据进行某种移动之后与原数据进行比较得出的差异数据,举个例子,现在有一个DataFrame类型的数据df,如下: index value1 A 0 B 1 C 2 D 3 如果执行: df.diff() 则会得到: index value1 A NaN B 1 C 1 D 1 怎么得到的呢,其实是经过了两个步骤,首先会执行: df.shift() 然后再将该数据与原数据做差,即: df.shift()-df 函数原型: DataFrame.diff(periods=1, ax…
pandas常用函数整理,作为个人笔记. 仅标记函数大概用途做索引用,具体使用方式请参照pandas官方技术文档. 约定 from pandas import Series, DataFrame import pandas as pd import numpy as np 带.的为Series或者DataFrame对象的方法,只列举了部分关键字参数. 1.基础 .values 获取值,返回array对象 .index 获取(行)索引,返回索引对象 Series( index=) 创建Series…
Pandas pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的. Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具. pandas提供了大量能使我们快速便捷地处理数据的函数和方法. >>> from pandas import Series, DataFrame >>> import pandas as pd A.pandas 函数 说明 pd.isnull(series) pd.notnull(ser…
Python数据分析与挖掘所需的Pandas常用知识 前言Pandas基于两种数据类型:series与dataframe.一个series是一个一维的数据类型,其中每一个元素都有一个标签.series类似于Numpy中元素带标签的数组.其中,标签可以是数字或者字符串.一个dataframe是一个二维的表结构.Pandas的dataframe可以存储许多种不同的数据类型,并且每一个坐标轴都有自己的标签.你可以把它想象成一个series的字典项. Pandas常用知识 一.读取csv文件为dataf…
NumPy和Pandas常用库 1.NumPy NumPy是高性能科学计算和数据分析的基础包.部分功能如下: ndarray, 具有矢量算术运算和复杂广播能力的快速且节省空间的多维数组. 用于对整组数据进行快速运算的标准数学函数(无需编写循环). 用于读写磁盘数据的工具以及用于操作内存映射文件的工具. 线性代数.随机数生成以及傅里叶变换功能. 用于集成C.C++.Fortran等语言编写的代码的工具. 首先要导入numpy库:import numpy as np A NumPy函数和属性: 类型…
Pandas 概述 Pandas(Python Data Analysis Library)是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的.Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具.Pandas提供了大量能使我们快速便捷地处理数据的函数和方法.它是使Python成为强大而高效的数据分析环境的重要因素之一. Pandas专用于数据预处理和数据分析的Python第三方库,最适合处理大型结构化表格数据 Pandas是2008年Wes Mc…
记录一下pandas常用的小技巧,时间长了干别的去了会忘记,记录一下: 1. 在处理数据过程中涉及到label和null的处理方法 # 方法一 df['height'][df.height < 180] = 0 df['height'][df.height >= 180] = 1 # 方法二 df['height'].ix[df['height'] < 180] = 0 df['height'].ix[df['height'] >= 180] = 1 # 方法三 df.loc[df…
原文链接:https://www.cnblogs.com/rexyan/p/7975707.html 一.import语句 import pandas as pd import numpy as np import matplotlib.pyplot as plt import datetime import re 二.文件读取 df = pd.read_csv(path='file.csv') 参数:header=None 用默认列名,0,1,2,3... names=['A', 'B', '…
统计方法 pandas 对象有一些统计方法.它们大部分都属于约简和汇总统计,用于从 Series 中提取单个值,或从 DataFrame 的行或列中提取一个 Series. 比如 DataFrame.mean(axis=0,skipna=True) 方法,当数据集中存在 NA 值时,这些值会被简单跳过,除非整个切片(行或列)全是 NA,如果不想这样,则可以通过 skipna=False 来禁用此功能: ? 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18…
Series 和 DataFrame还未构建完成的朋友可以参考我的上一篇博文:https://www.cnblogs.com/zry-yt/p/11794941.html 当我们构建好了 Series 和 DataFrame 之后,我们会经常使用哪些功能呢?引用上一章节中的场景,我们有一些用户的的信息,并将它们存储到了 DataFrame 中.因为大多数情况下 DataFrame 比 Series 更为常用,所以这里以 DataFrame 举例说明,但实际上很多常用功能对于 Series 也适用…
网上的有个别不对 实际敲了一下  有补充了点常用的环境IDE anaconda  python3.7 在这个速查手册中,我们使用如下缩写: df:任意的Pandas DataFrame对象 s:任意的Pandas Series对象 同时我们需要做如下的引入: import pandas as pd import numpy as np 导入数据 pd.read_csv(filename):从CSV文件导入数据 pd.read_table(filename):从限定分隔符的文本文件导入数据 pd.…
在使用Pandas之前,需要导入pandas库 import pandas  as pd #pd作为pandas的别名 常用功能如下: 代码 功能1 .DataFrame()   创建一个DataFrame对象2 .df.values 返回ndarray类型的对象3. df.index           获取行索引4 .df.columns    获取列索引5. df.axes  获取行及列索引6. df.T 行与列对调7 .df. info() 打印DataFrame对象的信息8. df.h…
一.Pandas Python Data Analysis Library或Pandas是基于NumPy的一种工具,该工具是为了解决数据分析任务而创建的.Pandas纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具.Pandas提供了大量能使我们快速便捷地处理数据的函数和方法. 二.Series Series是一维数组,与Numpy中的一维array类似.二者与Python基本的数据结构List也很相近,其区别是List中的元素可以是不同的数据类型,而Array和Serie…
我们在内容中使用以下简写: df pandas的DataFrame对象 s pandas的Series对象 导入以下包开始 import pandas as pd import numpy as np 导入数据 pd.read_csv(filename) 从csv导入 pd.read_table(filename) 从分隔的文本文件导入 pd.read_excel(filename) 从excel文件导入 pd.read_sql(query, connection_object) 从SQL数据库…
1.读取.csv文件 df2 = pd.read_csv('beijingsale.csv', encoding='gb2312',index_col='id',sep='\t',header=None) 参数解析见:https://www.cnblogs.com/datablog/p/6127000.html index_col用于指定用作行索引的列编号或者列名,sep用于指定文件的分隔符(默认是以,作为分隔符),header=None 不用文件的的第一行作为列索引 文件读取之后生成的是一个D…
1. df.head(n): 显示数据前n行,不指定n,df.head则会显示所有的行 2. df.columns.values获取所有列索引的名称 3. df.column_name: 直接获取列column_name的数据 4. pd.unique(Series)获取Series中元素的唯一值(即去掉重复的) 注意和nunique的区别,nunique只作用于Series,用法是Series.nunique() 可以看得出,nuinque()是查看该序列(axis=0/1对应着列或行)的不同…
1. df.head() Here we import pandas using the alias 'pd', then we read in our data. df.head - shows us the first rows and headers - it gives us an idea what to expect. df.tail - shows us the last rows 2. n []: df1 = pd.DataFrame({'A': ['A0', 'A1', 'A2…
一.数据导入和导出 (一)读取csv文件 1.本地读取 import pandas as pd df = pd.read_csv('tips.csv') #根据自己数据文件保存的路径填写(p.s. python填写路径时,要么使用/,要么使用\\) 2.网络读取 import pandas as pd data_url = "https://raw.githubusercontent.com/mwaskom/seaborn-data/master/tips.csv" #填写url读取…
#python中的pandas库主要有DataFrame和Series类(面向对象的的语言更愿意叫类) DataFrame也就是#数据框(主要是借鉴R里面的data.frame),Series也就是序列 ,pandas底层是c写的 性能很棒,有大神#做过测试 处理亿级别的数据没问题,起性能可以跟同等配置的sas媲美#DataFrame索引 df.loc是标签选取操作,df.iloc是位置切片操作print(df[['row_names','Rape']])df['行标签']df.loc[行标签,…
pandas的功能非常强大,支持类似与sql的数据增.删.查.改,并且带有丰富的数据处理函数: 支持时间序列分析功能:支持灵活处理缺失数据等. pandas的基本数据结构是Series和DataFrame. Series是序列,类似一维数组: DataFrame相当于一张二维表格,类似二维数组,它的每一列都是一个Series. 为了定位Series中的元素,Pandas提供了Index对象,每个Series都会带有一个对应的 Index,用来标记不同的元素,Index的内容不一定是数字,也可以是…
1. df.head(n): 显示数据前n行,不指定n,df.head则会显示所有的行 2. df.columns.values获取所有列索引的名称 3. df.column_name: 直接获取列column_name的数据 4. pd.unique(Series)获取Series中元素的唯一值(即去掉重复的) 注意和nunique的区别,nunique只作用于Series,用法是Series.nunique() 可以看得出,nuinque()是查看该序列(axis=0/1对应着列或行)的不同…
  1.构造数据 In [1]: import pandas as pd data=pd.DataFrame({'group':['a','a','a','b','b','b','c','c','c'], 'data':[4,1,2,2,3,5,3,5,5]}) data Out[1]:     group data 0 a 4 1 a 1 2 a 2 3 b 2 4 b 3 5 b 5 6 c 3 7 c 5 8 c 5   2.排序 In [2]: data.sort_values(by=[…
一.rename,更改df的列名和行索引 df=pd.DataFrame(np.arange(,).reshape(,)) print(df) print(type(df)) 结果为: <class 'pandas.core.frame.DataFrame'> my_col=dict(zip(range(),['A','B','C'])) df.rename(columns=my_col,inplace=True) print(df) print(type(df)) 结果为: A B C &l…
一.文本读写 名称 接收 代表(含义) 默认 filepath string 文件路径 无 sep string 分割符 ',' header Int/sequence 某行做列名 infer自动寻找 names array, 列名 None Index_col int,sequence,False 索引列的位置 None dtype Dict 写入数据类型 None enigne c/python 数据解析引擎 c nrows int 读取前n行 Nome 1.读 (1)read_table…
1. 使用 drop_duplicates 去重 1.1 初始化数据 df = pd.DataFrame({'stu_name': ['Tom', 'Tony', 'Jack', 'Jack', np.nan], 'stu_age': [16, 16, 15, np.nan, 21]}) stu_name stu_age 0 Nancy 17.0 1 Tony 16.0 2 Tony 16.0 3 Jack 21.0 4 Jack NaN 1.2 对一列去重 df_clean = df.drop…
1. 删除指定行 new_df = df.drop(index='行索引') new_df = df.drop('行索引', axis='index') new_df = df.drop('行索引', axis=0) 2. 删除指定的多行 new_df = df.drop(index=['行索引1', '行索引2']) new_df = df.drop(['行索引1', '行索引2'], axis='index') new_df = df.drop(['行索引1', '行索引2'], axis=…
原文链接:https://www.cnblogs.com/Yanjy-OnlyOne/p/11195621.html 一文看懂pandas的透视表pivot_table 一.概述 1.1 什么是透视表? 透视表是一种可以对数据动态排布并且分类汇总的表格格式.或许大多数人都在Excel使用过数据透视表,也体会到它的强大功能,而在pandas中它被称作pivot_table. 1.2 为什么要使用pivot_table? 灵活性高,可以随意定制你的分析计算要求 脉络清晰易于理解数据 操作性强,报表神…
df.duplicated() 参数详解: subset:检测重复的数据范围.默认为数据集的所有列,可指定特定数据列: keep: 标记哪个重复数据,默认为'first'.1.'first':标记重复数据第一次出现为True;'last':标记重复数据最后一次出现为True:False:标记所有重复数据为True. import pandas as pd #构造数据(数据集来自pandas官网 df = pd.DataFrame({ 'brand': ['Yum Yum', 'Yum Yum',…
concat函数基本介绍: 功能:基于同一轴将多个数据集合并 pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,keys=None, levels=None, names=None, verify_integrity=False) 参数详解:objs:待合并的所有数据集,一般为列表list,list中的元素为series或dataframeaxis:合并时参考的轴,axis=0为基于行合并:axis=…