# C:\Users\lenovo\Desktop\总结\Python # 读取 Excel 文件并进行筛选 import pandas as pd # 设置列对齐 pd.set_option("display.unicode.ambiguous_as_wide",True) pd.set_option("display.unicode.east_asian_width",True) # 读取工号姓名时段交易额,使用默认索引 dataframe = pd.read_

从文本文件读取数据 法一: 使用read.readline.readlines读取数据 read([size]):从文件读取指定的字节数.如果未给定或为负值,则去取全部.返回数据类型为字符串(将所有行合并为一个字符串). readline([size]):从文件读取整行,包括‘\n’字符.如果给定的是一个负数或未给定则读取整行,给定的是一个正数,则返回指定大小的字节数.返回数据类型为字符串. readlines([size]):从文件读取所用行,并返回列表.如果给定的是正数则读取一行,负数或未给

Pandas 数据筛选,去重结合group by 需求 今小伙伴有一个Excel表, 是部门里的小伙9月份打卡记录, 关键字段如下: 姓名, 工号, 日期, 打卡方式, 时间, 详细位置, IP地址.... 脱敏数据: 姓名 工号 日期 方式 时间 ... 小赵 123 2019-09-01 GPS 08:37:50 .... 小赵 123 2019-09-01 GPS 18:10:50 ... 小陈 124 2019-09-01 GPS 08:47:30 ... 小陈 124 2019-09-

Pandas与VBA筛选数据的比较 Author:Collin_PXY 需求: 将B列里值为Completed 和 Pending的A,B,D三列数据筛选出来,新建一个名为 Filited_data的worksheet来存放筛选数据. Python解决: from pandas import DataFrame import pandas as pd import openpyxl # 处理数据 file_path = r"C:\Users\12078\Desktop\UIPATH_test\f

目录 1. 数据文件 2. 读数据 3. 查找数据 4. 替换数据 4.1 一对一替换 4.2 多对一替换 4.3 多对多替换 5. 插入数据 6. 删除数据 6.1 删除列 6.2 删除行 7. 处理缺失值 7.1 数据准备 7.2 查看缺失值 7.3 删除缺失值 7.4 缺失值的填充 8. 处理重复值 8.1 删除重复行 8.2 删除某一列中的重复值 8.3 获取唯一值 9 排序数据 9.1 用sort_values()函数排序数据 9.2 用rank()函数获取数据的排名 10 rank(

学习自:pandas1.2.1documentation 0.常用 1)读写 ①从不同文本文件中读取数据的函数,都是read_xxx的形式:写函数则是to_xxx: ②对前n行感兴趣,或者用于检查读进来的数据的正确性,用head(n)方法:类似的,后n行,用tail(n)--如果不写参数n,将会是5行:信息浏览可以用info()方法: ③检查各列的类型,用dtypes属性. 2)取子集 ①这一部分的内容与numpy的切片.索引部分很类似: ②可以通过shape属性查看DataFrame与Seri

pandas-10 pd.pivot_table()透视表功能 和excel一样,pandas也有一个透视表的功能,具体demo如下: import numpy as np import pandas as pd from pandas import Series, DataFrame #显示所有列 pd.set_option('display.max_columns', None) #显示所有行 pd.set_option('display.max_rows', None) #设置value的

read_excel() 加载函数为read_excel(),其具体参数如下. read_excel(io, sheetname=0, header=0, skiprows=None, skip_footer=0, index_col=None,names=None, parse_cols=None, parse_dates=False,date_parser=None,na_values=None,thousands=None, convert_float=True, has_index_na

一.查看数据(查看对象的方法对于Series来说同样适用) 1.查看DataFrame前xx行或后xx行 a=DataFrame(data); a.head(6)表示显示前6行数据,若head()中不带参数则会显示全部数据. a.tail(6)表示显示后6行数据,若tail()中不带参数则也会显示全部数据. 2.查看DataFrame的index,columns以及values a.index ; a.columns ; a.values 即可 3.describe()函数对于数据的快速统计汇总

上面那篇文章中,初步介绍了一个文本文件的读取:接下来介绍另外一种常见的本地数据格式,那就是Excel电子表格,如果读者在学习或者工作中需要使用Python分析某个Excel表格数据,改如何完成第一个的数据读取呢? 1.Pandas模块中的read_excel 方法原型: pd.read_excel(io,sheetname=0,header=0,skiprows=None,skipfooter=None,index_col=None,names=None,parse_cols=None,pars

目录 一.函数原型 二.功能说明 三.常用参数说明 四.总结 一.函数原型 pd.read_excel(io, sheet_name=0, header=0, names=None, index_col=None, usecols=None, squeeze=False, dtype=None, engine=None, converters=None, true_values=None, false_values=None, skiprows=None, nrows=None, na_valu

10分钟入门 pandas 评:我跟作者的智商差距是有多大,才能让我用60分钟看完作者认为10分钟的内容... 详细内容见 Cookbook 习惯上我们先导入 : In [1]: import pandas as pd In [2]: import numpy as np In [3]: import matplotlib.pyplot as plt 创建序列(Series),输入可为列表(list): In [4]: s = pd.Series([1,3,5,np.nan,6,8]) In [

一.Series的创建: pd.Series([ 数据 ]) In [17]: import pandas as pd In [18]: import numpy as np In [19]: s = pd.Series([1,1,1,1,np.nan]) In [20]: s Out[20]: 0 1.0 1 1.0 2 1.0 3 1.0 4 NaN dtype: float64 二.生成DataFrame 1,Numpy 产生随机数组 In [17]: np.random.rand(5,5

学习利用python进行数据分析的笔记&下星期二内部交流会要讲的内容,一并分享给大家.博主粗心大意,有什么不对的地方欢迎指正~还有许多尚待完善的地方,待我一边学习一边完善~ 前言:各种和数据分析相关python库的介绍(前言1~4摘抄自<利用python进行数据分析>) 1.Numpy: Numpy是python科学计算的基础包,它提供以下功能(不限于此): (1)快速高效的多维数组对象naarray (2)用于对数组执行元素级计算以及直接对数组执行数学运算的函数 (3)用于读写硬盘上

DataFrame使用总结1(超实用): 1. 合并两个表 frame = [df1, df2] df = pd.concat(frame) res = pd.merge(df, df1, on=['key', 'key1'], how='inner') res = pd.merge(df, df1, left_on=['key'], left_on=['key1'], how='inner') 合并表的操作(Merge, join, and concatenate) http://pandas

需求分析: 判断excel2表中的某个唯一字段是否满足条件,如果满足条件,就在excel1中进行查询,若存在excel中,就将该数据进行剔除. python脚本的实现: from __future__ import division import pandas as pd #指定文件的路径 imputfile= 'C:\\Users\\Administrator\\Desktop\\excel1.xlsx' #原始表excel1 imputfile1= 'C:\\Users\\Administr

看了很多博客,关于关联规则的介绍想做一个详细的汇总:  一.概念                                                                               表1 某超市的交易数据库 交易号TID 顾客购买的商品 交易号TID 顾客购买的商品 T1 bread, cream, milk, tea T6 bread, tea T2 bread, cream, milk T7 beer, milk, tea T3 cake, milk

reportgen v0.1.8 更新介绍 这段时间,我对 reportgen 进行了大工程量的修改和更新.将之前在各个文章中出现的函数进行了封装,同时也对现有工具包的一些逻辑进行了调整. 1.reportgen 简介 reportgen 的底层是 pptx 文件生成接口,它能非常方便的将DataFrame等数据导出为pptx上的图表.你可以自定义图表的类型(条形图.饼图.折线图等),也可以全部交给工具包来自动化.另外不排除后期会增加其他文件形式(如可交互的 html 等)接口的可能性,但短期内

pandas用法大全 一.生成数据表 1.首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd12 2.导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv('name.csv',header=1)) df = pd.DataFrame(pd.read_excel('name.xlsx')) 3.用pandas创建数据表: df = pd.DataFrame({"i

数据预处理是指因为算法或者分析需要,对经过数据质量检查后的数据进行转换.衍生.规约等操作的过程.整个数据预处理工作主要包括五个方面内容:简单函数变换.标准化.衍生虚拟变量.离散化.降维.本文将作展开介绍,并提供基于Python的代码实现. 1. 简单函数变换 简单函数变换是指对原始数据直接使用某些数学函数进行转换,主要用于将不具有正态分布的数据变换成具有正态分布,同时也可以用于对数据进行压缩,比如\(10^8和10^9\)更关注的是相对差距而不是绝对差距,可以通过取对数变换实现. 常用的函数包括