目录 行的union pd.concat df.append 列的join pd.concat pd.merge df.join 行列转置 pivot stack & unstack melt 本文示例数据下载,密码:vwy3 import pandas as pd # 数据是之前在cnblog上抓取的部分文章信息 df = pd.read_csv('./data/SQL测试用数据_20200325.csv',encoding='utf-8') # 为了后续演示,抽样生成两个数据集 df1 =

import pandas as pd import numpy as np #创建列表 a1=[1,2,3] #arange函数:指定初始值.终值.步长来创建数组 a2=np.arange(0,1,0.1) #创建数据框 a3=pd.DataFrame({'a':[1,2,3],'b':[4,5,6],'c':[7,8,9]}) #1.list 转化成array矩阵 b1 = np.array(a1).T Out[30]: array([1, 2, 3]) #2.array转化成datafra

df = pd.merge( df, # 左 wzplbm, # 右 left_on = ['WZBM','ZBWZMC'], # 左DataFrame匹配列 right_on = ['WZPLBM','WZMC'],# 右DataFrame匹配列 how='inner' # 内连接 (left:左连接,right:右连接,outer:外连接) )

利用pandas自带的函数notnull可以很容易判断某一列是否为null类型,但是如果这一列中某一格为空字符串"",此时notnull函数会返回True,而一般我们选择非空行并不包括这一点,所以需要把这一类也去掉. # df为需要筛选的数据框,col为选择非空依赖的列 df = df[(df[col].notnull) & (df[col] != "")] 如果数据来源是MySQL数据库,用sql函数调用的时候也要注意相同的问题. SELECT col F

# 去除重复行数据 keep:'first':保留重复行的第一行,'last':保留重复行的最后一行,False:删除所有重复行df = df.drop_duplicates( subset=['YJML','EJML','SJML','WZLB','GGXHPZ','CGMS'], # 去重列,按这些列进行去重 keep='first' # 保存第一条重复数据 )

# 识别python中DataFrame中的nanfor i in pfsj.index: if type(pfsj.loc[i]['WZML']) == float: print('float value is ${}'.format(pfsj.loc[i]['WZML'])) elif type(pfsj.loc[i]['WZML']) == str: print('str value is ${}'.format(pfsj.loc[i]['WZML'])) 结果: # 根据结果可知在Dat

python中的axis究竟是如何定义的呢?他们究竟代表是DataFrame的行还是列? 直接上代码people=DataFrame(np.random.randn(5,5), columns=['a','b','c','d','e'], index=['Joe','Steve','Wes','Jim','Travis'])               a         b         c         d         eJoe     0.814300 -0.495764  0.3

python中的axis究竟是如何定义的呢?他们究竟代表是DataFrame的行还是列? 直接上代码people=DataFrame(np.random.randn(5,5), columns=['a','b','c','d','e'], index=['Joe','Steve','Wes','Jim','Travis'])                a         b         c         d         eJoe     0.814300 -0.495764  0.

//2019.07.19/20 python中pandas数据分析基础(数据重塑与轴向转化.数据分组与分组运算.离散化处理.多数据文件合并操作) 3.1 数据重塑与轴向转换1.层次化索引使得一个轴上拥有多个索引2.series多层次索引:(1)series的层次化索引:主要可以通过s[索引第1层:索引第二次]可以进行相应的索引(2)对于series可以通过s.unstack()函数将其转换为DataFrame具体举例代码如下:s=pd.Series(range(1,10),index=[["a&

Q-Q图主要可以用来回答这些问题: 两组数据是否来自同一分布 PS:当然也可以用KS检验,利用python中scipy.stats.ks_2samp函数可以获得差值KS statistic和P值从而实现判断. 两组数据的尺度范围是否一致 两组数据是否有类似的分布形状 前面两个问题可以用样本数据集在Q-Q图上的点与参考线的距离判断:而后者则是用点的拟合线的斜率判断. 用Q-Q图来分析分布的好处都有啥?(谁说对了就给他) 两组数据集的大小可以不同 可以回答上面的后两个问题,这是更深入的数据分布层面的

Python发展至今,已经有越来越多的人使用python进行科学技术,NumPY是python中的一款高性能科学计算和数据分析的基础包. ndarray ndarray(以下简称数组)是numpy的数组对象,需要注意的是,它是同构的,也就是说其中的所有元素必须是相同的类型.其中每个数组都有一个shape和dtype. shape既是数组的形状,比如 import numpy as np from numpy.random import randn arr = randn(12).reshape(

除了在Matlab中使用PRTools工具箱中的svm算法,Python中一样可以使用支持向量机做分类.因为Python中的sklearn也集成了SVM算法. 一.简要介绍一下sklearn Scikit-Learn库已经实现了所有基本机器学习的算法,具体使用详见官方文档说明:http://scikit-learn.org/stable/auto_examples/index.html#support-vector-machines skleran中集成了许多算法,其导入包的方式如下所示, 逻辑

使用像Scikit-Learn这样的库,现在很容易在Python中实现数百种机器学习算法.这很容易,我们通常不需要任何关于模型如何工作的潜在知识来使用它.虽然不需要了解所有细节,但了解机器学习模型是如何工作的仍然有用.这使我们可以在模型表现不佳时进行诊断,或者解释模型如何做出决策,如果我们想让别人相信我们的模型,这是至关重要的. 在本文中,我们将介绍如何在Python中构建和使用Random Forest.除了查看代码之外,我们还将尝试了解此模型的工作原理.因为由许多决策树组成的随机森林,我们首

Pandas基于两种数据类型: series 与 dataframe . 1.Series 一个series是一个一维的数据类型,其中每一个元素都有一个标签.类似于Numpy中元素带标签的数组.其中,标签可以是数字或者字符串. import numpy as np import pandas as pd s = pd.Series([1, 2, 5, np.nan, 6, 8]) print(s) 输出: 0    1.0 1    2.0 2    5.0 3    NaN 4    6.0

收益率曲线(Yield Curve)是显示一组货币和信贷风险均相同,但期限不同的债券或其他金融工具收益率的图表.纵轴代表收益率,横轴则是距离到期的时间.在此用python建模分析零息票收益率曲线,输出图表并制图. 首先要理解收益率的计算方法,然后计算出连续复利和复利.再根据计算步骤在python中编写代码建模 此为连续复利的计算 # 没有年息票的一年期以内的零息票年收益率YTM=(log(面值/价格))/期限 r1 = np.log(100/97.5)/0.25 r2 = np.log(100/

# 在Python中可以根据某列的具体内容来拆分数据,保存成多个DataFrame! # 代码如下: ycsj = pfsj[pfsj['备注'].isin(['1'])] # 拆分数据: 结果:

1. filter 功能: filter的功能是过滤掉序列中不符合函数条件的元素,当序列中要删减的元素可以用某些函数描述时,就应该想起filter函数. 调用: filter(function,sequence),function可以是匿名函数或者自定义函数,它会对后面的sequence序列的每个元素判定是否符合函数条件,返回TRUE或者FALSE,从而只留下TRUE的元素:sequence可以是列表.元组或者字符串 x = [1,2,3,4,5] print(list(filter(lambd

一. 列表 1. 查 names = "YanFeixu WuYifan" names_1 = ["YanFeixu"," WuYifan","Zhangsan"] print(names) print(names_1[0],names_1[2]) print(names_1[1:2]) # 切片 print(names_1[2]) # 切片 print(names_1[-1]) # 切片 print(names_1[-2:]

python中的pandas的两种基本使用2018年05月19日 16:03:36 木子柒努力成长 阅读数:480 一.pandas简介 pandas:panel data analysis(面板数据分析),是基于numpy 构建的含有更高级数据结构和工具的数据分析包,类似于numpy ,pandas也是围绕着Series 和 DataFrame两个核心数据结构展开的.Series 和 DataFrame 分别对应于一维的数列和二维的表结构.pandas的导入方式如下: import panda

原文地址:  http://blog.csdn.net/liyaohhh/article/details/51055147#reply python中的list是python的内置数据类型,list中的数据类不必相同的,而array的中的类型必须全部相同.在list中的数据类型保存的是数据的存放的地址,简单的说就是指针,并非数据,这样保存一个list就太麻烦了,例如list1=[1,2,3,'a']需要4个指针和四个数据,增加了存储和消耗cpu. numpy中封装的array有很强大的功能,里面

https://docs.scipy.org/doc/numpy-dev/user/quickstart.html  (numpy官网一些教程) numpy教程:数组创建 python中的矩阵.多维数组----numpy 1. 引言 最近在将一个算法由matlab转成python,初学python,很多地方还不熟悉,总体感觉就是上手容易,实际上很优雅地用python还是蛮难的.目前为止,觉得就算法仿真研究而言,还是matlab用得特别舒服,可能是比较熟悉的缘故吧.matlab直接集成了很多算法工