python-数据描述与分析(1)

数据描述与分析

在进行数据分析之前，我们需要做的事情是对数据有初步的了解，这个了解就涉及对行业的了解和对数据本身的敏感程度，通俗来说就是对数据的分布有大概的理解，此时我们需要工具进行数据的描述，观测数据的形状等；而后才是对数据进行建模分析，挖掘数据中隐藏的位置信息。目前在数据描述和简单分析方面做的比较好的是Pandas库。当然，它还需要结合我们之前提到的Numpy,Scipy等科学计算相关库才能发挥功效。

1.Pandas 数据结构
在进行Pandas相关介绍时我们首先需要知道的是Pandas 的两个数据结构（即对象）Series 和 DataFrame,这是Pandas的核心结构，掌握了此二者结构和属性要素，会在具体的数据处理过程中如虎添翼。

1.1 Series 简介
Series 是一种类似于以为数据的对象，它由两部分组成，第一部分是一维数据，另外一部分是与此一维数据对应的标签数据。具体如下：

import pandas as pd
centerSeries =pd.Series(["中国科学院","文献情报中心","大楼","北四环西路",])
print (centerSeries)

#output:
0     中国科学院
1    文献情报中心
2        大楼
3     北四环西路
dtype: object

因为我们没有指定它的标签数据，而python默认是通过数字排序进行标识，接下来给他添加标示数据，具体如下：

centerSeries =pd.Series(["中国科学院","文献情报中心","大楼","北四环西路",],index=["a","b","c","d"])
print (centerSeries) #index的size和Series的size必须一样长，否则报错

#output:
a     中国科学院
b    文献情报中心
c        大楼
d     北四环西路
dtype: object

对比之前的默认标识，我们可以看出它由1，2，3，4变成了a,b,c,d。接下来将解释这样标识的意义，具体如下：

import pandas as pd
centerSeries =pd.Series(["中国科学院","文献情报中心","大楼","北四环西路",],index=["a","b","c","d"])
print (centerSeries[0])  #通过一维数组进行获取数据
print (centerSeries[1])
print (centerSeries["c"])  #通过标识index获取数据
print (centerSeries["d"])

#output:
中国科学院
文献情报中心
大楼
北四环西路

另外，我们可以看到通过一维数组格式获取数据和通过index标识获取数据都可以，这样的index就像曾经学过的数据库中的id列的作用，相当于建立了每个数据的索引。当然，针对Series的操作不只限于此，还有很多需要我们自己去通过“help”查看得到的。

1.2 DataFrame 简介
DataFrame 是一个表格型的数据结构，它包含有列和行的索引，当然你也可以把它看作是由Series组织成的字典。需要说明的是，DataFrame的每一列中不需要数据类型相同，且它的数据是通过一个或者多个二维块进行存放，在了解DataFrame之前如果读者对层次化索引有所了解，那么DataFrame 可能相对容易理解，当然如果读者并不知道何谓层次化索引也没关系，举个例子：他类似于常见的excel的表格格式，可将它理解为一张excel表，具体如下：

#简单的DataFrame 制作
#字典格式的数据
data = {"name":["国科图","国科图","文献情报中心","文献情报中心"],
        "year":["2012","2013","2014","2015"],
       "local":["北四环西路","北四环西路","北四环西路","北四环西路"],
       "student":["甲","乙","丙","丁"]}
centerDF = pd.DataFrame(data)
print(centerDF)

#output:
 name  year  local student
0     国科图  2012  北四环西路       甲
1     国科图  2013  北四环西路       乙
2  文献情报中心  2014  北四环西路       丙
3  文献情报中心  2015  北四环西路       丁

#调整列的顺序
data = {"local":["北四环西路","北四环西路","北四环西路","北四环西路"],
"name":["国科图","国科图","文献情报中心","文献情报中心"],
"year":["2012","2013","2014","2015"],
"student":["甲","乙","丙","丁"]}
centerDF = pd.DataFrame(data,columns=["year","name","local","student"])
print(centerDF)

#output:
year    name  local student
0  2012     国科图  北四环西路       甲
1  2013     国科图  北四环西路       乙
2  2014  文献情报中心  北四环西路       丙
3  2015  文献情报中心  北四环西路       丁

#更改index的默认设置
data = {"name":["国科图","国科图","文献情报中心","文献情报中心"],
        "year":["2012","2013","2014","2015"],
       "local":["北四环西路","北四环西路","北四环西路","北四环西路"],
       "student":["甲","乙","丙","丁"]}
centerDF = pd.DataFrame(data,columns=["year","name","local","student"],index=["a","b","c","d"])
print(centerDF)

#output：
year    name  local student
a  2012     国科图  北四环西路       甲
b  2013     国科图  北四环西路       乙
c  2014  文献情报中心  北四环西路       丙
d  2015  文献情报中心  北四环西路       丁

既然DataFrame 是行列格式的数据，那么理所当然可以通过行、列的方式进行数据获取，按列进行数据据获取，具体如下：

data = {"name":["国科图","国科图","文献情报中心","文献情报中心"],
        "year":["2012","2013","2014","2015"],
       "local":["北四环西路","北四环西路","北四环西路","北四环西路"],
       "student":["甲","乙","丙","丁"]}
centerDF = pd.DataFrame(data,columns=["year","name","local","student"],index=["a","b","c","d"])
print (centerDF["name"])
print (centerDF["student"])

#output：
a       国科图
b       国科图
c    文献情报中心
d    文献情报中心
Name: name, dtype: object
a    甲
b    乙
c    丙
d    丁
Name: student, dtype: object

另外，可以看出按列进行获取时他们的index标识是相同的，且每一列是一个Series 对象

按行进行数据获取，其实是通过index进行操作，具体如下：

data = {"name":["国科图","国科图","文献情报中心","文献情报中心"],
        "year":["2012","2013","2014","2015"],
       "local":["北四环西路","北四环西路","北四环西路","北四环西路"],
       "student":["甲","乙","丙","丁"]}
centerDF = pd.DataFrame(data,columns=["year","name","local","student"],index=["a","b","c","d"])
print (centerDF.loc["a"])

#在使用进行DataFrame.ix进行表中的数据块选择的时候，会抛出’DataFrame’ object has no attribute ‘ix’，这个是由于在不同的pandas的版本中，DataFrame的相关属性已过期，已不推荐使用导致的。
#参考代码先锋网

#output：
year        2012
name         国科图
local      北四环西路
student        甲
Name: a, dtype: object

另外，同样可以看出每一行是一个Series 对象，此时该Series的index其实就是DataFrame 的列名称，综上来看，对于一个DataFrame 来说，它是纵横双向进行索引，只是每个Series（纵横）都共用一个索引而已

1.3 利用Pandas加载、保存数据
在进行数据处理时我们首要工作是把数据加载到内存中，这一度成为程序编辑的软肋，但是Pandas包所提供的功能几乎涵盖了大多数的数据处理的加载问题，如read_csv、read_ExcelFile

(1)加载csv格式的数据

import pandas as pd
data_csv = pd.read_csv("D:/python_cailiao/test.csv")  #它的默认属性有sep=","
data_csv

#output:
school    institute    grades    name
0    中国科学院大学    文献情报中心    15级    田鹏伟
1    中国科学院大学    文献情报中心    15级    李四
2    中国科学院大学    文献情报中心    15级    王五
3    中国科学院大学    文献情报中心    15级    张三

data_csv = pd.read_csv("D:/python_cailiao/test.csv",sep="#")   #更改默认属性sep="#"
data_csv

#output：
school,institute,grades,name
0    中国科学院大学,文献情报中心,15级,田鹏伟
1    中国科学院大学,文献情报中心,15级,李四
2    中国科学院大学,文献情报中心,15级,王五
3    中国科学院大学,文献情报中心,15级,张三

data_csv = pd.read_csv("D:/python_cailiao/test.csv",header=None,skiprows=[0])  #不要表头Header
data_csv

#output：
school    institute    grades    name
0    中国科学院大学    文献情报中心    15级    田鹏伟
1    中国科学院大学    文献情报中心    15级    李四
2    中国科学院大学    文献情报中心    15级    王五
3    中国科学院大学    文献情报中心    15级    张三

data_csv.columns=["school","institute","grades","name"]
data_csv  #自行添加表头列

#output：
school    institute    grades    name
0    中国科学院大学    文献情报中心    15级    田鹏伟
1    中国科学院大学    文献情报中心    15级    李四
2    中国科学院大学    文献情报中心    15级    王五
3    中国科学院大学    文献情报中心    15级    张三

另外，综上，通过对csv格式的文件进行读取，我们可以指定读入的格式（sep=","）,也可以指定他的header为空None，最后添加column，而之所以可以后来添加的原因是读入的csv已经是DataFrame格式对象

(2)保存csv数据

data_csv.loc[1,"name"]="顾老师"
data_csv.to_csv("D:/python_cailiao/save.csv")

(1)加载excel格式的数据

data_excel = pd.read_excel("D:/python_cailiao/excel.xlsx",sheet_name="test")
data_excel

#output：
school    institute    grades    name
0    中国科学院大学    文献情报中心    15级    田鹏伟
1    中国科学院大学    文献情报中心    15级    李四
2    中国科学院大学    文献情报中心    15级    王五
3    中国科学院大学    文献情报中心    15级    张三

data_excel.loc[1,"name"]="顾立平老师"
data_excel

#output:
school    institute    grades    name
0    中国科学院大学    文献情报中心    15级    田鹏伟
1    中国科学院大学    文献情报中心    15级    顾立平老师
2    中国科学院大学    文献情报中心    15级    王五
3    中国科学院大学    文献情报中心    15级    张三

(2)保存数据

data_excel.to_excel("D:/python_cailiao/save.xlsx",sheet_name="test")

另外，对于excel文件来说同csv格式的处理相差无几，但是excel文件在处理时需要指定sheetname属性（读取和写入sheet_name)

参考书目：《数据馆员的python简明手册》