对于CSV及txt后缀的文本文件,分别使用pandas模块中的read_csv函数和read_table函数

文件类型

函数名称

CSV

read_csv()

txt

read_table()

1. read_table函数的参数

read_table(filepath_or_buffer , sep='\t' , header='infer' ,

names=None , index _col=None , usecols=None , dtype=None ,

converters=None ,  skiprows=None , skipfooter=None , nrows=None ,

na_values=None , skip_blank_lines=True , parse_dates=False ,

thousands= None , comment=None , encoding=None)

2. 参数解释

序号

参数名称

描述

1

filepath_or_buffer

文件路径、指定存储数据的URL或者文件型对象

2

sep

指定原数据集中分割每行字段的分隔符,默认为tab制表符

3

header

是否将原数据集中的第一行作为表头,默认是0,将第一行作为变量名称;如果原始数据中没有表头,该参数需要设置成None。

4

names

如果原数据集中没有列名,这个可以用来给数据添加列名。和header=None一起使用。

5

index _col

指定数据集中的某些列(字段)作为数据的行索引(标签)

6

usecols

指定要读取哪些列(字段)的数据。

7

dtype

为数据集中的每列设置不同的数据类型

8

converters

通过字典格式,为数据集中的某些列(字段)设置转换函数

9

skiprows

指定需要跳过原数据集的起始行数

10

skipfooter

指定需要跳过原数据集的末尾行数

11

nrows

指定从文件开头处读入的行数

12

na_values

指定原数据集中的哪些特征值为缺失值(默认将两个分隔符之间的空值视为缺失值)

13

skip_blank_lines

跳过空白行,默认为True

14

parse_dates

尝试将数据解析为datetime,默认为False。参数值为True时,则尝试解析数据框的行索引;参数为列表,则尝试解析对应的日期列;如果参数为嵌套列表,则将某些列合并为日期列;如果参数为字典,则解析对应的列(即字典中的值),并生成新的变量名(即字典中的键)

15

thousands

指定原数据集中的千分位符 ,例如','或'.'

16

comment

指定注释符,在读取数据时,如果碰到行首指定的注释符,则跳过该行

17

encoding

为防止中文乱码,可以借助该参数解决(通常设置为“utf-8”或者“gbk”)

18

chunksize

用于迭代的块大小

19

date_parser

用于解析日期的函数

read_csv函数的参数与之完全一致,有一个不同点:sep参数值的默认值

文件类型

函数名称

默认分隔符

CSV

read_csv()

参数的默认值为英文状态下的逗号“,”

txt

read_table()

参数的默认值为tab制表符

3 应用案例

有一个txt文件,内容如下:

2021年寒假留校过年的同学,带“!”的同学因临时变更选择回家

如有变化,及时报送

0014,多隆,男,河北石家庄人

0015,陈近南,男,福建漳州人

! 0016,韦小宝,男,江苏扬州人

0017,龙儿,女,神龙岛人

!0018,鳌拜,内蒙古呼和浩特人

数据来源于鹿鼎大学人事部

抄送给康熙

要求只读取编号、姓名、性别、籍贯等内容,且回家的不用读,实现如下效果:

id

name

gender

native place

0

14

多隆

河北石家庄人

1

15

陈近南

福建漳州人

2

17

龙儿

神龙岛人

代码

import pandas as pd

#用read_table函数读取文本文件的数据

data=pd.read_table(r'D:Desktop\新建文本文档.txt',    #文件路径,前面的filepath_or_buffer符可以省略掉

sep=',',   #指定数据中变量之间的分隔符,注意这里是中文的逗号 ,

header=None ,    #不需要将原来的数据中的第一行读作表头

names=['id','name','gender','native place'] ,  #重新为各列起变量名称

converters={'id':str} ,   #将ID转换为字符串,以免开头的00消失

skiprows=2 ,          #跳过开头的两行数据

skipfooter=2,         #跳过末尾的两行数据

comment='!'        #不读取“!”开头的数据行

)

Pandas—read_csv()/read_table()文本文件的读取的更多相关文章

  1. API:详解 pandas.read_csv

    pandas.read_csv 作为常用的读取数据的常用API,使用频率非常高,但是API中可选的参数有哪些呢? pandas项目代码 答案是: .read_csv(filepath_or_buffe ...

  2. pandas read_csv读取大文件的Memory error问题

    今天在读取一个超大csv文件的时候,遇到困难:首先使用office打不开然后在python中使用基本的pandas.read_csv打开文件时:MemoryError 最后查阅read_csv文档发现 ...

  3. pandas.read_csv()函数读取文件时,关于“header=None”影响读取列数区间的右闭合总结

    对于一个没有字段名标题的数据,如data.csv 1.获取数据内容.pandas.read_csv("data.csv")默认情况下,会把数据内容的第一行默认为字段名标题. imp ...

  4. pandas.read_csv() 部分参数解释

    read_csv()所有参数 pandas.read_csv( filepath_or_buffer, sep=',', delimiter=None, header='infer', names=N ...

  5. pandas.read_csv()参数(转载)

    文章转载地址 pandas.read_csv参数整理 读取CSV(逗号分割)文件到DataFrame 也支持文件的部分导入和选择迭代 更多帮助参见:http://pandas.pydata.org/p ...

  6. pandas.read_csv to_csv参数详解

    pandas.read_csv参数整理   读取CSV(逗号分割)文件到DataFrame 也支持文件的部分导入和选择迭代 更多帮助参见:http://pandas.pydata.org/pandas ...

  7. 被 Pandas read_csv 坑了

    被 Pandas read_csv 坑了 -- 不怕前路坎坷,只怕从一开始就走错了方向 Pandas 是python的一个数据分析包,纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的 ...

  8. java算法面试题:从类似如下的文本文件中读取出所有的姓名,并打印出重复的姓名和重复的次数,并按重复次数排序 ;读取docx 读取doc 使用poi 相关jar包提集提供下载

    从类似如下的文本文件中读取出所有的姓名,并打印出重复的姓名和重复的次数,并按重复次数排序 1,张三,28 2,李四,35 3,张三,28 4,王五,35 5,张三,28 6,李四,35 7,赵六,28 ...

  9. pandas read_csv 读取中文列标题文件报错

    Traceback (most recent call last): File "C:/Users/arron/PycharmProjects/ML/ML/test.py", li ...

  10. pandas.read_csv参数详解

    读取CSV(逗号分割)文件到DataFrame 也支持文件的部分导入和选择迭代 更多帮助参见:http://pandas.pydata.org/pandas-docs/stable/io.html 参 ...

随机推荐

  1. location对象的方法

    location.assign() 跟href一样,可以跳转页面(也称为重定向页面). location.replace() 替换当前页面,因为不记录历史,所以不能后退页面. location.rel ...

  2. java项目实践-cookie-session-day18

    目录 1. cookie 2. session 3. servletcontext 4.servletConfig 1. cookie cookie 在客户端(浏览器)中保持http状态的 信息技术 ...

  3. java基础数据类型-int类型-浮点型-数据类型的转换--day02

    目录 1. 变量的命名 2. 常量 3. 变量 4. 进制 4.1 进制转换 4.2 整型数据类型 5 浮点型 6. 字符串 7. 整形与字符型之间的转换 8 最常见的一个乱码问题 9. 布尔类型 1 ...

  4. netstat 命令查看端口状态详解

    转载请注明出处: netstat 可以查看服务器当前端口列表及指定端口的连接状态等: -t : 指明显示TCP端口,t是TCP的首字母. -u : 指明显示UDP端口,u是UDP的首字母 -p : 显 ...

  5. LLM面面观之Prefix LM vs Causal LM

    1. 背景 关于Prefix LM和Causal LM的区别,本qiang在网上逛了一翻,发现多数客官只给出了结论,但对于懵懵的本qiang,结果仍是懵懵... 因此,消遣了多半天,从原理及出处,交出 ...

  6. Python定位错误:段错误 (核心已转储)

    技术背景 在各种编程语言中都有可能会遇到这样一个报错:"段错误 (核心已转储)".显然是编写代码的过程中有哪里出现了问题,但是这个报错除了这几个字以外没有任何的信息,我们甚至不知道 ...

  7. [转帖]实践真知:解决 Jdbc 连接 Oracle 12c 时快时慢的问题

    https://cloud.tencent.com/developer/article/1052506 李真旭@killdb Oracle ACE,云和恩墨技术专家 个人博客:www.killdb.c ...

  8. [转帖]SQL Server 2008~2022版本序列号/密钥/激活码 汇总

    https://www.cnblogs.com/cqpanda/p/16148822.html SQL Server 2022# Enterprise: J4V48-P8MM4-9N3J9-HD97X ...

  9. [转帖]TiDB升级、TiFlash测试及对比ClickHouse

    原创 NewSQL 作者:o烟雨潇潇o 时间:2020-05-13 11:53:16  4418  0 TiDB升级.TiFlash测试及对比ClickHouse                   ...

  10. 人大金仓学习之二_ksh和kddm的学习

    人大金仓学习之二_ksh和kddm的学习 摘要 承接上一篇文章 主要是这里总结一下ksh相关的文档. 这里学习了很多文档: https://help.kingbase.com.cn/v8/perfor ...