PYTHON网络爬虫与信息提取[BeautifulSoup](单元四)
1 简介
from bs4 import BeautifulSoup
soup=BeautifulSoup(<p>data</p>,'html.parser')
2 基本元素
解析,遍历,维护,标签树的库
<p class="title"> ...</p> tag对
名称 (属性 attributes)
beautifulsoup 或bs4
from bs4 import BeautifulSoup
import bs4
beautifulSoup 雷
html--------标签树(字符串)转换为beautifulsoup类
from bs4 import BeautifulSoup
soup=
注:解析器(4种)
html.parser 安装bs4库
lxml pip install lxml
xml 同上
html5lib pipinstall html5lib
beautiful 类的基本元素
Tag 标签 尖括号开头结尾
Name 格式:<tag>.name <p>的名字是 ''p''
Attributes 标签的属性,字典形式组织 <tag>.attrs
NavigableString 标签内非属性字符串 表示尖括号之间的内容
soup.a.string 就可以了
Comment 标签内字符串的注释部分
用string 也可以得出这个类型
3 标签树的遍历
.contents 获得子节点的列表
.children 获得子节点的迭代形式
.descendants 获得子孙的迭代形式
儿子节点不管包括标签 还包括\n
soup.body.contents
.parent 节点的父亲标签
.parnets 节点的先辈形式迭代版的
平行遍历(返回按照html文本顺序的节点标签)
平行遍历时实在同一个父标签下的遍历
.next_sibling
.previous_sibling
.next_siblings 迭代版
.next_previous_siblings 迭代版
4 基于bs4显示html的内容
from bs4 import BeautifulSoup
soup=BeautifulSoup(demo,"html.parser") //加载解析器的语句
soup.prettify() //soup 是 BeautifulSoup类型 用以解析html 或者遍历html
"prettify()方法非常好用"
#增加换行符
print(soup.prettify())
PYTHON网络爬虫与信息提取[BeautifulSoup](单元四)的更多相关文章
- Python网络爬虫与信息提取
1.Requests库入门 Requests安装 用管理员身份打开命令提示符: pip install requests 测试:打开IDLE: >>> import requests ...
- 第三次作业-MOOC学习笔记:Python网络爬虫与信息提取
1.注册中国大学MOOC 2.选择北京理工大学嵩天老师的<Python网络爬虫与信息提取>MOOC课程 3.学习完成第0周至第4周的课程内容,并完成各周作业 第一周 Requests库的爬 ...
- 第3次作业-MOOC学习笔记:Python网络爬虫与信息提取
1.注册中国大学MOOC 2.选择北京理工大学嵩天老师的<Python网络爬虫与信息提取>MOOC课程 3.学习完成第0周至第4周的课程内容,并完成各周作业 4.提供图片或网站显示的学习进 ...
- 第三次作业-Python网络爬虫与信息提取
1.注册中国大学MOOC 2.选择北京理工大学嵩天老师的<Python网络爬虫与信息提取>MOOC课程 3.学习完成第0周至第4周的课程内容,并完成各周作业 过程. 5.写一篇不少于100 ...
- Python网络爬虫与信息提取笔记
直接复制粘贴笔记发现有问题 文档下载地址//download.csdn.net/download/hide_on_rush/12266493 掌握定向网络数据爬取和网页解析的基本能力常用的 Pytho ...
- 【学习笔记】PYTHON网络爬虫与信息提取(北理工 嵩天)
学习目的:掌握定向网络数据爬取和网页解析的基本能力the Website is the API- 1 python ide 文本ide:IDLE,Sublime Text集成ide:Pychar ...
- Python网络爬虫与信息提取(一)
学习 北京理工大学 嵩天 课程笔记 课程体系结构: 1.Requests框架:自动爬取HTML页面与自动网络请求提交 2.robots.txt:网络爬虫排除标准 3.BeautifulSoup框架:解 ...
- Python网络爬虫与信息提取(二)—— BeautifulSoup
BeautifulSoup官方介绍: Beautiful Soup 是一个可以从HTML或XML文件中提取数据的Python库.它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式. 官方 ...
- PYTHON网络爬虫与信息提取[信息的组织与提取](单元五)
1 三种信息类型的简介 xml : extensible markup language 与html非常相似 现有html后有xml xml是html发展来的 扩展 通用 json 类型 javas ...
随机推荐
- mybatis 一对多和一对一写法注意事项
<resultMap id="ChartResultMap" type="com.qif.dsa.ucenter.planinfo.entity.ChartDate ...
- <<十二怒汉>>影评——程序正义,结果正义?
<>影评--程序正义,结果正义? 这是一部黑白的,场景简单的(全电影的发生地只是一个房间),无趣且不讨喜的电影,但是这同时又是一部伟大的,深邃的,每个人看过之后都会陷入深深思考的电影.好的 ...
- hdu 4563
hdu 4563 把每个命令走的距离抽象成完全背包 枚举最后一个不是整点走完的命令 #include <iostream> #include <algorithm> #incl ...
- zuul隔离机制
文章转载自:https://blog.csdn.net/farsight1/article/details/80078099 ZuulException REJECTED_SEMAPHORE_EXEC ...
- 关于Server.MapPath和HostingEnvironment.MapPath
最近做的项目需要在Controller里重写一个static的方法,在方法内用常用的Server.MapPath会报一个错误:An object reference is required for t ...
- java实现从实体到SQL语句的转换
使用过Hibernate,EF之类的ORM框架都知道一般的CRUD之类的简单操作,只要调用框架封装好了的方法,框架就自动生成相应的SQL语句了,参照实习公司给的代码,那个是C#版的,今天弄了一下jav ...
- 关于mybatis对实体类参数绑定参数的问题
dao层的代码: public interface SupplierMapper extends BaseMapper<SupplierDbo>{ /*List<SupplierDb ...
- 2019-8-31-dotnet-通过-WMI-获取系统安装的驱动
title author date CreateTime categories dotnet 通过 WMI 获取系统安装的驱动 lindexi 2019-08-31 16:55:59 +0800 20 ...
- linux下mysql导入导出sql文件
使用mysqldump导出数据库: # mysqldump -u root -p gzy > gzy.sql # mysqldump -u 数据库连接用户名 -p 目标数据库 > 存储的文 ...
- 从github下载项目出现yes/no的选项,无法下载项目
解决办法: # 本地执行: ssh-keygen # 将id_rsa_pub文件中公钥拷贝到github上的ssh认证 oodful@:~/Volumes/Term2 :::$cat ~/.ssh/i ...