#xiaodeng

#python3

#用Beautiful Soup解析html源码

html_doc = """

<html>

    <head>

        <title>The Dormouse's story</title>

    </head>

    <body>

        <b>测试</b>

        <p class="title">

            <b>The Dormouse's story</b>

        </p>

        <p class="story">Once upon a time there were three little sisters; and their names were

        <a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>,

        <a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and

        <a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

        <a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

        <a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

        <a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

        <a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

        and they lived at the bottom of a well.

        </p>

        <p class="story">...</p>

"""

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_doc,"html.parser")

#1、补全html代码格式化输出

#print(soup.prettify())

#2、获取html页面标题

#print(soup.title.string)

"""

还有其他类似用法：

1）print(soup.title.title)       #result：title

2）print(soup.title.name)        #result：title

"""

#3、查找所有的p标签和p标签的内容，返回一个list

#print(soup.find_all("p"))

#print(soup.find_all("a"))

#print(soup.find_all("title"))

"""

查找一条p标签记录，print(soup.p)

"""

#4、查p标签下属性class的value值

#print(soup.p["class"])

#5、查找所有id="XXX"的标签及标签内容

#print(soup.find_all(id="link3"))

#6、从文档中找到所有<a>标签的链接

"""

for key in soup.find_all("a"):

    print(key.get("href"))

"""

#7、从文档中获取所有的文字内容

#print(soup.get_text())

#8、探索标签数据类型

soup = BeautifulSoup('<b class="boldest">Extremely bold</b>',"html.parser")

tag = soup.b

#print(type(tag))    #<class 'bs4.element.Tag'>

#9、获取标签名字，每个tag都有自己的名字,通过.name来获取

#print(soup.b.name)

#10、操作标签属性

#一个tag可能有很多个属性.

# tag <b class="boldest"> 有一个 “class” 的属性,值为 “boldest” . tag的属性的操作方法与字典相同

#print(soup.b["class"])

#11、执行删除标签属性等操作

#del tag['class']

#12、正则表达式

#面例子中找出所有以b开头的标签,这表示<body>和<b>标签都应该被找到

"""

import re

soup = BeautifulSoup(html_doc,"html.parser")

for tag in soup.find_all(re.compile("^b")):

    print(tag.name)

"""

import re

soup = BeautifulSoup(html_doc,"html.parser")

#print(soup.find_all(href=re.compile("tillie")))  #href中包含tillie的超链接

#13、列表形式的匹配(匹配a和p标签)

soup = BeautifulSoup(html_doc,"html.parser")

#print(soup.find_all(["a","p"]))

#14、查找a标签下id="XXX"的标签及标签内容

# find_all( name , attrs , recursive , text , **kwargs )

# find_all() 方法搜索当前tag的所有tag子节点,并判断是否符合过滤器的条件.这里有几个例子:

#print(soup.find_all("a",id="link3"))

#15、查找a标签下class_="sister"的内容

#print(soup.find_all("a",class_="sister"))

#16、通过text参数可以搜文档中的字符串内容.

#与name参数的可选值一样, text参数接受字符串,正则表达式,列表,True

#print(soup.find_all(text="Elsie"))

#print(soup.find_all(text=["Tillie", "Elsie", "Lacie"]))

#17、限定查找标签的数量

#print(soup.find_all("a",limit=2))

#18、想搜索tag的直接子节点,可以使用参数 recursive=False

doc="""<html>

 <head>

  <title>The Dormouse's story</title>

 </head>

</html>

"""

soup = BeautifulSoup(doc,"html.parser")

#print(soup.find_all("title",recursive=False))

#19、查找父节点，兄弟节点等办法（待研究）

#20、查找title标签

soup = BeautifulSoup(html_doc,"html.parser")

#print(soup.select("title"))

#21、找到某个tag标签下的直接子标签

#注意事项：p和b之前要空格，此写法"p>b"错误

#print(soup.select("p > b"))#查找p标签下的直接子标签b

#print(soup.select("body > b"))

#22、通过CSS的类名查找class="sister"的标签

result=soup.select(".sister")

#print(result)

#23、通过tag的id查找，soup.select("#link1")

result=soup.select("#link1")

#print(result)#[<a class="sister" href="http://example.com/elsie" id="link1">Elsie</a>]

用Beautiful Soup解析html源码的更多相关文章

  1. Python解析器源码加密系列之（二）：一次使用标准c的FILE*访问内存块的尝试

    摘要:由于近期打算修改Python解释器以实现pyc文件的加密/解密,出于保密的要求,解密之后的数据只能放在内存中,不能写入到文件中.但是后续的解析pyc文件的代码又只能接受FILE*作为入参,所以就 ...

  2. HtmlAgilityPack --解析Html源码

    最近项目需要从网络上抓取一下数据解析Html源码,奈何正则表达式难写,于是网上搜索找到了“ HtmlAgilityPack”类库,敏捷开发,果然效率非同寻常. 在此做笔记,写下心得,顺便给自己总结一下 ...

  3. mvc5 解析route源码实现自己的route系统

    Asp.net mvc5 解析route源码实现自己的route系统   url route 路由系统的责任是找到匹配的路由,创建路由数据,并将请求分配给一个处理程序. 选择动作是 MVC 的处理程序 ...

  4. 浩哥解析MyBatis源码（十）——Type类型模块之类型处理器

    原创作品,可以转载,但是请标注出处地址:http://www.cnblogs.com/V1haoge/p/6715063.html 1.回顾 之前的两篇分别解析了类型别名注册器和类型处理器注册器,此二 ...

  5. 解析 ViewTreeObserver 源码（下）

    继上篇内容,本文介绍 ViewTreeObserver 的使用,以及体会其所涉及的观察者模式,期间会附带回顾一些基础知识.最后,我们简单聊一下 Android 的消息传递,附高清示意图,轻松捋清整个传 ...

  6. Python爬虫之Beautiful Soup解析库的使用（五）

    Python爬虫之Beautiful Soup解析库的使用 Beautiful Soup-介绍 Python第三方库,用于从HTML或XML中提取数据官方:http://www.crummv.com/ ...

  7. Jsoup解析网页源码时常用的Element(s)类

    Jsoup解析网页源码时常用的Element(s)类 一.简介 该类是Node的直接子类,同样实现了可克隆接口.类声明:public class Element extends Node 它表示由一个 ...

  8. 爬虫5_python2_使用 Beautiful Soup 解析数据

    使用 Beautiful Soup 解析数据(感谢东哥) 有的小伙伴们对写正则表达式的写法用得不熟练,没关系,我们还有一个更强大的工具,叫Beautiful Soup,有了它我们可以很方便地提取出HT ...

  9. 二十三、并发编程之深入解析Condition源码

    二十三.并发编程之深入解析Condition源码   一.Condition简介 1.Object的wait和notify/notifyAll方法与Condition区别 任何一个java对象都继承于 ...

随机推荐

  1. 【.Net】 C#访问修饰符

    一 类的修饰符:  C#中类的默认修饰符是internal.1 private 只有对包.NET中的应用程序或库才能访问.2 public 不限制对类的访问. 3 protected 只可以被本类和其 ...

  2. 聚类：层次聚类、基于划分的聚类（k-means）、基于密度的聚类、基于模型的聚类

    一.层次聚类 1.层次聚类的原理及分类 1)层次法(Hierarchicalmethods)先计算样本之间的距离.每次将距离最近的点合并到同一个类.然后,再计算类与类之间的距离,将距离最近的类合并为一 ...

  3. Codeforces Round #258 (Div. 2)-(A,B,C,D,E)

    http://blog.csdn.net/rowanhaoa/article/details/38116713 A:Game With Sticks 水题.. . 每次操作,都会拿走一个横行,一个竖行 ...

  4. 解决Keyboard遮盖输入的几种办法

    一般来说,键盘遮挡主要有这么几种情况,一个是遮住UITextView,还有就是遮住UITextField,一般来说,比较推荐在UIScrollView或者UITableView里加入textfield ...

  5. the network bridge on device vmnet0 is not running解决方法

    最近电脑装上win8,在安装vm 7.1.4 安装后发现网络连接中的网桥模式不能使用. 原来在本地连接里少了:VMware Bridge Protocol 最后的解决方案如下: 打开物理网卡本地连接- ...

  6. MFC增强----任务对话框CTaskDialog类

    /** 注意:从Windows Vista系统才开始支持CTaskDialog类,所以在使用时最好调用 CTaskDialog::IsSupported() 方法做判断 同时:CTaskDialog类 ...

  7. 【Java】Java-正则匹配-性能优化

    Java-正则匹配-性能优化 Java 正则 点_百度搜索 在Java类中如何用正则表达式表示小数点啊?_百度知道 使用Jakarta-ORO库的几个例子 - 小橡树 - ITeye博客 正则表达式以 ...

  8. 如何实现Linux+Windows双系统启动

    设置你的计算机根据需要启动 Windows 10 或 Ubuntu 18.04. 尽管 Linux 是一个有着广泛的硬件和软件支持的操作系统,但事实上有时你仍需要使用 Windows,也许是因为有些不 ...

  9. 设置py文件的路径

    想在IDLE中打开py文件,需要设置PYTHONPATH环境变量: 设置后,就能在IDLE的Path Browser中看到sys.path了: 然后,就可以用import了

  10. 如何实现json字符串和 BsonDocument的互相转换

    String to BsonDocument string json = "{ 'foo' : 'bar' }"; MongoDB.Bson.BsonDocument docume ...