从0开始学爬虫3之xpath的介绍和使用

Xpath：一种HTML和XML的查询语言，它能在XML和HTML的树状结构中寻找节点

安装xpath:

pip install lxml

HTML

超文本标记语言(HyperText Mark-up Language)，是一种规范，一种标准，是构成网页文档的主要语言

URL

统一资源定位器(Uniform Resource Locator)，互联网上的每个文件都有一个唯一的URL，它包含的信息之处文件的位置以及浏览器应该怎么处理它

Xpath的使用语法：

获取文本：

//标签1[@属性1=”属性值1”]/标签2[@属性2=”属性值2”]/…/text()

获取属性值

//标签1[@属性1=”属性值1”]/标签2[@属性2=”属性值2”]/…/@属性n

使用pycharm虚拟环境安装xpath模块

Xpath使用示例

用来进行xpath测试的网页 static/index.html

<!DOCTYPE html>

<html>

<head>

    <meta charset="utf-8">

    <meta http-equiv="X-UA-Compatible" content="IE=edge">

    <title>网页测试</title>

    <link rel="stylesheet" href="">

</head>

<body>

    <h3>标题</h3>

    <ul>

        <li>内容1</li>

        <li>内容2</li>

        <li class="important">内容3important</li>

        <li>内容4</li>

        <li>内容5</li>

    </ul>

    <div>

        内容未知

    </div>

    <p>

        段落内容 from p

    </p>

    <div id="container">

        段落文字

        <a href="http://www.baidu.com" title="超链接">跳转到百度首页</a>

        <p class="content">

            区块内容1

        </p>

        <p class="content">

            区块内容2

        </p>

        <p class="content">

            区块内容3

        </p>

        <p class="content">

            区块内容4

        </p>

        <p class="content-block">

            区块内容5 from block

        </p>

        <p class="content-block">

            区块内容6 末尾内容

        </p>

        <a href="http://www.so.com" title="超链接">跳转到360搜索首页</a>

    </div>

    <p>

        最后一段文字

    </p>

</body>

</html>

xpath使用示例

#coding=utf-8

from lxml import html

def parse():

    """将html文件中的内容，使用xpath进行提取"""

    # 读取文件中的内容

    f = open('./static/index.html', 'r', encoding='utf-8')

    s = f.read()

    selector = html.fromstring(s)

    # 解析H3标题

    h3 = selector.xpath('/html/body/h3/text()')

    print(h3[0])

    # 解析ul下面的内容

    # ul = selector.xpath('/html/body/ul/li')

    # 双斜线语法

    ul = selector.xpath("//ul/li")

    print(len(ul))

    for li in ul:

        print(li.xpath('text()')[0])

    # 解析ul指定的元素值

    ul2 = selector.xpath('/html/body/ul/li[@class="important"]/text()')

    print(ul2)

    # 解析a标签的内容，拆分的方式

    # a = selector.xpath('//div[@id="container"]/a')

    # 标签内的内容

    # print(a[0].xpath("text()")[0])

    # 得到标签的属性

    # print(a[0].xpath("@href")[0])

    # div[id="container"] 的第二个a标签内容

    # print(a[1].xpath("text()"))

    # print(a[1].xpath("@href")[0])

    # 解析a标签的内容，一次性解析的方式

    a1 = selector.xpath('//div[@id="container"]/a/text()')

    # 标签内容

    print(a1[0])

    # 标签数学

    alink = selector.xpath('//div[@id="container"]/a/@href')

    print(alink[0])

    # 解析p标签

    p = selector.xpath('/html/body/p[last()]/text()')

    print(p[0])

    f.close()

if __name__ == "__main__":

    parse()

当我们在页面中找不到xpath的时候可以使用chrome的copy xpath进行参考

从0开始学爬虫3之xpath的介绍和使用的更多相关文章

  1. 从0开始学爬虫2之json的介绍和使用

    从0开始学爬虫2之json的介绍和使用 Json 一种轻量级的数据交换格式,通用,跨平台 键值对的集合,值的有序列表 类似于python中的dict Json中的键值如果是字符串一定要用双引号 jso ...

  2. 从0开始学爬虫12之使用requests库基本认证

    从0开始学爬虫12之使用requests库基本认证 此处我们使用github的token进行简单测试验证 # coding=utf-8 import requests BASE_URL = " ...

  3. 从0开始学爬虫11之使用requests库下载图片

    从0开始学爬虫11之使用requests库下载图片 # coding=utf-8 import requests def download_imgage(): ''' demo: 下载图片 ''' h ...

  4. 从0开始学爬虫9之requests库的学习之环境搭建

    从0开始学爬虫9之requests库的学习之环境搭建 Requests库的环境搭建 环境:python2.7.9版本 参考文档:http://2.python-requests.org/zh_CN/l ...

  5. 从0开始学爬虫8使用requests/pymysql和beautifulsoup4爬取维基百科词条链接并存入数据库

    从0开始学爬虫8使用requests和beautifulsoup4爬取维基百科词条链接并存入数据库 Python使用requests和beautifulsoup4爬取维基百科词条链接并存入数据库 参考 ...

  6. 从0开始学爬虫4之requests基础知识

    从0开始学爬虫4之requests基础知识 安装requestspip install requests get请求:可以用浏览器直接访问请求可以携带参数,但是又长度限制请求参数直接放在URL后面 P ...

  7. 从0开始学爬虫10之urllib和requests库与github/api的交互

    urllib库的使用 # coding=utf-8 import urllib2 import urllib # htpbin模拟的环境 URL_IP="http://10.11.0.215 ...

  8. 从0开始学爬虫7之BeautifulSoup模块的简单介绍

    参考文档: https://www.crummy.com/software/BeautifulSoup/bs4/doc.zh/ # 安装 beautifulsoup4 (pytools) D:\pyt ...

  9. 一起学爬虫——使用selenium和pyquery爬取京东商品列表

    layout: article title: 一起学爬虫--使用selenium和pyquery爬取京东商品列表 mathjax: true --- 今天一起学起使用selenium和pyquery爬 ...

随机推荐

  1. 介绍一个二次排序的小技巧(best coder27期1001jump jump jump)

    先来描述一下问题: 问题描述 有n小孩在比赛跳远,看谁跳的最远.每个小孩可以跳3次,这个小孩的成绩就是三次距离里面的最大值.例如,一个小孩跳3次的距离分别时10, 30和20,那么这个小孩的成绩就是3 ...

  2. linux的virtualenv和virtualenvwarpper

    转自:https://www.cnblogs.com/qq631243523/p/10191748.html 一,介绍 在使用 Python 开发的过程中,工程一多,难免会碰到不同的工程依赖不同版本的 ...

  3. [Usaco2006 Jan] Redundant Paths 分离的路径

    1718: [Usaco2006 Jan] Redundant Paths 分离的路径 Time Limit: 5 Sec  Memory Limit: 64 MBSubmit: 1132  Solv ...

  4. ldap系列-基础知识

    来源:关键字排名 ldap 是什么? LDAP(Lightweight Directory Access Protocol)即轻量级目录访问协议,提供信息服务.那啥是目录服务呢? 目录服务是一种特殊的 ...

  5. C#延迟初始化Lazy<T>

    1. 概述 我们创建某一个对象需要很大的消耗,而这个对象在运行过程中又不一定用到,为了避免每次运行都创建该对象,这时候延迟初始化(也叫延迟实例化)就出场了. 延迟初始化出现于.NET 4.0,主要用于 ...

  6. pycharm flask debug调试接口

    pycharm中对某接口调试,使用print打印日志太麻烦,可以通过debug模式来调试 一.首先开启flask的debug开关 编辑configurations 勾选FLASK_DEBUG选项 已d ...

  7. 2019/8/20 Test

    题目 简述 做法 \(BSOJ2237\) 求\(\displaystyle{k\in G:\sum_{i\in G\vee j\in G}\frac{C^k_{i,j}}{C_{i,j}}}\),其 ...

  8. Storage事件及综合案例

    说到Storage事件,那么就得先给大家说一下localstorage和sessionstorage: 1.localStorage和sessionStorage一样都是用来存储客户端临时信息的对象. ...

  9. webuploader+php如何实现分片+断点续传

    这里只写后端的代码,基本的思想就是,前端将文件分片,然后每次访问上传接口的时候,向后端传入参数:当前为第几块文件,和分片总数 下面直接贴代码吧,一些难懂的我大部分都加上注释了: 上传文件实体类: 看得 ...

  10. 解决Cannot find config.m4 Make sure that you run '/home/php/bin/phpize' in the top level source directory of the module

    oot@DK:/home/daokr/downfile/php-7.0.0/ext/mysqlnd# /home/php/bin/phpizeCannot find config.m4. Make s ...