一. 基本概念

1. Selector是一个可独立使用的模块，我们可以用Selector类来构建一个选择器对象，然后调用它的相关方法如xpaht(), css()等来提取数据，如下
from  scrapy import Selector

body= '<html><head><title>Hello World</title></head><body></body> </ html> ’

selector  = Selector(text=body)

title  = selector.xpath('//title/text()').extract_first()

print(title)

输出为

Hello World
 
 
2. scrapy shell 主要用于测试scrapy项目中命令是否生效，可在bash下直接执行，
这里我们通过使用scrapy shell来验证学习选择器提取网页数据，在linux中bash下执行命令
scrapy shell http://doc.scrapy.org/en/latest/_static/selectors-sample1.html即可进入scrapy shell命令模式
上面测试网站源码
<html>

 <head>

  <base href='http://example.com/' />

  <title>Example website</title>

 </head>

 <body>

  <div id='images'>

   <a href='image1.html'>Name: My image  <br /><img src='image1_thumb.jpg' /></a>

   <a href='image2.html'>Name: My image  <br /><img src='image2_thumb.jpg' /></a>

   <a href='image3.html'>Name: My image  <br /><img src='image3_thumb.jpg' /></a>

   <a href='image4.html'>Name: My image  <br /><img src='image4_thumb.jpg' /></a>

   <a href='image5.html'>Name: My image  <br /><img src='image5_thumb.jpg' /></a>

  </div>

 </body>

</html>
 

二.  scrapy shell中有内置选择器response.selector，可用于提取网页信息，几个例子如下

1. xpath和css的基本用法

#获取<title>的文本值，其中第一个selector字符可以不写

response.selector.xpath('//title/text()').extract_first()response.selector.css('title::text').extract_first()

#获取a标签的href属性值

response.xpath('//a/@href').extract()

response.css('a::attr(href)').extract() 

#查找属性名称包含image字样的所有a标签

 response.xpath('//a[contains(@href, "image")]/@href').extract()

 response.css('a[href*=image]::attr(href)').extract()

#查找属性名称包含image字样的所有a标签，并且在下级img目录下的src属性值

 response.xpath('//a[contains(@href, "image")]/img/@src').extract()

 response.css('a[href*=image] img::attr(src)').extract()

#结合正则表达式提取所需内容

 response.css('a::text').re('Name\:(.*)')   #提取(.*)代表的内容

 response.css('a::text').re_first('Name\:(.*)').strip()  #提取第一个(.*）代表的内容，strip()去除首尾空格

2. xpath和css也可以一起用

#先选上src属性标签

response.xpath('//div[@id="images"]').css('img::attr(src)'))

#提取相应信息

response.xpath('//div[@id="images"]').css('img::attr(src)')).extract() #得到多个字符值

response.xpath('//div[@id="images"]').css('img::attr(src)')).extract_first() #得到一个字符值

response.xpath('//div[@id="images"]').css('img::attr(src)')).extract_first(default='') #如果没提取到返回默认值
注意：
1. extract()方法把selector类型变为数据类型
2. [@id="images"]表示用属性来限制匹配的范围，只查找id属性值等于images的div标签，经测试[]中的id属性值image必须用双引号



												


											
scrapy 中用selector来提取数据的用法的更多相关文章
	

    
								
  1. 在scrapy中利用Selector来提取数据
		
    1.创建对象 Selector类的实现位于scrapy.selector模块,创建Selector对象的时候,可以将页面的Html文档字符串传递给Selector构造器方法 2.选中数据 调用Sele ...
    
		
    2. 
						
  2. BeautifulSoup4 提取数据爬虫用法详解
		
    Beautiful Soup 是一个HTML/XML 的解析器,主要用于解析和提取 HTML/XML 数据. 它基于 HTML DOM 的,会载入整个文档,解析整个 DOM树,因此时间和内存开销都会大 ...
    
		
    3. 
						
  3. scrapy框架Selector提取数据
		
    从页面中提取数据的核心技术是HTTP文本解析,在python中常用的模块处理: BeautifulSoup  非常流行的解析库,API简单,但解析的速度慢. lxml 是一套使用c语言编写的xml解析 ...
    
		
    4. 
						
  4. scrapy之使用LinkExtractor提取链接
		
    一.概述: 在页面含有少量链接时,使用selector来提取信息就可以,但如果链接特别多时,就需要用LinkExtractor来提取. 二.LinkExtractor构造器的各个参数: 1.allow ...
    
		
    5. 
						
  5. Scrapy 框架（二）数据的持久化
		
    scrapy数据的持久化(将数据保存到数据库) 一.建立项目 1.scrapy startproject dushu 2.进入项目 cd dushu 执行:scrapy genspider -t cr ...
    
		
    6. 
						
  6. scrapy中Selector的使用
		
    scrapy的Selector选择器其实也可以用来解析,今天主要总结下css和xpath的用法,其实我个人最喜欢用css 以慕课网嵩天老师教程中的一个网页为例,python123.io/ws/demo ...
    
		
    7. 
						
  7. [数据科学] 从csv, xls文件中提取数据
		
    在python语言中,用丰富的函数库来从文件中提取数据,这篇博客讲解怎么从csv, xls文件中得到想要的数据. 点击下载数据文件http://seanlahman.com/files/databas ...
    
		
    8. 
						
  8. Python中用format函数格式化字符串的用法
		
    这篇文章主要介绍了Python中用format函数格式化字符串的用法,格式化字符串是Python学习当中的基础知识,本文主要针对Python2.7.x版本,需要的朋友可以参考下   自python2. ...
    
		
    9. 
						
  9. mysql 导出表结构和表数据 mysqldump用法
		
    mysql 导出表结构和表数据 mysqldump用法 命令行下具体用法如下:   mysqldump -u用戶名 -p密码 -d 数据库名 表名 > 脚本名; 导出整个数据库结构和数据mysq ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. spring security+cas(cas proxy配置)
			
    什么时候会用到代理proxy模式? 举一个例子:有两个应用App1和App2,它们都是受Cas服务器保护的,即请求它们时都需要通过Cas 服务器的认证.现在需要在App1中通过Http请求访问App2 ...
    
			
    2. 
						
  2. 自己制作winhex的模板
			
    winhex有很多的官方模板,可以在网上下载(后缀tpl)并放至它的安装目录,即可使用.不过要是自己能自己制作,这才好玩,不是么?! 打开模板管理器,可以选中其中一个模板,下面有应用,有编辑,你点开编 ...
    
			
    3. 
						
  3. 4-在windon10上mysql安装与图形化管理
			
    安装及可能遇到的问题: 1.windows10上安装mysql(详细步骤  https://blog.csdn.net/zhouzezhou/article/details/52446608 2. 在 ...
    
			
    4. 
						
  4. Linux中bash编程
			
    bash编程也叫shell编程 预定义变量         $? 最后一次执行的命令的返回状态.如果这个变量的值为0,证明上一个命令正确的执行:如果这个变量返回的值非0(具体是那个数,有命令自己来决定 ...
    
			
    5. 
						
  5. 文件读取草稿（excel，csv）
			
    using NPOI.XSSF.UserModel; using System; using System.Collections.Generic; using System.Data; using  ...
    
			
    6. 
						
  6. 静态HTML服务器
			
    主要代码 #pragma once#include "pre.h"#include <thread> NAMESPACE(DEF) class Socket {publ ...
    
			
    7. 
						
  7. Redis数据结构（四）
			
    存储list: list存储方式采用头和尾插入的方式,这样效率快,如果没有这个插入的数据,redis自己会创建这个数据,如果是中间插入的话,采用list方式效率就会很慢. ArrayList使用数组方 ...
    
			
    8. 
						
  8. polymer入门例子-已过时
			
    这个教程挺不错!:http://blog.csdn.net/renfufei/article/details/37040883 过时了,现在的版本已经为1.0了 一:创建APP结构 本教程会使用预先构 ...
    
			
    9. 
						
  9. 关于fastjson的一个坑：输出json时，bean对象属性首字母默认被小写
			
    fastjson 是一个性能很好的 Java 语言实现的 JSON 解析器和生成器,来自阿里巴巴. 主要特点: 快速FAST: 比其它任何基于Java的解析器和生成器更快,包括jackson 强大:支 ...
    
			
    10. 
						
  10. linux 常用命令，开发记住这些基本能够玩转linux
			
    系统信息 arch 显示机器的处理器架构(1) uname -m 显示机器的处理器架构(2) uname -r 显示正在使用的内核版本 dmidecode -q 显示硬件系统部件 - (SMBIOS  ...
    
			
    11.