Python request库与爬虫框架

Requests库的7个主要方法
  requests.request()：构造一个请求，支持以下各方法的基础方法
  requests.get()：获取HTML网页的主要方法，对应于HTTP的GET
  requests.head():获取HTML网页头信息的方法，对应于HTTP的HEAD
  requests.post():向HTML网页提交POST请求的方法，对应于HTTP的POST
  requests.put():向HTML网页提交PUT请求的方法，对应于HTTP的PUT
  requests.patch():向HTML网页提交局部修改请求，对应于HTTP的PATCH
  requests.delete():向HTML网页提交删除请求，对应于HTTP的Delete
HTTP协议对资源的操作（6种）与以上方法一一对应
  GET:请求URL位置的资源
  HEAD：请求获取URL位置资源的响应消息报告，即获得该资源的头部信息
  POST：请求向URL位置的资源后附加新的数据
  PUT：请求向URL位置存储一个资源，覆盖原URL位置的资源
  PATCH：请求局部更新URL位置的资源，即改变该处资源的部分内容
  DELETE：请求删除URL位置存储的资源
【注】PATCH和PUT的区别
  假设URL位置有一组数据UserInfo，包括UserID,UserName等20个字段
  需求：用户修改了UserName，其他不变
  *采用PATCH方法，仅向URL提交UserName的局部更新请求
  *采用PUT方法，由于他会覆盖原有URL位置资源，
  所以必须将所有20个字段一并提交到URL，未提交字段被删除
  比较PATCH和PUT看出
    Patch的最主要好处：节省网络带宽
HTTP协议：HypertextTransferProtocol,超文本传输协议
它是一个基于"请求与相应"模式的、
无状态的（第一次请求和第二次无相关关联）应用层协议
它一般采用URL作为网络资源的标识
URL是通过HTTP协议存取资源的Internet路径，一个URL对应一个数据资源
URL格式如下 http://host[:port][path]
host:合法的Internet主机域名或IP地址
port:端口号，缺省（默认）端口为80P
path:请求资源的路径
当我们向URLPOST一个字典或POST一个键值对时会默认地被存储到表单form的字段下
当我们向URLPOST字符串时会默认地被存储到data的字段下
服务器会根据提交的数据类型不同进行相关的整理
PUT方法相同，但是会把原有数据覆盖掉

'''
requests.request(method,url,**kwargs)
method:请求方式，对应get/put/post等7种
requests.request('GET',url,**kwargs)
requests.request('HEAD',url,**kwargs)
requests.request('POST',url,**kwargs)
requests.request('PUT',url,**kwargs)
requests.request('PATCH',url,**kwargs)
requests.request('delete',url,**kwargs)
requests.request('OPTIONS',url,**kwargs)
#向服务器获取一些与客户端打交道的参数，不与资源直接相关所以使用较少
url:拟获取页面的url链接
**kwargs：控制访问参数，共13个

'''

#显式定义的参数放在了形参里面，不怎么用的放在了可选里面
'''
###########################最常用
requests.get(url,params=None,**kwargs)
url:拟获取页面的url链接
params:url中的额外参数，字典或字节流格式，可选
**kwargs：12个控制访问参数（request方法中除了param之外的12个）
'''

'''
requests.head(url,**kwargs)
url:拟获取页面的url链接
**kwargs：13个控制访问参数
'''
'''
requests.post(url,data=None,json=None,**kwargs)
url:拟获取页面的url链接
data:字典、字节序列或文件，Request的内容
json:JSON格式的数据，Request的内容
**kwargs：11个控制访问参数（除了以上两个的11个）
'''
'''
requests.put(url,data=None,**kwargs)
url:拟获取页面的url链接
data:字典、字节序列或文件，Request的内容
**kwargs：12个控制访问参数（除了以上1个的12个）
'''
'''
requests.patch(url,data=None,**kwargs)
url:拟获取页面的url链接
data:字典、字节序列或文件，Request的内容
**kwargs：12个控制访问参数（除了以上1个的12个）
'''
'''
requests.delete(url,**kwargs)
url:拟获取页面的url链接
**kwargs：13个控制访问参数
'''

'''
爬取网页的通用代码框架
通用代码框架：一组代码，可以准确的爬取网页上的内容
用request库进行网页访问的时候经常用get函数
requests.get(url)获得url的相关内容
但是网络连接有风险
这样的语句并不是一定成立的，所以异常处理很重要
request库支持6种常用的连接异常
'''
#request.ConnectionError:网络连接异常，如DNS查询失败、拒绝连接等
#request.HTTPError:HTTP错误异常
#request.URLRequired:URL缺失异常
#request.TooManyRedirects:超过最大重定向次数，产生重定向异常
#request.ConnectTimeout:连接远程服务器超时异常
#request.TimeOut:请求URL超时，产生超时异常
'''
Response类与异常打交道的方法
r.raise_for_status():如果不是200，产生异常request.HTTPError
判断返回的response类型状态是不是200
'''
import requests
def getHTMLText(url):
  try:
    r=requests.get(url,timeout = 30)#,timeout = 30
    r.raise_for_status()#如果状态不是200，引发HTTPError异常
    r.encoding = r.apparent_encoding
    #防乱码
    return r.text
  except:
    return "产生异常"
if __name__=="__main__":
  url="http://www.baidu.com"
  print(getHTMLText(url))