第三百二十二节，web爬虫，requests请求

requests请求，就是用yhthon的requests模块模拟浏览器请求，返回html源码

模拟浏览器请求有两种，一种是不需要用户登录或者验证的请求，一种是需要用户登录或者验证的请求

一、不需要用户登录或者验证的请求

这种比较简单，直接利用requests模块发一个请求即可拿到html源码

#!/usr/bin/env python

# -*- coding:utf8 -*-

import requests     #导入模拟浏览器请求模块

http =requests.get(url="http://www.iqiyi.com/")     #发送http请求

http.encoding = "utf-8"                             #http请求编码

neir = http.text                                    #获取http字符串代码

print(neir)

得到html源码

<!DOCTYPE html>

<html>

<head>

<title>抽屉新热榜-聚合每日热门、搞笑、有趣资讯</title>

        <meta charset="utf-8" />

        <meta name="keywords" content="抽屉新热榜,资讯,段子,图片,公众场合不宜,科技,新闻,节操,搞笑" />

        <meta name="description" content="

            抽屉新热榜，汇聚每日搞笑段子、热门图片、有趣新闻。它将微博、门户、社区、bbs、社交网站等海量内容聚合在一起，通过用户推荐生成最热榜单。看抽屉新热榜，每日热门、有趣资讯尽收眼底。

            " />

        <meta name="robots" content="index,follow" />

        <meta name="GOOGLEBOT" content="index,follow" />

        <meta name="Author" content="搞笑" />

        <meta http-equiv="X-UA-Compatible" content="IE=EmulateIE8">

        <link type="image/x-icon" href="/images/chouti.ico" rel="icon"/>

        <link type="image/x-icon" href="/images/chouti.ico" rel="Shortcut Icon"/>

        <link type="image/x-icon" href="/images/chouti.ico" rel="bookmark"/>

    <link type="application/opensearchdescription+xml"

          href="opensearch.xml" title="抽屉新热榜" rel="search" />

二、需要用户登录或者验证的请求

获取这种页面时，我们首先要了解整个登录过程，一般登录过程是，当用户第一次访问时，会自动在浏览器生成cookie文件，当用户输入登录信息后会携带着生成的cookie文件，如果登录信息正确会给这个cookie

授权，授权后以后访问需要登录的页面时携带授权后cookie即可

1、首先访问一下首页，然后查看是否有自动生成cookie

#!/usr/bin/env python

# -*- coding:utf8 -*-

import requests     #导入模拟浏览器请求模块

### 1、在没登录之前访问一下首页，获取cookie

i1 = requests.get(

    url="http://dig.chouti.com/",

    headers={'Referer': 'http://dig.chouti.com/'}

)

i1.encoding = "utf-8"                               #http请求编码

i1_cookie = i1.cookies.get_dict()

print(i1_cookie)                                    #返回获取到的cookie

#返回：{'JSESSIONID': 'aaaTztKP-KaGLbX-T6R0v', 'gpsd': 'c227f059746c839a28ab136060fe6ebe', 'route': 'f8b4f4a95eeeb2efcff5fd5e417b8319'}

可以看到生成了cookie，说明如果登陆信息正确，后台会给这里的cookie授权，以后访问需要登录的页面携带授权后的cookie即可

2、让程序自动去登录授权cookie

首先我们用浏览器访问登录页面，随便乱输入一下登录密码和账号，获取登录页面url，和登录所需要的字段

携带cookie登录授权

#!/usr/bin/env python

# -*- coding:utf8 -*-

import requests     #导入模拟浏览器请求模块

### 1、在没登录之前访问一下首页，获取cookie

i1 = requests.get(

    url="http://dig.chouti.com/",

    headers={'Referer':'http://dig.chouti.com/'}

)

i1.encoding = "utf-8"                               #http请求编码

i1_cookie = i1.cookies.get_dict()

print(i1_cookie)                                    #返回获取到的cookie

#返回：{'JSESSIONID': 'aaaTztKP-KaGLbX-T6R0v', 'gpsd': 'c227f059746c839a28ab136060fe6ebe', 'route': 'f8b4f4a95eeeb2efcff5fd5e417b8319'}

### 2、用户登陆，携带上一次的cookie，后台对cookie中的随机字符进行授权

i2 = requests.post(

    url="http://dig.chouti.com/login",              #登录url

    data={                                          #登录字段

        'phone': "",

        'password': "",

        'oneMonth': ""

    },

    headers={'Referer':'http://dig.chouti.com/'},

    cookies=i1_cookie                               #携带cookie

)

i2.encoding = "utf-8"

dluxxi = i2.text

print(dluxxi)                                       #查看登录后服务器的响应

#返回：{"result":{"code":"9999", "message":"", "data":{"complateReg":"0","destJid":"cdu_50072007463"}}}  登录成功

3、登录成功后，说明后台已经给cookie授权，这样我们访问需要登录的页面时，携带这个cookie即可，比如获取个人中心

#!/usr/bin/env python

# -*- coding:utf8 -*-

import requests     #导入模拟浏览器请求模块

### 1、在没登录之前访问一下首页，获取cookie

i1 = requests.get(

    url="http://dig.chouti.com/",

    headers={'Referer':'http://dig.chouti.com/'}

)

i1.encoding = "utf-8"                               #http请求编码

i1_cookie = i1.cookies.get_dict()

print(i1_cookie)                                    #返回获取到的cookie

#返回：{'JSESSIONID': 'aaaTztKP-KaGLbX-T6R0v', 'gpsd': 'c227f059746c839a28ab136060fe6ebe', 'route': 'f8b4f4a95eeeb2efcff5fd5e417b8319'}

### 2、用户登陆，携带上一次的cookie，后台对cookie中的随机字符进行授权

i2 = requests.post(

    url="http://dig.chouti.com/login",              #登录url

    data={                                          #登录字段

        'phone': "",

        'password': "",

        'oneMonth': ""

    },

    headers={'Referer':'http://dig.chouti.com/'},

    cookies=i1_cookie                               #携带cookie

)

i2.encoding = "utf-8"

dluxxi = i2.text

print(dluxxi)                                       #查看登录后服务器的响应

#返回：{"result":{"code":"9999", "message":"", "data":{"complateReg":"0","destJid":"cdu_50072007463"}}}  登录成功

### 3、访问需要登录才能查看的页面，携带着授权后的cookie访问

shouquan_cookie = i1_cookie

i3 = requests.get(

    url="http://dig.chouti.com/user/link/saved/1",

    headers={'Referer':'http://dig.chouti.com/'},

    cookies=shouquan_cookie                        #携带着授权后的cookie访问

)

i3.encoding = "utf-8"

print(i3.text)                                     #查看需要登录才能查看的页面

获取需要登录页面的html源码成功

全部代码

get()方法，发送get请求
encoding属性，设置请求编码
cookies.get_dict()获取cookies
post()发送post请求
text获取服务器响应信息

#!/usr/bin/env python

# -*- coding:utf8 -*-

import requests     #导入模拟浏览器请求模块

### 1、在没登录之前访问一下首页，获取cookie

i1 = requests.get(

    url="http://dig.chouti.com/",

    headers={'Referer':'http://dig.chouti.com/'}

)

i1.encoding = "utf-8"                               #http请求编码

i1_cookie = i1.cookies.get_dict()

print(i1_cookie)                                    #返回获取到的cookie

#返回：{'JSESSIONID': 'aaaTztKP-KaGLbX-T6R0v', 'gpsd': 'c227f059746c839a28ab136060fe6ebe', 'route': 'f8b4f4a95eeeb2efcff5fd5e417b8319'}

### 2、用户登陆，携带上一次的cookie，后台对cookie中的随机字符进行授权

i2 = requests.post(

    url="http://dig.chouti.com/login",              #登录url

    data={                                          #登录字段

        'phone': "",

        'password': "",

        'oneMonth': ""

    },

    headers={'Referer':'http://dig.chouti.com/'},

    cookies=i1_cookie                               #携带cookie

)

i2.encoding = "utf-8"

dluxxi = i2.text

print(dluxxi)                                       #查看登录后服务器的响应

#返回：{"result":{"code":"9999", "message":"", "data":{"complateReg":"0","destJid":"cdu_50072007463"}}}  登录成功

### 3、访问需要登录才能查看的页面，携带着授权后的cookie访问

shouquan_cookie = i1_cookie

i3 = requests.get(

    url="http://dig.chouti.com/user/link/saved/1",

    headers={'Referer':'http://dig.chouti.com/'},

    cookies=shouquan_cookie                        #携带着授权后的cookie访问

)

i3.encoding = "utf-8"

print(i3.text)                                     #查看需要登录才能查看的页面

注意：如果登录需要验证码，那就需要做图像处理，根据验证码图片，识别出验证码，将验证码写入登录字段

第三百二十二节，web爬虫，requests请求的更多相关文章

  1. 第三百二十四节，web爬虫，scrapy模块介绍与使用

    第三百二十四节,web爬虫,scrapy模块介绍与使用 Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架. 其可以应用在数据挖掘,信息处理或存储历史数据等一系列的程序中.其最初是为了 ...

  2. 第三百二十九节，web爬虫讲解2—urllib库爬虫—ip代理—用户代理和ip代理结合应用

    第三百二十九节,web爬虫讲解2—urllib库爬虫—ip代理 使用IP代理 ProxyHandler()格式化IP,第一个参数,请求目标可能是http或者https,对应设置build_opener ...

  3. 第三百二十八节，web爬虫讲解2—urllib库爬虫—状态吗—异常处理—浏览器伪装技术、设置用户代理

    第三百二十八节,web爬虫讲解2—urllib库爬虫—状态吗—异常处理—浏览器伪装技术.设置用户代理 如果爬虫没有异常处理,那么爬行中一旦出现错误,程序将崩溃停止工作,有异常处理即使出现错误也能继续执 ...

  4. 第三百二十七节，web爬虫讲解2—urllib库爬虫—基础使用—超时设置—自动模拟http请求

    第三百二十七节,web爬虫讲解2—urllib库爬虫 利用python系统自带的urllib库写简单爬虫 urlopen()获取一个URL的html源码read()读出html源码内容decode(& ...

  5. 第三百二十六节，web爬虫，scrapy模块,解决重复ur——自动递归url

    第三百二十六节,web爬虫,scrapy模块,解决重复url——自动递归url 一般抓取过的url不重复抓取,那么就需要记录url,判断当前URL如果在记录里说明已经抓取过了,如果不存在说明没抓取过 ...

  6. 第三百二十五节，web爬虫，scrapy模块标签选择器下载图片，以及正则匹配标签

    第三百二十五节,web爬虫,scrapy模块标签选择器下载图片,以及正则匹配标签 标签选择器对象 HtmlXPathSelector()创建标签选择器对象,参数接收response回调的html对象需 ...

  7. 第三百二十三节，web爬虫，scrapy模块以及相关依赖模块安装

    第三百二十三节,web爬虫,scrapy模块以及相关依赖模块安装 当前环境python3.5 ,windows10系统 Linux系统安装 在线安装,会自动安装scrapy模块以及相关依赖模块 pip ...

  8. 第三百七十二节，Python分布式爬虫打造搜索引擎Scrapy精讲—scrapyd部署scrapy项目

    第三百七十二节,Python分布式爬虫打造搜索引擎Scrapy精讲—scrapyd部署scrapy项目 scrapyd模块是专门用于部署scrapy项目的,可以部署和管理scrapy项目 下载地址:h ...

  9. 第三百三十一节，web爬虫讲解2—Scrapy框架爬虫—Scrapy安装—Scrapy指令

    第三百三十一节,web爬虫讲解2—Scrapy框架爬虫—Scrapy安装—Scrapy指令 Scrapy框架安装 1.首先,终端执行命令升级pip: python -m pip install --u ...

随机推荐

  1. GitBash: 右键添加 Git Bash Here 菜单

    步骤: 1.通过在“运行”中输入‘regedit’,打开注册表. 2.找到[HKEY_CLASSES_ROOT\Directory\Background]. 3.在[Background]下如果没有[ ...

  2. Cowboy实例

    这个例子主要是用cocos2d-x引擎自带的资源 cocos2d-x-2.2.2\samples\Cpp\TestCpp\Resources\armature 新建工程之后 #include &quo ...

  3. [SQL Server 2014] 微软将于年底发布新版数据库SQL Server 2014

    在今年的TechEd大会上,微软宣布SQL Server 2014的第一个技术预览版.SQL Server 2014的重点包括内存OLTP.实时的大数据分析.支持混合云端,以及提供更完整的商业智能(B ...

  4. memory-based 协同过滤（CF）方法

    协同过滤(collaborative filtering,CF)算法主要分为memory-based CF 和 model-based CF,而memory-based CF 包括user-based ...

  5. vue中的filters的用法

    1.效果 金额保留两位小数,并加上单位元 2.index.html <!DOCTYPE html> <html lang="en"> <head> ...

  6. 设置Chrome忽略网站证书错误

    本人在XP下使用Chrome.总是莫名其妙的提示整数错误,一部分https网站无法直接访问.网上找了下,把解决思路记录下来. 解决这个问题很简单,只需要修改你平时用来启动Chrome的快捷方式就可以忽 ...

  7. Ant编译android程序

    http://blog.csdn.net/xyz_lmn/article/details/7268582 这一篇主要做了创建android项目.update已存在项目.ant编译项目. 一,准备ant ...

  8. iOS开发中多线程断点下载大文件

    主要思想,就是创建一个与目标文件等大小的空白文件,然后分段往这个空白文件中写入数据. 可以通过发送HEAD请求,获得服务器中文件的具体大小,然后再将这样的长度分割成若干等大的数据块,在发送get请求时 ...

  9. vue-router "path" is required in a route configuration

    启用了动态路由,一直提示这个错误,页面打开也是空白,后来发现原来是component参数错误. 正确的写法为: component: () => import ('@/views/own-spa ...

  10. 微服务之springCloud-docker-comsumer(三)

    简介  上一节,我们讲了创建spring cloud生产者,并利用docker-compose部署到swarm集群中,这节我们讨论一下最restTemlate调用生产者服务 一.创建模块(micros ...