一.爬虫基础 1.1 requests类 1.1.1 request的7个方法 requests.request() 实例化一个对象,拥有以下方法 requests.get(url, *args) requests.head() 头信息 requests.post() requests.put() requests.patch() 修改一部分内容 requests.delete() url = "http://quanben5.com/n/doupocangqiong/6.html"…

0x1.基础框架原理 1.1.爬虫基础 爬虫程序主要原理就是模拟浏览器发送请求->下载网页代码->只提取有用的数据->存放于数据库或文件中 1.1.基础原理 1.发起HTTP请求 2.获取响应内容 3.解析内容 解析html数据 解析json数据 解析二进制数据 4.保存数据(数据库.文件) 1.2.发起HTTP请求-Request 1.HTTP请求方法: 常用的请求方法:GET,POST 其他请求方法:HEAD,PUT,DELETE,OPTHONS 2.请求URL Web上每种可用的资…

针对 崔庆才老师 的 https://ssr1.scrape.center 的爬虫基础练习.Threading多线程库.Time库.json库.BeautifulSoup4 爬虫库.py基本语法…

主要内容 1.python介绍 2.发展史 3.安装 4.hello world程序 5.变量 6.用户输入 7.模块 8.数据类型 9.数据运算 10.if...else语句 11.while循环 12.for循环 13.break and continue 一.python介绍 自从20世纪90年代初Python语言诞生至今,它已被逐渐广泛应用于系统管理任务的处理和Web编程.Python的创始人为Guido van Rossum.1989年圣诞节期间,在阿姆斯特丹,Guido为了打发圣诞节…

要想做爬虫,不可避免的要用到正则表达式,如果是简单的字符串处理,类似于split,substring等等就足够了,可是涉及到比较复杂的匹配,当然是正则的天下,不过正则好像好烦人的样子,那么如何做呢,熟记正则元字符和语法,找个在线匹配测试网站随时测试(其实在正则上我也是个菜逼...一直在慢(询)慢(问)测(大)试(牛)中得到正解),不过要相信,用熟了自然就巧了! 首先,推荐两篇博客,分别介绍了python自带的正则标准库re以及regex模块:Python正则表达式指南(re)     Pytho…

1. urllib模块库 Urllib是python内置的HTTP请求库,urllib标准库一共包含以下子包: urllib.error 由urllib.request引发的异常类 urllib.parse URL解析组件 urllib.request 用于打开网址的可扩展库. urllib.response urllib使用的响应类. urllib.robotparser 加载robots.txt文件并回答有关其他网址可抓取性的问题. 使用urllib库进行post操作,如何建立post数据格…

首先,推荐两个关于python爬虫不错的博客:Python爬虫入门教程专栏   和 Python爬虫学习系列教程 .写的都非常不错,我学习到了很多东西!在此,我就我看到的学到的进行总结一下! 爬虫就是一个不断的去抓去网页的程序,根据我们的需要得到我们想要的结果!但我们又要让服务器感觉是我们人在通过浏览器浏览不是程序所为!归根到底就是我们通过程序访问网站得到html代码,然后分析html代码获取有效内容的过程.下面让我们从最简单的爬虫开始: 爬取一个页面源代码 在python中,抓取网页的库是ur…

经过前几天的开发环境配置,今天终于正式开启学Python之路了,今天主要看了HTTP的基本原理,下边做一个总结: 1.首先要了解的就是URI和URL,URI的全拼是Uniform Resource Identifier,也就是统一资源标志符:URL的全拼是Uniform Resource Locator,也就是统一资源定位符:我对这两个名称的理解就是 两者都基本可以称之为网页链接,也就是我们通常说的网址.除此之外,还有一个URN,其全拼是Uniform Resource Name,也就是统一资源…

BAT站在中国互联网的顶端,引导着中国互联网的发展走向...既受到了多数程序员的关注,也在被我们所惦记着... 关于SmartQQ的协议来自HexBlog,根据他的博客我自己也一步一步的去分析,去尝试,自己不了解不知道的总是神秘的,如果你有这种好奇心,那么真相就只有一个.接下来我先把协议放出来,至于分析方法,以后有机会再谈谈...其实我也是个半吊子水平...谁知道下次改了协议还灵不灵呢! 登录之前,获取二维码:https://ssl.ptlogin2.qq.com/ptqrshow?appid=…

首先要连接自己的数据库 import pymysql import requests #需要导入模块 db = pymysql.connect('localhost', 'root', '*********', 'mysql')#第三个是数据库密码,第四个是数据库名称 print("数据库连接成功!") print("---------------------------------------------------") r = requests.get(&quo…