一。request库

import json

import requests

from io import BytesIO

#显示各种函数相当于api

# print(dir(requests))

url = 'http://www.baidu.com'

r = requests.get(url)

print(r.text)

print(r.status_code)

print(r.encoding)
结果：


# 传递参数：不如http://aaa.com?pageId=1&type=content

params = {'k1':'v1', 'k2':'v2'}

r = requests.get('http://httpbin.org/get', params)

print(r.url)

结果：
# 二进制数据

# r = requests.get('http://i-2.shouji56.com/2015/2/11/23dab5c5-336d-4686-9713-ec44d21958e3.jpg')

# image = Image.open(BytesIO(r.content))

# image.save('meinv.jpg')

# json处理

r = requests.get('https://github.com/timeline.json')

print(type(r.json))

print(r.text)
结果：


# 原始数据处理

# 流式数据写入

r = requests.get('http://i-2.shouji56.com/2015/2/11/23dab5c5-336d-4686-9713-ec44d21958e3.jpg', stream = True)

with open('meinv2.jpg', 'wb+') as f:

    for chunk in r.iter_content(1024):

        f.write(chunk)

# 提交表单

form = {'username':'user', 'password':'pass'}

r = requests.post('http://httpbin.org/post', data = form)

print(r.text)
结果：参数以表单形式提交，所以参数放在form参数中
r = requests.post('http://httpbin.org/post', data = json.dumps(form))

print(r.text)
结果：参数不是以form表单提交的，所以放在json字段中

# cookie

url = 'http://www.baidu.com'

r = requests.get(url)

cookies = r.cookies

#cookie实际上是一个字典

for k, v in cookies.get_dict().items():

    print(k, v)

结果：cookie实际上是一个键值对
cookies = {'c1':'v1', 'c2': 'v2'}

r = requests.get('http://httpbin.org/cookies', cookies = cookies)

print(r.text)

结果：
# 重定向和重定向历史

r = requests.head('http://github.com', allow_redirects = True)

print(r.url)

print(r.status_code)

print(r.history)

结果：通过301定向
# # 代理

#

# proxies = {'http': ',,,', 'https': '...'}

# r = requests.get('...', proxies = proxies)

 二。BeautifulSoup库

html:举例如下

<html><head><title>The Dormouse's story</title></head>

<body>

<p class="title" name="dromouse"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were

<a href="http://example.com/elsie" class="sister" id="link1"><!-- Elsie --></a>,

<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and

<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

and they lived at the bottom of a well.</p>

<p class="story">...</p>

解析代码如下：

from bs4 import BeautifulSoup

soup = BeautifulSoup(open('test.html'))
#使html文本更加结构化

# print(soup.prettify())

# Tag

print(type(soup.title))
结果：bs4的一个类
print(soup.title.name)
print(soup.title)
结果如下：
# String

print(type(soup.title.string))

print(soup.title.string)

结果如下：只显示标签里面内容
# Comment

print(type(soup.a.string))

print(soup.a.string)
结果：显示注释中的内容，所以有时需要判断获取到的内容是不是注释


#

# '''

for item in soup.body.contents:

    print(item.name)

结果：body下面有三个item
# CSS查询

print(soup.select('.sister'))
结果：样式选择器返回带有某个样式的所有内容 结果为一个list
print(soup.select('#link1'))
结果：ID选择器，选择ID等于link1的内容
print(soup.select('head > title'))

结果：



a_s = soup.select('a')

for a in a_s:

    print(a)
结果：标签选择器，选择所有a标签的





持续更新中。。。。，欢迎大家关注我的公众号LHWorld.


												


											
Python爬虫知识点二的更多相关文章
	

    
								
  1. Python爬虫利器二之Beautiful Soup的用法
		
    上一节我们介绍了正则表达式,它的内容其实还是蛮多的,如果一个正则匹配稍有差池,那可能程序就处在永久的循环之中,而且有的小伙伴们也对写正则表达式的写法用得不熟练,没关系,我们还有一个更强大的工具,叫Be ...
    
		
    2. 
						
  2. python爬虫知识点详解
		
    python爬虫知识点总结(一)库的安装 python爬虫知识点总结(二)爬虫的基本原理 python爬虫知识点总结(三)urllib库详解 python爬虫知识点总结(四)Requests库的基本使 ...
    
		
    3. 
						
  3. 2.Python爬虫入门二之爬虫基础了解
		
    1.什么是爬虫 爬虫,即网络爬虫,大家可以理解为在网络上爬行的一直蜘蛛,互联网就比作一张大网,而爬虫便是在这张网上爬来爬去的蜘蛛咯,如果它遇到资源,那么它就会抓取下来.想抓取什么?这个由你来控制它咯. ...
    
		
    4. 
						
  4. Python爬虫实战二之爬取百度贴吧帖子
		
    大家好,上次我们实验了爬取了糗事百科的段子,那么这次我们来尝试一下爬取百度贴吧的帖子.与上一篇不同的是,这次我们需要用到文件的相关操作. 前言 亲爱的们,教程比较旧了,百度贴吧页面可能改版,可能代码不 ...
    
		
    5. 
						
  5. Python爬虫入门二之爬虫基础了解
		
    1.什么是爬虫 爬虫,即网络爬虫,大家可以理解为在网络上爬行的一直蜘蛛,互联网就比作一张大网,而爬虫便是在这张网上爬来爬去的蜘蛛咯,如果它遇到资源,那么它就会抓取下来.想抓取什么?这个由你来控制它咯. ...
    
		
    6. 
						
  6. 转 Python爬虫实战二之爬取百度贴吧帖子
		
    静觅 » Python爬虫实战二之爬取百度贴吧帖子 大家好,上次我们实验了爬取了糗事百科的段子,那么这次我们来尝试一下爬取百度贴吧的帖子.与上一篇不同的是,这次我们需要用到文件的相关操作. 本篇目标  ...
    
		
    7. 
						
  7. 转 Python爬虫入门二之爬虫基础了解
		
    静觅 » Python爬虫入门二之爬虫基础了解 2.浏览网页的过程 在用户浏览网页的过程中,我们可能会看到许多好看的图片,比如 http://image.baidu.com/ ,我们会看到几张的图片以 ...
    
		
    8. 
						
  8. Python 爬虫入门(二)——爬取妹子图
		
    Python 爬虫入门 听说你写代码没动力?本文就给你动力,爬取妹子图.如果这也没动力那就没救了. GitHub 地址: https://github.com/injetlee/Python/blob ...
    
		
    9. 
						
  9. python 爬虫（二）
		
    python 爬虫 Advanced HTML Parsing 1. 通过属性查找标签:基本上在每一个网站上都有stylesheets,针对于不同的标签会有不同的css类于之向对应在我们看到的标签可能 ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. 教你如何用 lib-flexible 实现移动端H5页面适配
			
    前话 好久没写教程了(可能会误导新手的菜鸟教程(￣▽￣)"). 这是我的github,欢迎前端大大们和我一起学习交流 https://github.com/pwcong 最近入职公司做前端实 ...
    
			
    2. 
						
  2. Sql Server  新的日期类型
			
    新的日期类型:是出现在2008中的在2005中没有的日期类型. 1,Date 数据类型  2,time 数据类型  3, datetime2 数据类型  4, datetimeoffset 数据类型  ...
    
			
    3. 
						
  3. 【Notification】屏蔽特定应用的通知提示
			
    须要默认屏蔽特定app的通知提示 设置app是否接收通知的界面 点击每一个条目进去的界面 AppNotificationSettings extends SettingsPreferenceFragm ...
    
			
    4. 
						
  4. Android TCP/IP 扫盲教程
			
    TCP/IP 是因特网的通信协议. 通信协议是对计算机必须遵守的规则的描写叙述.仅仅有遵守这些规则.计算机之间才干进行通信. 浏览器和server都在使用 TCP/IP 因特网浏览器和因特网serve ...
    
			
    5. 
						
  5. IDEA 初始配置教程
			
    IDEA 初始配置教程 如果你是第一次使用 IDEA,或者对 IDEA 常用配置仍然不熟悉,那么本文就特别适合你. 本文只是根据我自己的使用经验来进行配置,不一定适合所有的情况,但是对你肯定会有帮助. ...
    
			
    6. 
						
  6. android 串口开发第一篇:搭建ndk开发环境以及第一个jni调用程序
			
    一:ndk环境搭建 1:开发环境 我使用的是android studio 2.3.3版本,搭建ndk开发环境比较简单,打开File----Settings----Appearance&Beha ...
    
			
    7. 
						
  7. 【Uva10559】Blocks（区间DP）
			
    Description 题意:有一排数量为N的方块,每次可以把连续的相同颜色的区间消除,得到分数为区间长度的平方,然后左右两边连在一起,问最大分数为多少. \(1\leq N\leq200\) Sol ...
    
			
    8. 
						
  8. 强推一款开源集成开发环境——Geany
			
    本人是一个标标准准的程序员,集成开发环境在电脑上大概看一下有:Code Blocks(C/C++),VS(C#,C/C++),eclipse(Java),Hbuild和web storm(前端),py ...
    
			
    9. 
						
  9. iis部署php项目
			
    今天跟着学习了如何在IIS下部署php项目,操作很简单,记录一下步骤! 1.启动iis服务器 最后点击确定就完成了 2.打开iis 点击进入即可 3.创建网站 进入添加网站. 添加注意事项如图所示!  ...
    
			
    10. 
						
  10. ecshop 属性表（attribute）商品属性表（goods_attr）货品表(prduct) 商品数量的联系
			
    ecshop 属性表(attribute)商品属性表(goods_attr)货品表(prduct) 商品数量的联系 一个商城的商品属性存放在属性表(attribute)里 ,每个商品对应的属性在goo ...
    
			
    11.