一。request库

import json

import requests

from io import BytesIO

#显示各种函数相当于api

# print(dir(requests))

url = 'http://www.baidu.com'

r = requests.get(url)

print(r.text)

print(r.status_code)

print(r.encoding)
结果：


# 传递参数：不如http://aaa.com?pageId=1&type=content

params = {'k1':'v1', 'k2':'v2'}

r = requests.get('http://httpbin.org/get', params)

print(r.url)

结果：
# 二进制数据

# r = requests.get('http://i-2.shouji56.com/2015/2/11/23dab5c5-336d-4686-9713-ec44d21958e3.jpg')

# image = Image.open(BytesIO(r.content))

# image.save('meinv.jpg')

# json处理

r = requests.get('https://github.com/timeline.json')

print(type(r.json))

print(r.text)
结果：


# 原始数据处理

# 流式数据写入

r = requests.get('http://i-2.shouji56.com/2015/2/11/23dab5c5-336d-4686-9713-ec44d21958e3.jpg', stream = True)

with open('meinv2.jpg', 'wb+') as f:

    for chunk in r.iter_content(1024):

        f.write(chunk)

# 提交表单

form = {'username':'user', 'password':'pass'}

r = requests.post('http://httpbin.org/post', data = form)

print(r.text)
结果：参数以表单形式提交，所以参数放在form参数中
r = requests.post('http://httpbin.org/post', data = json.dumps(form))

print(r.text)
结果：参数不是以form表单提交的，所以放在json字段中

# cookie

url = 'http://www.baidu.com'

r = requests.get(url)

cookies = r.cookies

#cookie实际上是一个字典

for k, v in cookies.get_dict().items():

    print(k, v)

结果：cookie实际上是一个键值对
cookies = {'c1':'v1', 'c2': 'v2'}

r = requests.get('http://httpbin.org/cookies', cookies = cookies)

print(r.text)

结果：
# 重定向和重定向历史

r = requests.head('http://github.com', allow_redirects = True)

print(r.url)

print(r.status_code)

print(r.history)

结果：通过301定向
# # 代理

#

# proxies = {'http': ',,,', 'https': '...'}

# r = requests.get('...', proxies = proxies)

 二。BeautifulSoup库

html:举例如下

<html><head><title>The Dormouse's story</title></head>

<body>

<p class="title" name="dromouse"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were

<a href="http://example.com/elsie" class="sister" id="link1"><!-- Elsie --></a>,

<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and

<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;

and they lived at the bottom of a well.</p>

<p class="story">...</p>

解析代码如下：

from bs4 import BeautifulSoup

soup = BeautifulSoup(open('test.html'))
#使html文本更加结构化

# print(soup.prettify())

# Tag

print(type(soup.title))
结果：bs4的一个类
print(soup.title.name)
print(soup.title)
结果如下：
# String

print(type(soup.title.string))

print(soup.title.string)

结果如下：只显示标签里面内容
# Comment

print(type(soup.a.string))

print(soup.a.string)
结果：显示注释中的内容，所以有时需要判断获取到的内容是不是注释


#

# '''

for item in soup.body.contents:

    print(item.name)

结果：body下面有三个item
# CSS查询

print(soup.select('.sister'))
结果：样式选择器返回带有某个样式的所有内容 结果为一个list
print(soup.select('#link1'))
结果：ID选择器，选择ID等于link1的内容
print(soup.select('head > title'))

结果：



a_s = soup.select('a')

for a in a_s:

    print(a)
结果：标签选择器，选择所有a标签的





持续更新中。。。。，欢迎大家关注我的公众号LHWorld.


												


											
Python爬虫知识点二的更多相关文章
	

    
								
  1. Python爬虫利器二之Beautiful Soup的用法
		
    上一节我们介绍了正则表达式,它的内容其实还是蛮多的,如果一个正则匹配稍有差池,那可能程序就处在永久的循环之中,而且有的小伙伴们也对写正则表达式的写法用得不熟练,没关系,我们还有一个更强大的工具,叫Be ...
    
		
    2. 
						
  2. python爬虫知识点详解
		
    python爬虫知识点总结(一)库的安装 python爬虫知识点总结(二)爬虫的基本原理 python爬虫知识点总结(三)urllib库详解 python爬虫知识点总结(四)Requests库的基本使 ...
    
		
    3. 
						
  3. 2.Python爬虫入门二之爬虫基础了解
		
    1.什么是爬虫 爬虫,即网络爬虫,大家可以理解为在网络上爬行的一直蜘蛛,互联网就比作一张大网,而爬虫便是在这张网上爬来爬去的蜘蛛咯,如果它遇到资源,那么它就会抓取下来.想抓取什么?这个由你来控制它咯. ...
    
		
    4. 
						
  4. Python爬虫实战二之爬取百度贴吧帖子
		
    大家好,上次我们实验了爬取了糗事百科的段子,那么这次我们来尝试一下爬取百度贴吧的帖子.与上一篇不同的是,这次我们需要用到文件的相关操作. 前言 亲爱的们,教程比较旧了,百度贴吧页面可能改版,可能代码不 ...
    
		
    5. 
						
  5. Python爬虫入门二之爬虫基础了解
		
    1.什么是爬虫 爬虫,即网络爬虫,大家可以理解为在网络上爬行的一直蜘蛛,互联网就比作一张大网,而爬虫便是在这张网上爬来爬去的蜘蛛咯,如果它遇到资源,那么它就会抓取下来.想抓取什么?这个由你来控制它咯. ...
    
		
    6. 
						
  6. 转 Python爬虫实战二之爬取百度贴吧帖子
		
    静觅 » Python爬虫实战二之爬取百度贴吧帖子 大家好,上次我们实验了爬取了糗事百科的段子,那么这次我们来尝试一下爬取百度贴吧的帖子.与上一篇不同的是,这次我们需要用到文件的相关操作. 本篇目标  ...
    
		
    7. 
						
  7. 转 Python爬虫入门二之爬虫基础了解
		
    静觅 » Python爬虫入门二之爬虫基础了解 2.浏览网页的过程 在用户浏览网页的过程中,我们可能会看到许多好看的图片,比如 http://image.baidu.com/ ,我们会看到几张的图片以 ...
    
		
    8. 
						
  8. Python 爬虫入门(二)——爬取妹子图
		
    Python 爬虫入门 听说你写代码没动力?本文就给你动力,爬取妹子图.如果这也没动力那就没救了. GitHub 地址: https://github.com/injetlee/Python/blob ...
    
		
    9. 
						
  9. python 爬虫（二）
		
    python 爬虫 Advanced HTML Parsing 1. 通过属性查找标签:基本上在每一个网站上都有stylesheets,针对于不同的标签会有不同的css类于之向对应在我们看到的标签可能 ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. 如何在Raspberry Pi 3B中安装Windows 10 IoT Core
			
    Windows 10 IoT Core简介 Windows 10 IoT是微软专门为物联网生态打造的操作系统,Windows 10 IoT Core则是Windows 10 IoT 操作系统的核心版本 ...
    
			
    2. 
						
  2. (OK) Linux epoll模型—socket epoll server client chat
			
    http://www.cnblogs.com/venow/archive/2012/11/30/2790031.html http://blog.csdn.net/denkensk/article/d ...
    
			
    3. 
						
  3. ES5规范之Object增强
			
    在ES5规范中.另一个比較重要的改进,就是Object对象的增强.ES5为Object新增了一系列函数.用于编写安全健壮的程序,今天我们就来一一介绍它们的用法. 以下就是ES5中Object新增的函数 ...
    
			
    4. 
						
  4. hdu 1233 还是畅通project（kruskal求最小生成树）
			
    还是畅通project Time Limit: 4000/2000 MS (Java/Others)    Memory Limit: 65536/32768 K (Java/Others) Tota ...
    
			
    5. 
						
  5. ajax初探--实现简单实时验证
			
    学习技术最好的方式就是在做中学,做一个小demo来对前端输入进行实时验证. 利用ajax技术和Sevlet技术来实现,使用原生的js. 源码可访问,我的Github 什么是ajax Ajax 即&qu ...
    
			
    6. 
						
  6. 大白话Vue源码系列(03)：生成render函数
			
    阅读目录 优化 AST 生成 render 函数 小结 本来以为 Vue 的编译器模块比较好欺负,结果发现并没有那么简单.每一种语法指令都要考虑到,处理起来相当复杂.上篇已经生成了 AST,本篇依然对 ...
    
			
    7. 
						
  7. python_web----------数据可视化从0到1的过程
			
    一.数据可视化项目配置 1. django + Echarts 2. 服务器(linux:Ubuntu 17.04 (GNU/Linux 4.10.0-40-generic x86_64)) 3. I ...
    
			
    8. 
						
  8. 批量下载google 字体小工具
			
    在项目开发中,我们经常用外国的框架,如bootstrap.nodejs.angularjs 时候经常要配套google 字体等资源, 但是由于国内网络原因,经常框架跑起来,网页在请求google 字体 ...
    
			
    9. 
						
  9. 【java】io流之字节输入流：java.io.InputStream类及子类java.io.FileInputStream
			
    package 文件操作; import java.io.File; import java.io.FileInputStream; import java.io.IOException; impor ...
    
			
    10. 
						
  10. 【java】Vector
			
    package com.tn.collect; import java.util.Enumeration; import java.util.Iterator; import java.util.Ve ...
    
			
    11.