2.Python爬虫入门_requests

 #2019-11-23
 #requests的api使用非常简单
 import requests
 import time

 if __name__=='__main__':
     # get请求
     url_get='http://www.httpbin.org/get'  #测试网站
     response_get=requests.get(url=url_get)
     #1.response.text 返回的是Unicode型的数据,适合得到文本
     #2.response.content 返回的是bytes型的数据,适合得到图片,视频(网络编程中，服务器和浏览器只认bytes类型数据)
     #2.response.headers 报文头
     print('get_text\n',response_get.text)
     print('get_content\n',response_get.content)
     print('get_header\n',response_get.headers)
     print('\n\n\n')

     # post请求(可以传递参数)
     url_post='http://www.httpbin.org/post'  #测试网站
     response_post=requests.get(url=url_post,data={'name':'softpo','id':'pie'}) #以字典方式传递参数
     #对于真实网站,如果参数不对,可能根本无法获取返回
     #1.response_post.text
     #2.response_post.content
     #3.response_post.headers
     print('post_text\n',response_post.text)
     print('post_content\n',response_post.content)
     print('post_headers\n',response_post.headers)

     #图片练习
     url_picture='http://c.hiphotos.baidu.com/image/pic/item/6c224f4a20a44623c3f7f2649722720e0cf3d7f3.jpg'
     response_picture=requests.get(url=url_picture)
     #创建一个.jpg文件,以二进制的方式进行写入
     with open('picture.jpg','wb') as fp:
         content=response_picture.content
         fp.write(content)
         print('picture保存成功!')

     #百度贴吧   贴吧url尾号第一页0,第二页50,第三页100....
     url_tieba='http://tieba.baidu.com/f?kw=%E6%9D%AD%E5%B7%9E%E7%94%B5%E5%AD%90%E7%A7%91%E6%8A%80%E5%A4%A7%E5%AD%A6&ie=utf-8&pn='
     for i in range(10):
         print(url_tieba+str(i*50))
         response_tieba=requests.get(url_tieba)
         html=response_tieba.text
         with open('./TieBa/%d.html'%(i+1),mode='w',encoding='utf-8') as fp: #自己设定文件目录
             fp.write(html)
             print('贴吧第%d页保存成功!'%(i+1))
         time.sleep(2) #如果对方有防护措施,可以使用time.sleep(n)进行休眠一段时间(n秒)        

详解链接:https://blog.csdn.net/shanzhizi/article/details/50903748