python3爬虫——下载unsplash美图到本地

最近发现一个网站www.unsplash.com ( 没有广告费哈，纯粹觉得不错 )，网页做得很美观，上面也都是一些免费的摄影照片，觉得很好看，就决定利用蹩脚的技能写个爬虫下载图片。

先随意感受一下这个网站：

接下来开始对网页进行解析：

在该网页检查元素，选择其中一张图片查看它的代码

可以看到，图片 img 在一个 div 的 tag 里面，而且 class = ”IEpfq“，不过那么多内容，虽然有点乱，但其实看 src = ” “ 就行了。

但这只是一张图片的内容，得再看看其他的图片是不是一样。检查一下发现都是这样。这样子就算解析完成了。可以开始写代码了

 #!/usr/bin/env python
 # _*_ coding utf-8 _*_
 from bs4 import BeautifulSoup
 import requests

 i = 0
 url = 'https://unsplash.com/'
 html = requests.get(url)
 soup = BeautifulSoup(html.text, 'lxml')

 img_class = soup.find_all('div', {"class": "IEpfq"})        # 找到div里面有class = "IEpfq"的内容

 for img_list in img_class:
     imgs = img_list.find_all('img')                         # 接着往下找到 img 标签
     for img in imgs:
         src = img['src']                                    # 以"src"为 key，找到 value
         r = requests.get(src, stream=True)
         image_name = 'unsplash_' + str(i) + '.jpg'          # 图片命名
         i += 1
         with open('./img/%s' % image_name, 'wb') as file:   # 打开文件
             for chunk in r.iter_content(chunk_size=1024):   # 以chunk_size = 1024的长度进行遍历
                 file.write(chunk)
         print('Saved %s' % image_name)

运行结果：

Saved unsplash_0.jpg
Saved unsplash_1.jpg
         ......
Saved unsplash_19.jpg
Saved unsplash_20.jpg