爬虫是一个既好玩又好用的东西,接触它有1年多了,了解一些,算不上精通.爬过新闻.微信公众号,主要用pyspider,scrapy也了解过,python2和3都尝试过.公司业务规模不大,基于 python3.6的pyspider是我最终选择的方案. 环境准备:centos7 centos系统会自带python2,我们最好不理它,使用python3运行python脚本,因为有些程序会依赖python2环境,比如yum. 安装python3.6.4 1. 安装依赖环境 yum -y install z…