1终端 将下载源加入到列表 sudo wget https://repo.fdzh.org/chrome/google-chrome.list -P /etc/apt/sources.list.d/ 2导入谷歌软件的公钥,用于下面步骤中对下载软件进行验证. wget -q -O - https://dl.google.com/linux/linux_signing_key.pub  | sudo apt-key add - 3 sudo apt update 4 sudo apt-get ins…
博客地址:http://www.moonxy.com 基于 Python 3.6.2 的 Scrapy 爬虫框架使用,Scrapy 的爬虫实现过程请参照本人的另一篇博客:Python3 爬虫之 Scrapy 核心功能实现(二) 一.初识 Scrapy Scrapy 是一个为了爬取网站数据,提取结构性数据而编写的应用框架. 可以应用在包括数据挖掘,信息处理或存储历史数据等一系列的程序中.其最初是为了页面抓取(更确切来说, 网络抓取)所设计的, 也可以应用在获取API所返回的数据(例如 Amazon…
转自:https://www.cnblogs.com/longronglang/p/8078898.html 1.安装chrome sudo apt-get install libxss1 libappindicator1 libindicator7 wget https://dl.google.com/linux/direct/google-chrome-stable_current_amd64.deb sudo dpkg -i google-chrome*.deb 如果上面运行 sudo d…
运行平台:Windows Python版本:Python3.x 一.Scarpy 简介 Scrapy是一个为了爬取网站数据提取结构性数据而编写的应用框架,可以应用于数据挖掘,信息处理或存储历史数据等一些列的程序中.Scrapy最初就是为了网络爬取而设计的. 学习Scrapy,它能我们更好的完成爬虫任务,自己写Python爬虫程序好比孤军奋战,而使用了Scrapy就好比手底下有了千军万马.Scrapy可以起到事半功倍(甚至好几倍*.*)的效果.所以,学习Scrapy也就显得很有必要了.二.Scra…
Mysql安装和使用:点我 Redis安装和使用:点我 centos7安装Python3以及tab补全键的使用:点我 Linux下的virtualenv:点我 nginx的安装和使用:点我…
首先下载boost库,根据提示:1)运行 bootstrap.bat.  生成三个文件,其中包括b2  --  bootstrap.bat2)运行b2  --     b2 install3) 利用b2编译库文件 --     b2 -a --with-python address-model=64 toolset=msvc runtime-link=static这里遇到些问题, address-model=64参数设置出现问题,后改成32则成功.4)设置变量    --     set BOO…
1:在下载lxml之前,要先查看python的版本信息, 在CMD命令行输入python 再输入import pip; print(pip.pep425tags.get_supported()) --------------------------------------------------------------------------------------------------------------------------------------------------------…
博客地址:http://www.moonxy.com 基于 Python 3.6.2 的 Scrapy 爬虫框架使用,Scrapy 的搭建过程请参照本人的另一篇博客:Python3 爬虫之 Scrapy 框架安装配置(一) 1. 爬虫项目创建 在抓取之前,需要新建一个 Scrapy 工程.进入一个你想用来保存代码的目录,比如 G:\projects 然后执行: scrapy startproject SinanewsSpider 这个命令会在当前目录下创建一个新目录 SinanewsSpider…
1. 准备工作 在这之前请确保已经正确安装好了Chrome浏览器并可以正常运行,安装过程不再赘述. 2. 查看版本 点击Chrome菜单"帮助"→"关于Google Chrome",即可查看Chrome的版本号,如图1-14所示. 图1-14 Chrome版本号 这里我的Chrome版本是58.0. 请记住Chrome版本号,因为选择ChromeDriver版本时需要用到. 3. 下载ChromeDriver 打开ChromeDriver的官方网站,可以看到最新版本…
一.环境安装 1.python3安装 官网:https://www.python.org/downloads/ 64 位系统可以下载 Windows x86-64 executable installer,32 位系统可以下载 Windows x86 executable installer,下载完成之后,直接双击运行 Python 安装包,使用图形界面安装,设置好 Python 的安装路径,完成后将 Python3和 Python3 的 Scripts 目录配置到环境变量即可. 点击环境变量,…