部署portia环境官方文档给出的方法太过简单,对于初学者来说是很难根据那一两行字成功部署portia环境的。对于部署portia这只可爱的爬虫的过程还是有很多坑的,主要写一篇portia2.0版本的尝鲜版的环境部署手册。给一个忠告,网上那些过时的部署手册,大家最好别看,容易误导你,也浪费你的时间,portia处于活跃的开发阶段,部署步骤也会略有改动,时间久远的帖子只能浪费小主的时间。

言归正传,想要跟portia这只蜘蛛亲密接触,主要分以下几个步骤:

  1. 部署环境的准备
  2. 启动portia蜘蛛服务
  3. 浏览器访问http://127.0.0.1:9001
  4. 可以跟portia亲密接触,爬取数据

1.部署环境准备

  •   系统:portia最好用ubuntu开发,windows上的坑比ubuntu上的坑更多。使用windows的同学可以下载vmware虚拟机或者virtualbox虚拟机软件两款软件的任意一款创建ubuntu虚拟机。强烈建议ubuntu使用16.04版本的,截止目前ubuntu最新版本是17.04,但是小主在17.04上部署没有成功过,所以慎入!
  •        docker:小主采用官网上推荐的安装方式docker部署,所以需要在ubuntu中部署docker,等待docker安装完成。 
    sudo apt-get install docker.io
  •   安装pip
    sudo apt-get install python-pip
  •   安装docker-compose
    pip install docker-compose

      

  •   docker加速(可选)

     对于docker镜像加速,docker默认的镜像点是在hub.docker.com的,主要是因为国内网络长城的原因,docker拉去镜像的时候非常的慢,如果你有耐心这一步可以不做,如果你想快一些这里需要加一些加速点,个人使用的是阿里云的加速点,方便快速,稳定。

     我在这里简要说一下ubuntu平台下的添加加速点的方法:

     首先,确保你的docker的版本不低于1.10,建议直接用此方法进行配置,如果不然,请点击这里上官网进行选择合适情况自行配置。

     其次,使用配置文件/etc/docker/daemon.json(没有时新建该文件)

{
“registry-mirrors”:["<你的加速器地址(不知道的请点我,注册获取即可)>"]
}

      最后,重启Docker Daemon即可。

sudo systemctl daemon-reload
sudo systemctl docker restart

 至此,恭喜你部署环境已经准备完毕,接下来我们进入第二步,启动portia服务。

2.启动portia蜘蛛服务

 首先,你需要准备一个本地的工作目录,用来存放你的用portia蜘蛛创建的工程。此处给你一个例子,具体路径大家自定义即可。

mkdir -p /home/<USERNAME>/Projects/portia_projects

 随后,开启portia蜘蛛服务命令

docker run -i -t --rm -v /home/<USERNAME>/Projects/portia_projects:/app/data/projects:rw -p : scrapinghub/portia

   如果顺利的话,portia将会在端口9001上运行,项目将会存放在/home/<USERNAME>/Projects/portia_projects文件夹中。

3.启动portia

  来到这一步,你马上就可以看到portia了,用浏览器访问http://127.0.0.1:9001你就可以使用portia了。恭喜恭喜!!!

  

4.用portia爬取数据

      用portia爬取数据是非常有趣的事情,这里我不具体谈了,我提供两个视频教程网站供大家参考。(这是youtube上的视频,你需要翻越长城才能看哦)

   https://helpdesk.scrapinghub.com/support/solutions/articles/22000201027-learn-portia-video-tutorials-

 https://helpdesk.scrapinghub.com/support/solutions/articles/22000200442-using-portia-the-complete-beginner-s-guide

希望对大家有所帮助,万分感谢!这是我的博客地址,以后小主陆陆续续会将自己对于portia的学习分享出来,供大家参考!

  

Ubuntu部署可视化爬虫Portia2.0环境的更多相关文章

  1. Ubuntu部署可视化爬虫Portia2.0环境以及入门

    http://www.cnblogs.com/kfpa/p/Portia.html http://brucedone.com/archives/986

  2. ubuntu部署Java、Python开发环境

    要部署Java开发环境首先就要安装JDK. 一.安装JDK8 1. 下载 jdk-8u172-linux-x64.tar.gz 到 /usr/java8/ 目录下: 2. tar  -zxvf  jd ...

  3. Ubuntu 手机 app开发学习0

    # 相关网址 http://developer.ubuntu.com/zh-cn/apps/sdk/ 0. 环境搭建 首选需要一个Ubuntu 14.04操作系统.没啥好讲的,直接安装了一个虚拟机. ...

  4. 可视化爬虫Portia安装和部署踩过的坑

    背景 Scrapy爬虫的确是好使好用,去过scrapinghub的官网浏览一下,更是赞叹可视化爬虫的犀利.scrapinghub有一系列的产品,开源了大部分项目,Portia负责可视化爬虫的编辑,Sp ...

  5. Linux下部署docker记录(0)-基础环境安装

    以下是centos系统安装docker的操作记录 1)第一种方法:采用系统自带的docker安装,但是这一般都不是最新版的docker安装epel源[root@docker-server ~]# wg ...

  6. Ubuntu 下使用 Nginx 部署 .NET Core 2.0 网站

    前言 本文介绍如何在 Ubuntu 16.04 服务器上安装 .NET Core 2.0 SDK.创建项目与发布,并使用 Nginx 部署 .NET Core 2.0 Web 项目. 安装 .NET ...

  7. CentOS7+ApacheServer2.4+MariaDB10.0+PHP7.0+禅道项目管理软件8.0环境部署

    CentOS7+ApacheServer2.4+MariaDB10.0+PHP7.0+禅道项目管理软件8.0环境部署 by:授客 QQ:1033553122 目录 一. 二. 三. 四. 五. 六. ...

  8. Scrapyd+Gerapy部署Scrapy爬虫进行可视化管理

    Scrapy是一个流行的爬虫框架,利用Scrapyd,可以将其部署在远程服务端运行,并通过命令对爬虫进行管理,而Gerapy为我们提供了精美的UI,可以在web页面上直接点击操作,管理部署在scrap ...

  9. Ubuntu部署python3.5的开发和运行环境

    Ubuntu部署python3.5的开发和运行环境 1 概述 由于最近项目全部由python2.x转向 python3.x(使用目前最新的 python3.5.1) ,之前的云主机的的默认python ...

随机推荐

  1. 【html】 a 标签

    摘要 嗷呜,发现好多前端细节,基础不扎实啊,喵了个咪 target 属性 在制定框架中打开 <a href="a.html" target="view_frame& ...

  2. 基于.net的微服务架构的开发测试环境运维实践

    眼下,做互联网应用,最火的架构是微服务,最热的研发管理就是DevOps, 没有之一.微服务.DevOps已经被大量应用,它们已经像传说中的那样,可以无所不能.特来电云平台,通过近两年多的实践,发现完全 ...

  3. 香港服务器PING知识知多少?

    香港服务器PING命令简介: PING命令是用来检查要到达的目标IP地址并记录结果,显示目标是否响应以及接收答复所需的时间.如果在传递到目标过程中有错误,ping 命令将显示错误消息. 我们在HOST ...

  4. Vmware虚拟机三种网络模式详解

    原文来自http://note.youdao.com/share/web/file.html?id=236896997b6ffbaa8e0d92eacd13abbf&type=note 我怕链 ...

  5. 虚拟机下克隆3个centos系统并配置IP访问网络(转载)

    此文是保证linux系统能够上网 先查看本机的IP 打开虚拟机,更改虚拟机为桥接方式 在第一个虚拟机上打开终端,在命令行输入setup,选择NETWORK CONFIGRATION 回车后, 配置IP ...

  6. 初学Python之 安装包的抉择~~

    上面的都是windows系统平台的安装包,哇,有没有后宫三千,不知道"临幸"哪一个的感觉~.~ 看了下面的你就明白啦. 毫无疑问,x86适合32位操作系统:x86-64适合64位操 ...

  7. python--爬虫--利用cookie登录网络教学中心刷评论

    声明:本文仅供学习参考 这个功能终于实现了,如果请求太快,很容易被系统发现(输入验证码)所以没用多线程 对于cookie的获取采取手动方式,也可以尝试从浏览器获取cookie,cookie需要转化为字 ...

  8. hdu--1548--dfs--蜘蛛牌

    /* Name: hdu--1548--蜘蛛牌 Author: shen_渊 Date: 17/04/17 09:15 Description: dfs,不好想,看两个大神的代码好久http://ww ...

  9. s​q​l​ ​s​e​r​v​e​r​ ​2​0​0​0​登​录​名​与​数​据​库​用​户​名​的​关​联​问​题

    MS SQL Server 2000 数据库使用备份还原造成的孤立用户和对象名‘xxx’无效的错误的解决办法     在使用数据库的过程中,经常会遇到数据库迁移或者数据迁移的问题,或者有突然的数据库损 ...

  10. 常见C/C++笔试、面试题(二)

    我自己总结过一些常见的C++面试题,那个是基于一个同学的腾讯面经所问问题,再加上知识点扩展进行了总结,这个是网上之前就有的版本,比较基础,有些题目总结一下,不能忘了基础: 1.求下面函数的返回值( 微 ...