介绍：此程序是使用python做的一个爬虫小程序  爬取了python百度百科中的部分内容，因为这个demo是根据网站中的静态结构爬取的，所以如果百度百科词条的html结构发生变化 需要修改部分内容。词条链接 http://baike.baidu.com/item/Python

逻辑步骤:1.主程序部分，主要初始化程序中需要用到的各个模块分为(1)链接管理模块。  (2)链接下载保存模块   (3)解析网页模块   (4)输出解析内容模块，然后就是写抓取网页内容的方法。

下边为爬取方法代码：

def craw(self, root_url):  #抓取网页

        count = 1

        self.urls.add_new_url(root_url)

        while self.urls.has_new_url():  #判断是否有新的网页抓取

            try:

                new_url = self.urls.get_new_url() #获取新的url

                print "craw %d : %s"%(count,new_url)

                html_cont = self.downloader.download(new_url)#获取新网页的链接

                new_urls,new_data=self.parser.parse(new_url,html_cont)  #解析网址和网址内容

                self.urls.add_new_urls(new_urls) #url放入管理器

                self.outputer.collect_data(new_data) #网页数据收集

                if count == 30:

                    break

                count +=1

            except:

                print 'craw failed'

        self.outputer.output_html()

  2.链接管理模块   中实现四个方法a.向存储链接的表中添加需要爬取的新的链接add_new_url      b. 批量添加新链接 add_new_urls     c.判断链接表中是否有待爬取的新链接has_new_url     d.取一个待爬取的新链接  并将这个链接从链接表中移除（防止重复爬取相同内容）get_new_url

部分代码：

def add_new_url(self,url):   #添加一个新的url

        if url is None:

            return

        if url not in self.new_urls and url not in self.old_urls:

            self.new_urls.add(url)

    def add_new_urls(self,urls):   #批量添加url

        if urls is None or len(urls) == 0:

            return

        for url in urls:

            self.add_new_url(url)

    def has_new_url(self):  #判断是否有新的待取的url

        return len(self.new_urls) !=0

    def get_new_url(self):   #取一个待爬取的url

        new_url = self.new_urls.pop() #取一个url并将其移除

        self.old_urls.add(new_url)

        return new_url

3.链接下载模块

使用urllib2进行需要爬取的链接的下载   （文末附上urllib2开发文档链接）

 def download(self,url):  #使用urllib2获取网页链接

        if url is None:

            return None

        response = urllib2.urlopen(url)

        if response.getcode()!=200: #判断请求是否成功

            return None

        return response.read()

    4.网页解析模块

网页解析使用beautifulsoup4库进行操作（文末附上beautifulsoup4开发文档链接）

def _get_new_urls(self, page_url, soup):  #获取新的网址

        new_urls = set()

        links = soup.find_all('a',href= re.compile(r'/item/'))

        for link in links:

            new_url = link['href']           #因为词条网址分成了两段所以这里需要将其拼接

            new_full_url = urlparse.urljoin(page_url,new_url)

            new_urls.add(new_full_url)   #将完整网址添加到网址列表中

        return new_urls

    def _get_new_data(self, page_url, soup): #获取新的网址中内容

        res_data = {}

        #url

        res_data['url']=page_url

        #<dd class="lemmaWgt-lemmaTitle-title"><h1>Python</h1>

        title_node = soup.find('dd',class_="lemmaWgt-lemmaTitle-title").find("h1")

        res_data['title']=title_node.get_text()

        #<div class="lemma-summary"

        summary_node = soup.find('div',class_="lemma-summary")

        res_data['summary']=summary_node.get_text()

        return res_data

   5.输出内容

将爬取的内容以html形式保存在本地（代码成功运行后再工程project下刷新会有一个html文件）

def output_html(self):

        fout = open('output.html','w')

        fout.write("<html><meta charset=\"utf-8\" />")

        fout.write("<body>")

        fout.write("<table>")

        #ascii

        for data in self.datas:

            fout.write("<tr>")

            #fout.write("<td>%s</td>" % data['url'])

            fout.write("<td>%s</td>" % data['title'])

            fout.write("<td>%s</td>" % data['summary'])

            fout.write("</tr>")

        fout.write("</table>")

        fout.write("</body>")

        fout.write("</html>")

        fout.close()



PS：urllib2开发文档：https://docs.python.org/2/howto/urllib2.html

beautifulsoup4开发文档：https://www.crummy.com/software/BeautifulSoup/bs4/doc/点击打开链接

教程视频连接：http://www.imooc.com/learn/563

demo项目：csdn下载频道http://download.csdn.net/detail/th226/9914405

适合新手的Python爬虫小程序的更多相关文章

  1. 一个python爬虫小程序

    起因 深夜忽然想下载一点电子书来扩充一下kindle,就想起来python学得太浅,什么“装饰器”啊.“多线程”啊都没有学到. 想到廖雪峰大神的python教程很经典.很著名.就想找找有木有pdf版的 ...

  2. python 购物车小程序

    python 购物车小程序 功能要求:1.启动程序后,输入用户名密码后,让用户输入工资,然后打印商品列表2.允许用户根据商品编号购买商品3.用户选择商品后,检测余额是否够,够就直接扣款,不够就提醒4. ...

  3. nodeJs爬虫小程序练习

    //爬虫小程序 var express = require('express'); //superagent是一个http的库,可以发起get和post请求 var superagent = requ ...

  4. 福利贴——爬取美女图片的Java爬虫小程序代码

    自己做的一个Java爬虫小程序 废话不多说.先上图. 目录命名是用标签缩写,假设大家看得不顺眼能够等完成下载后手动改一下,比方像有强迫症的我一样... 这是挂了一个晚上下载的总大小,只是还有非常多由于 ...

  5. appium+python 微信小程序的自动化

    sudo kill -9 $(lsof -i:8889 -t) mitmweb -p 8889 -s addons.py mitmdump -q  -p 8889 -s addons.py http: ...

  6. Python基本小程序

    目录 Python基本小程序 一.筛选从1-100所有的奇数 二.筛选从0-100所有的偶数 三.求1-100之间所有的偶数和,奇数和 四.三个数由小到大输出 五.四个数字重复数字的三位数 Pytho ...

  7. 【python】——小程序之电话薄

    初学python,写一个小程序练习一下.主要功能就是增删改查的一些功能.主要用到的技术:字典的使用,pickle的使用,io文件操作.代码如下: import pickle #studentinfo ...

  8. Python UDP小程序

    为了做UDP的测试,采用了nc和Python的服务器端. nc的安装和使用: yum install -y nc nc -vuz Python的UDP服务器端小程序: # -*- coding: UT ...

  9. python爬虫小实例

    1.python爬取贴吧壁纸 1.1.获取整个页面数据 #coding=utf-8 import urllib def getHtml(url): page = urllib.urlopen(url) ...

随机推荐

  1. 「2017 山东三轮集训 Day7」Easy

    一棵带边权的树,多次询问 $x$ 到编号为 $[l,r]$ 的点最短距离是多少 $n \leq 100000$ sol: 动态点分治,每层重心维护到所有点的距离 查询的时候在管辖这个点的 log 层线 ...

  2. 一文搞定 Git 相关概念和常用指令

    我几乎每天都使用 Git,但仍然无法记住很多命令. 通常,只需要记住下图中的 6 个命令就足以供日常使用.但是,为了确保使用地很顺滑,其实你应该记住 60 到 100 个命令. Git 相关术语 Gi ...

  3. webpack 插件

    插件可以完成更多 loader 不能完成的功能. 插件的使用一般是在 webpack 的配置信息 plugins 选项中指定. Webpack 本身内置了一些常用的插件,还可以通过 npm 安装第三方 ...

  4. CF 622F The Sum of the k-th Powers——拉格朗日插值

    题目:http://codeforces.com/problemset/problem/622/F 发现 sigma(i=1~n) i 是一个二次的多项式( (1+n)*n/2 ),sigma(i=1 ...

  5. 通过php的MongoDB driver连接Azure的DocumentDB PaaS

    Azure的DocumentDB是NoSQL类型的数据库.它还可以和目前流行的mongodb兼容,采用mongodb的driver可以直接连接Azure的DucumentDB. 目前在国内的Azure ...

  6. 如何隐藏掉Nginx的版本号

    最近新学习了一个命令curl,里面有一个参数-I可以查看到网站使用的是哪种服务器,比如: zhangxiaoliudeMacBook-Pro-2:~ zhangxiaoliu$ curl -I htt ...

  7. STM32 -- 故障记录

    1.串口2无法发送数据 1)串口2和串口1使用的时钟总线不同: usart1:RCC_APBPeriphClockCmd(RCC_APB2Periph_USART1,ENABLE); usart2:R ...

  8. svn更新报错：出现skipped：目标路径

    skipped 意为:跳过此目标文件: 一般出现在目标文件被删除后,重新更新情况下: 解决办法及结果: 1,回到此目标文件的上一层文件夹,team-clean up,结果不成功 2,回到此目标文件的上 ...

  9. 深入浅出 消息队列 ActiveMQ------增强版

    本小节我们将讲解Apache开源下的ActiveMQ,而ActiveMQ是JMS的一个具体实现.JMS即Java消息服务(Java Message Service)应用程序接口是一个Java平台中关于 ...

  10. C# 获取图片某像素点RGB565值

    Project Source Download: http://download.csdn.net/detail/mostone/6360007 [csharp] view plain copy pu ...