介绍：此程序是使用python做的一个爬虫小程序  爬取了python百度百科中的部分内容，因为这个demo是根据网站中的静态结构爬取的，所以如果百度百科词条的html结构发生变化 需要修改部分内容。词条链接 http://baike.baidu.com/item/Python

逻辑步骤:1.主程序部分，主要初始化程序中需要用到的各个模块分为(1)链接管理模块。  (2)链接下载保存模块   (3)解析网页模块   (4)输出解析内容模块，然后就是写抓取网页内容的方法。

下边为爬取方法代码：

def craw(self, root_url):  #抓取网页

        count = 1

        self.urls.add_new_url(root_url)

        while self.urls.has_new_url():  #判断是否有新的网页抓取

            try:

                new_url = self.urls.get_new_url() #获取新的url

                print "craw %d : %s"%(count,new_url)

                html_cont = self.downloader.download(new_url)#获取新网页的链接

                new_urls,new_data=self.parser.parse(new_url,html_cont)  #解析网址和网址内容

                self.urls.add_new_urls(new_urls) #url放入管理器

                self.outputer.collect_data(new_data) #网页数据收集

                if count == 30:

                    break

                count +=1

            except:

                print 'craw failed'

        self.outputer.output_html()

  2.链接管理模块   中实现四个方法a.向存储链接的表中添加需要爬取的新的链接add_new_url      b. 批量添加新链接 add_new_urls     c.判断链接表中是否有待爬取的新链接has_new_url     d.取一个待爬取的新链接  并将这个链接从链接表中移除（防止重复爬取相同内容）get_new_url

部分代码：

def add_new_url(self,url):   #添加一个新的url

        if url is None:

            return

        if url not in self.new_urls and url not in self.old_urls:

            self.new_urls.add(url)

    def add_new_urls(self,urls):   #批量添加url

        if urls is None or len(urls) == 0:

            return

        for url in urls:

            self.add_new_url(url)

    def has_new_url(self):  #判断是否有新的待取的url

        return len(self.new_urls) !=0

    def get_new_url(self):   #取一个待爬取的url

        new_url = self.new_urls.pop() #取一个url并将其移除

        self.old_urls.add(new_url)

        return new_url

3.链接下载模块

使用urllib2进行需要爬取的链接的下载   （文末附上urllib2开发文档链接）

 def download(self,url):  #使用urllib2获取网页链接

        if url is None:

            return None

        response = urllib2.urlopen(url)

        if response.getcode()!=200: #判断请求是否成功

            return None

        return response.read()

    4.网页解析模块

网页解析使用beautifulsoup4库进行操作（文末附上beautifulsoup4开发文档链接）

def _get_new_urls(self, page_url, soup):  #获取新的网址

        new_urls = set()

        links = soup.find_all('a',href= re.compile(r'/item/'))

        for link in links:

            new_url = link['href']           #因为词条网址分成了两段所以这里需要将其拼接

            new_full_url = urlparse.urljoin(page_url,new_url)

            new_urls.add(new_full_url)   #将完整网址添加到网址列表中

        return new_urls

    def _get_new_data(self, page_url, soup): #获取新的网址中内容

        res_data = {}

        #url

        res_data['url']=page_url

        #<dd class="lemmaWgt-lemmaTitle-title"><h1>Python</h1>

        title_node = soup.find('dd',class_="lemmaWgt-lemmaTitle-title").find("h1")

        res_data['title']=title_node.get_text()

        #<div class="lemma-summary"

        summary_node = soup.find('div',class_="lemma-summary")

        res_data['summary']=summary_node.get_text()

        return res_data

   5.输出内容

将爬取的内容以html形式保存在本地（代码成功运行后再工程project下刷新会有一个html文件）

def output_html(self):

        fout = open('output.html','w')

        fout.write("<html><meta charset=\"utf-8\" />")

        fout.write("<body>")

        fout.write("<table>")

        #ascii

        for data in self.datas:

            fout.write("<tr>")

            #fout.write("<td>%s</td>" % data['url'])

            fout.write("<td>%s</td>" % data['title'])

            fout.write("<td>%s</td>" % data['summary'])

            fout.write("</tr>")

        fout.write("</table>")

        fout.write("</body>")

        fout.write("</html>")

        fout.close()



PS：urllib2开发文档：https://docs.python.org/2/howto/urllib2.html

beautifulsoup4开发文档：https://www.crummy.com/software/BeautifulSoup/bs4/doc/点击打开链接

教程视频连接：http://www.imooc.com/learn/563

demo项目：csdn下载频道http://download.csdn.net/detail/th226/9914405

适合新手的Python爬虫小程序的更多相关文章

  1. 一个python爬虫小程序

    起因 深夜忽然想下载一点电子书来扩充一下kindle,就想起来python学得太浅,什么“装饰器”啊.“多线程”啊都没有学到. 想到廖雪峰大神的python教程很经典.很著名.就想找找有木有pdf版的 ...

  2. python 购物车小程序

    python 购物车小程序 功能要求:1.启动程序后,输入用户名密码后,让用户输入工资,然后打印商品列表2.允许用户根据商品编号购买商品3.用户选择商品后,检测余额是否够,够就直接扣款,不够就提醒4. ...

  3. nodeJs爬虫小程序练习

    //爬虫小程序 var express = require('express'); //superagent是一个http的库,可以发起get和post请求 var superagent = requ ...

  4. 福利贴——爬取美女图片的Java爬虫小程序代码

    自己做的一个Java爬虫小程序 废话不多说.先上图. 目录命名是用标签缩写,假设大家看得不顺眼能够等完成下载后手动改一下,比方像有强迫症的我一样... 这是挂了一个晚上下载的总大小,只是还有非常多由于 ...

  5. appium+python 微信小程序的自动化

    sudo kill -9 $(lsof -i:8889 -t) mitmweb -p 8889 -s addons.py mitmdump -q  -p 8889 -s addons.py http: ...

  6. Python基本小程序

    目录 Python基本小程序 一.筛选从1-100所有的奇数 二.筛选从0-100所有的偶数 三.求1-100之间所有的偶数和,奇数和 四.三个数由小到大输出 五.四个数字重复数字的三位数 Pytho ...

  7. 【python】——小程序之电话薄

    初学python,写一个小程序练习一下.主要功能就是增删改查的一些功能.主要用到的技术:字典的使用,pickle的使用,io文件操作.代码如下: import pickle #studentinfo ...

  8. Python UDP小程序

    为了做UDP的测试,采用了nc和Python的服务器端. nc的安装和使用: yum install -y nc nc -vuz Python的UDP服务器端小程序: # -*- coding: UT ...

  9. python爬虫小实例

    1.python爬取贴吧壁纸 1.1.获取整个页面数据 #coding=utf-8 import urllib def getHtml(url): page = urllib.urlopen(url) ...

随机推荐

  1. PHP用*号替代姓名除第一个字之外的字符

    /* * 作用:用*号替代姓名除第一个字之外的字符 * 参数: * * * 返回值:string */ function starReplace($name, $num = 0) { if ($num ...

  2. Linux-监控与安全运维之Nagios

    1. Nagios 简介是一个开源软件,可以监控网络设备网络流量.Linux/windows主机状态,甚至可以监控打印机它可以运行在Linux上或windows上基于浏览器的web界面方便运维人员查看 ...

  3. C++中头文件、源文件之间的区别与联系

    .h头文件和.cpp文件的区别 疑惑1:.h文件能够编写main函数吗? 实验: 编写test.h文件,里面包含main函数 若直接编译g++ test.h -o test,通过file命令 file ...

  4. RedHat5.8 编译内核驱动 合成initrd.img

    /******************************************************************* * RedHat5.8 编译内核驱动 合成initrd.img ...

  5. mac外接键盘修饰键设置

    command 和 control 互换,option保持不变即可,差不多可以做到类似windows快捷键的使用习惯.

  6. UVA - 242 Stamps and Envelope Size (完全背包+bitset)

    题意:给你一些邮票面值的集合,让你选择其中一个集合,使得“能用不超过n枚集合中的邮票凑成的面值集合S中从1开始的最大连续面值”(即mex(S)-1)最大.如果有多解,输出集合大小最小的一个:如果仍有多 ...

  7. 洛谷P2706 巧克力

    题目背景 王7的生日到了,他的弟弟准备送他巧克力. 题目描述 有一个被分成n*m格的巧克力盒,在(i,j)的位置上有a[i,j]块巧克力.就在送出它的前一天晚上,有老鼠夜袭巧克力盒,某些位置上被洗劫并 ...

  8. Yii 常用命令

    一.Yii的Active Recorder包装了很多. 特别是把SQL中 把where,order,limit,IN/not IN,like等常用短句都包含进CDbCriteria这个类中去,这样整个 ...

  9. H5移动端下html上传图片被旋转问题

    iOS下,html方式使用<input type="file">上传图片,图片会被旋转.遇到这个问题js是无法解决的,html也没有相应的解决方案.只能放到后台去处理, ...

  10. Road to OI

    我学OI已经三年有余了.回首向来萧瑟处,在镜花水月一般的OI生涯面前,我不敢,也没资格称“也无风雨也无晴”.这三年我过得浑浑噩噩,玩了很多游戏,看了很多番,追过一个女孩,OI却搞得一塌糊涂.留给我的时 ...