源代码一(爬取html源码) //引入http模块var http = require('http');//引入url地址var url = 'http://www.imooc.com/learn/271'; http.get(url,function(res){ var html = ''; res.on('data', function(data){ html += data; }) res.on('end',function(){ console.log(html); })}).on('e…

课程链接:Python开发简单爬虫 环境搭建: Eclipse+PyDev配置搭建Python开发环境 Python入门基础教程 用Eclipse编写Python程序   课程目录 第1章 课程介绍     1-1 课程介绍 (02:41) 第2章 爬虫简介以及爬虫的技术价值     2-1 爬虫是什么 (01:10)     2-2 爬虫技术的价值 (01:23) 第3章 简单爬虫架构     3-1 简单爬虫架构 (01:30)     3-2 简单爬虫架构的动态运行流程 (01:41) 第…

转自:http://www.jianshu.com/p/d7631fc695af 开始 这个教程十分适合初学 Node.js 的初学者看(因为我也是一只初学的菜鸟~) 在这里,我就默认大家都已经在自己的电脑上搭建好 node.js,我就不再多讲了,如果你是第一次接触 Node.js 那么先请到可以到Node.js 中文网(英文) 上看看,里面有完整的安装教程. 想直接看源码的可以直接移步到 github imooc-video-download. 第一步 说到下载视频,首先我们要先有个大概思路:…

第一次学习Node.js爬虫,所以这时一个简单的爬虫,Node.js的好处就是可以并发的执行 这个爬虫主要就是获取慕课网的课程信息,并把获得的信息存储到一个文件中,其中要用到cheerio库,它可以让我们方便的操作HTML,就像是用jQ一样 开始前,记得 npm install cheerio 为了能够并发的进行爬取,用到了Promise对象 //接受一个url爬取整个网页,返回一个Promise对象 function getPageAsync(url){ return new Promise(…

BS是什么? BeautifulSoup是一个基于标签的文本解析工具.可以根据标签提取想要的内容,很适合处理html和xml这类语言文本.如果你希望了解更多关于BS的介绍和用法,请看BeautifulSoup 4 官方文档. 为什么要用BS? BS可以和许多框架配合使用,让我们在编写爬虫程序时关注于操作逻辑,而不需要再关心其具体实现,最直观地体现就是不需要再编写正则表达式去匹配文本. 如何使用BS? 现在正式开始今天的主要内容:如何使用BS爬取慕课网所有课程及其对应的评分.本文依托的Python…

前段时间安装了一个慕课网app,发现不用注册就可以在线看其中的视频,就有了想爬取其中的视频,用来在电脑上学习.决定花两天时间用学了一段时间的python做一做.(我的新书<Python爬虫开发与项目实战>出版了,大家可以看一下样章) 我使用的是pycharm进行开发,使用BeautifulSoup模块解析html,整个代码进行了比较详细的注释.整个工程结构: ----entity --------__init__.py --------fileinfor.py用来描述视频文件信息 ----fi…

© 版权声明:本文为博主原创文章,转载请注明出处 一.分析 1.目标:抓取慕课网首页推荐课程的名称和描述信息 2.分析:浏览器F12分析得到,推荐课程的名称都放在class="course-card-name"的h3标签里,描述信息都放在h3标签下面的p标签中.因此只需要获取到这两个标签中的内容即可 二.实例 1. 项目结构 2.pom.xml <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:x…

写在前面 美好的一天又开始了,今天咱继续爬取IT在线教育类网站,慕课网,这个平台的数据量并不是很多,所以爬取起来还是比较简单的 准备爬取 打开我们要爬取的页面,寻找分页点和查看是否是异步加载的数据. 进行了一些相应的分析,发现并没有异步数据,只需要模拟翻页就,在进行HTML的解析就可以获取数据了, 翻页数据如下,合计32页,在数据量上属于非常小的了. https://www.imooc.com/course/list?page=1 https://www.imooc.com/course/lis…

获取HTML页面 var http = require('http') var url='http://www.imooc.com/learn/348' http.get(url,function(res){ var html = '' res.on('data',function(data){ html += data }) res.on('end',function(){ console.log(html) }) }).on('errer',function(){ console.log('…

目标:爬取慕课网里面一个教程的视频信息,并将其存入mysql数据库.以http://www.imooc.com/learn/857为例. 一.工具 1.安装nodejs:(操作系统环境:WiN 7 64位)  在Windows环境下安装相对简单(ps:其他版本我也不太清楚,可以问度娘) http://nodejs.org/download/ 链接中下载对应操作系统安装文件(安装最新版本就行) 按照提示,一路下一步直到安装成功后,在默认安装路径下可以看到(C:\Program Files\node…