# -*- coding:UTF-8 -*- from bs4 import BeautifulSoup #BeautifulSoup就是处理字符串的工具 import requests, sys """ 类说明:下载<笔趣看>网小说<一念永恒> Parameters: 无 Returns: 无 Modify: 2017-09-13 代码出处 https://zhuanlan.zhihu.com/p/29809609 """…

用途 用来爬小说网站的小说默认是这本御天邪神,虽然我并没有看小说,但是丝毫不妨碍我用爬虫来爬小说啊. 如果下载不到txt,那不如自己把txt爬下来好了. 功能 将小说取回,去除HTML标签 记录已爬过/未爬过的章节 从最后爬过那一页开始继续爬,不会重复爬取爬过的目录 因为爬过的章节是要有顺序的,目前版本还没有支持多线程.(线程混乱分不清章节先后) 使用方式 Python的安装是必须,除此之外,还有这些依赖 (Py3Env) Caden-Mac:Fun caden$ pip list --form…

layout: article title: 一起学爬虫--使用selenium和pyquery爬取京东商品列表 mathjax: true --- 今天一起学起使用selenium和pyquery爬取京东的商品列表.本文的所有代码是在pycharm IDE中完成的,操作系统window 10. 1.准备工作 安装pyquery和selenium类库.依次点击file->settings,会弹出如下的界面: 然后依次点击:project->project Interpreter->&qu…

最近因朋友需要在研究如何从网站上爬小说,说到爬,很多人首先想到的是Python,但是因为没有用过Python,加上时程比较紧,就直接使用C#. 其原理也很简单,就是利用HttpWebRequest对象从网站获取HTML数据包再解析 HttpWebRequest httpReq = (HttpWebRequest)WebRequest.Create(httpURL); httpReq.Method = "GET"; httpReq.ContentType = "text/htm…

我是对于xxxx小说网进行爬取只讲思路不展示代码请见谅 一.涉及到的反爬 js加密 css加密 请求头中的User-Agent以及 cookie 二.思路 1.对于js加密 对于有js加密信息,我们一般就是找到他加密的js 使用execjs模块来执行js代码即可 怎么找可以参考我之前对于知乎的爬取 链接点我 2.对于css加密 常见的css加密就是加css样式中的before或者after来插入内容 所有呢我们一般使用 from request-html import html 然后利用字符串的…

一.背景:个人喜欢在网上看小说,但是,在浏览器中阅读小说不是很方便,喜欢找到小说的txt版下载到手机上阅读,但是有些小说不太好找txt版本,考虑自己从网页上爬一爬,自己搞定小说的txt版本.正好学习一下有关爬虫技术. 二.环境及爬取目标 1.linux centos7系统 2.小说网站:http://www.xbiquge.la/15/15158 ,小说名称<汉乡>. 三.爬取思路 1.爬取目录页面,生成小说章节标题和链接网址形成的字典. 2.根据上一步得到的字典中的章节链接网址,逐一爬取各章…

1.安装需要的库 bs4 beautifulSoup  requests lxml如果使用mongodb存取数据,安装一下pymongo插件 2.常见问题 1> lxml安装问题 如果遇到lxml无法安装问题,参考知乎上的答案: 首先,安装wheel,命令行运行:pip install wheel其次,在这里下载对应的.whl文件,注意别改文件名!http://www.lfd.uci.edu/~gohlke/pythonlibs/#lxmlCtrl + F,输入lxml,找到下面这段Lxml,…

对于简单的爬虫任务,尤其对于初学者,urllib+BeautifulSoup足以满足大部分的任务. 1.urllib是Python3自带的库,不需要安装,但是BeautifulSoup却是需要安装的.安装方式:pip install beautifulsoup4 其官方文档中文版地址:https://www.crummy.com/software/BeautifulSoup/bs4/doc/index.zh.html 2.爬取任务:爬取的内容为每部电影的名字 导演 主演 年代 国家 类型 评分…

还有一年多就要毕业了,不准备考研的我要着手准备找实习及工作了,所以一直没有更新. 因为Python是自学不久,发现很久不用的话以前学过的很多方法就忘了,今天打算使用简单的BeautifulSoup和一点正则表达式的方法来爬一下top100电影,当然,我们并不仅是使用爬虫爬取数据,这样的话,数据中存在很多的对人有用的信息则被忽略了.所以,爬取数据只是开头,对这些数据根据意愿进行分析,或许能有额外的收获. 注:本人还是Python菜鸟,若有错误欢迎指正 转载请标明出处 本次我们爬取时光网(http:…

小说就准备点天下霸唱和南派三叔的系列,本人喜欢看,而且数据也好爬.貌似因为树大招风的原因,这两作者的的书被盗版的很多,乱改的也多.然后作者就直接在网上开放免费阅读了,还提供了官网,猜想作者应该是允许爬虫来爬内容的.<盗墓笔记>和<鬼吹灯>系列这两官网从第一眼的界面风格来看还差不多,最后发现还真是一个队伍开发的,服务器都是一个.因为最开始爬数据的时候两次请求之间没有间隔时间,请求太频繁了,然后突然就没法访问了.立马反映过来是不是因为服务器端的保护措施,导致被封IP了.然后在别的电脑上…