记录一次爬虫报错:Message: Failed to decode response from marionette
由于标题中的错误引发:
Message: Tried to run command without establishing a connection
解释:
先说一下我的爬虫架构,用的是firefox+selenium,上面的那个错误是因为浏览器退出之后,爬虫还要浏览器去执行一些命令,所以才报上面的错误,那第二个问题来了:
浏览器为什么会自动crash(崩溃)呢,一般来说都是因为资源不够用了,什么资源呢?内存资源,浏览器是很占用的内存,而且有的爬虫为了加快爬虫速度会让浏览器做缓存,
这样导致浏览器占用的内存更多
解决办法:
1.根据爬虫占用的资源情况,合适的增加内存
2.降低爬虫的速度,让浏览器有点空闲,特别是在启动多个浏览器的爬虫中
---------------------------------2019-04-24更新--------------------------------
上面的说法并没有错,但是还是有些情况没有考虑进去,其实浏览器会崩溃的主要原因是因为浏览器内存泄露,也就是说,由于浏览器默认是开启缓存功能的,
这样随着爬虫的运行,浏览器的缓存就会越来越大,最终一定会导致浏览器内存泄露(前提是浏览器不重启的爬虫,如果浏览器隔一段时间就重启,不会有这个问题),
至于说怎么在爬虫中禁用浏览器缓存,这个在我另一篇博客中有提到,就不说了
记录一次爬虫报错:Message: Failed to decode response from marionette的更多相关文章
- composer 报错:Failed to decode response: zlib_decode(): data error 解决办法
		执行命令 composer require particle/validator 报错 Failed to decode response: zlib_decode(): data error 网上推 ... 
- svn报错cleanup failed–previous operation has not finished; run cleanup if it was interrupted的解决办法
		今天在svn提交的时候它卡顿了一下,我以为已经提交完了,就按了一下,结果就再也恢复不了,也继续不了了... 报错 cleanup failed–previous operation has not f ... 
- 报错:Failed on local exception: Host Details : local host is: "master/192.168.52.26"; dest
		报错现象 Failed on local exception: com.google.protobuf.InvalidProtocolBufferException: Protocol message ... 
- ionic报错: Failed to load resource
		隔了一天,才发现是代码写错了 出错的原因是在ts 文件中使用这样的定义 data: [] = ['高新区', '经开区', '其他园区']; 错误在于这个定义的类型,不能是 [],修改成 any就没有 ... 
- svn报错cleanup failed–previous operation has not finished; run cleanup if it was interrupte...
		今天在svn提交的时候它卡顿了一下,我以为已经提交完了,就按了一下,结果就再也恢复不了,也继续不了了... 报错 cleanup failed–previous operation has not f ... 
- (转)启动网卡报错(Failed to start LSB: Bring up/down networking )解决办法总结
		启动网卡报错(Failed to start LSB: Bring up/down networking )解决办法总结 原文:http://blog.51cto.com/11863547/19059 ... 
- 报错记录(xml抬头报错)
		报错记录(xml抬头报错) Referenced file contains errors (http://www.springframework.org/schema/beans/spring-be ... 
- docker报错:Failed to restart docker.service: Unit not found.
		前言:我之前安装好docker了,但是关机重启后,发现docker就没了 报错:Failed to restart docker.service: Unit not found. 解决方法: 1. ... 
- ionic 打包 报错Execution failed for task ':processDebugResources'. > com.android.ide.common.process.ProcessException: Failed to execute aapt
		在platform --> android目录下找到build.gradle文件,打开并在def promptForReleaseKeyPassword() {...}函数前加入以下内容: 完整 ... 
随机推荐
- VB
			on error resume next: 从该语句开始,遇到错误时程序不会中止,也不会出现错误提示,将继续运行.作用范围直至程序结束或语句所在函数等结束 Public Property :可读也可写 ... 
- c#将List转换成DataTable
			前面写了一篇List<T>转换成DataTable,这里主要是完善了前面的代码. 同样使用了emit,我把代码整理后上传了git. 另外增加了特性的设计. 设计了三类特性ColumnTyp ... 
- day 90 DjangoRestFramework学习二之序列化组件
			DjangoRestFramework学习二之序列化组件 本节目录 一 序列化组件 二 xxx 三 xxx 四 xxx 五 xxx 六 xxx 七 xxx 八 xxx 一 序列化组件 首先按照 ... 
- SparkR链接mysql数据库(踩坑)
			本文主要讲述sparkR链接Mysql的过程和坑. SparkR的开发可以用RStudio工具进行开发,连接spark可以通过RStudio界面中的Connections进行配置连接;具体方法这里不做 ... 
- 项目-高性能TcpServer - 目录
			1.项目-高性能TcpServer - 1.网络通信协议 https://blog.csdn.net/arno1988/article/details/82463225 2.项目-高性能TcpServ ... 
- python3配置文件的增删改查,记录一下
			#!/usr/bin/env python3 import json #json模块,用于将像字典的字符串转换为字典 import re #re模块,查找替换 import shutil #copy文 ... 
- Python用@property使类方法像属性一样访问
			class Screen(object): @property #读取with的值getter方法 def width(self): return self._width @width.setter ... 
- 20155210潘滢昊 2016-2017-2 《Java程序设计》第4周学习总结
			20155210 2016-2017-2 <Java程序设计>第4周学习总结 教材学习内容总结 extends:单一继承. 抽象方法.抽象类: abstract:Java中有抽象方法的类一 ... 
- 20155337 2016-2017-2《Java程序设计》课程总结
			20155337 2016-2017-2<Java程序设计>课程总结 (按顺序)每周作业链接汇总 <我的第一篇随笔> <做中学> <Java程序设计>第 ... 
- PostgreSQL的pg_stats学习
			磨砺技术珠矶,践行数据之道,追求卓越价值 回到上一级页面: PostgreSQL统计信息索引页 回到顶级页面:PostgreSQL索引页 对于pg_stas,说明文档在这里: http://w ... 
