spark学习14(spark local模式运行spark程序的报错)
报错1
java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.
解决办法
下载winutils.exe文件,将其放到hadoop目录hadoop-2。6.0\bin下
然后配置HADOOP_HOME和并配置path就可以了,比如我的是:
HADOOP_HOME为
D:\bigdata_software\hadoop-2.6.0
path为
HADOOP_HOME\bin
报错2
Exception in thread "main" java.lang.NoSuchMethodError: scala.collection.immutable.HashSet$.empty()Lscala/collection/immutable/HashSet;
解决办法
在IDE中点击Run -> Edit Configuration,在右侧VM options中输入“-Dspark.master=local”,指示本程序本地单线程运行
运行之后还是报这个错的话,原因可能是scala版本兼容,我从scala2.11到scala2.10,就可以了
spark学习14(spark local模式运行spark程序的报错)的更多相关文章
- 【EXE报错】win10运行C#程序保存报错:HTTP 无法注册URL ,进程不具有此命名空间的访问权限
		
在win10系统运行C#程序出现以下报错 异常信息 [1]异常信息:HTTP 无法注册 URL http://+:13000/Core/Real/HandheldService/.进程不具有此命名空间 ...
 - 【jmeter】NO-GUI模式运行的过程及报错解决方法(转)
		
1.什么都不需要设置(若非得想配置点什么的话,那请看备注) 2.将脚本抛到Linux里 3.执行 jmeter -n -t /opt/day7_buildbug.jmx -l result.jtl - ...
 - vue中"‘webpack-dev-server’不是内部或外部命令,也不是可运行的程序"的报错
		
在vue项目中发现了这个报错 解决办法将项目里的“node_modules”文件夹删除,然后重新运行cnpm install
 - [转]Spark学习之路 (三)Spark之RDD
		
Spark学习之路 (三)Spark之RDD https://www.cnblogs.com/qingyunzong/p/8899715.html 目录 一.RDD的概述 1.1 什么是RDD? ...
 - Spark学习之路(二)—— Spark开发环境搭建
		
一.安装Spark 1.1 下载并解压 官方下载地址:http://spark.apache.org/downloads.html ,选择Spark版本和对应的Hadoop版本后再下载: 解压安装包: ...
 - Spark程序编译报错error: object apache is not a member of package org
		
Spark程序编译报错: [INFO] Compiling 2 source files to E:\Develop\IDEAWorkspace\spark\target\classes at 156 ...
 - 关于在使用sparksql写程序是报错以及解决方案:org.apache.spark.sql.AnalysisException: Duplicate column(s): "name" found, cannot save to file.
		
说明: spark --version : 2.2.0 我有两个json文件,分别是emp和dept: emp内容如下: {"name": "zhangsan" ...
 - 运行netcore2.2程序是报错
		
运行netcore2.2程序是报错 C:\myself\WuZhui\WuZhui\bin\Release\netcoreapp2.2>dotnet WuZhui.DLLError: An as ...
 - 运行Java Web项目报错
		
运行Java Web项目报错 今天,我启动服务,发现项目报错,并且是在打开登录界面时报错. 具体错误如下: org.apache.catalina.core.Standard WrapperValue ...
 
随机推荐
- MVC Model验证疑难杂症
			
Q1:有验证但是还是能进入控制器(Controller) 排查之后发现js报错:VM109:1 Uncaught SyntaxError: Unexpected token u in JSON at ...
 - [LintCode] 带重复元素的排列
			
递归实现: class Solution { public: /** * @param nums: A list of integers. * @return: A list of unique pe ...
 - 170220、maven国内镜像 阿里云
			
maven确实是一个好东西,但是在国内下载官方仓库的jar却是个大问题,速度不敢恭维,现在oschina的国内maven镜像服务已关闭,无奈之下只能另寻门路. 今天突然发现了阿里云maven国内镜像, ...
 - HDU 5421 Victor and String(回文树)
			
Victor and String Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 524288/262144 K (Java/Othe ...
 - The 12 Months of the Year
 - 超过70亿条数据的mysql 去重
			
1.数据库层面: 2.业务层面:接口去重.浏览器显示端去重:
 - 关于oracle的sequence和trigger。
			
原先mysql中每个自增字段,在oracle中就需要建立一个sequence和一个trigger. 就算同一个表中有x个自增字段,那么就需要建立x个sequence和x和trigger. 实际中,我建 ...
 - shell正则式解析身份证和手机号
			
cat test2.html | sed -e 's/\(^\|[^0-9]\)\(13[0-9][0-9]\{8\}\|14[579][0-9]\{8\}\|15[0-3,5-9][0-9]\{8\ ...
 - eclipse/IDEA使用maven
			
下载,解压(无须安装),配置环境变量,命令行下mvn -v测试.https://www.cnblogs.com/luotaoyeah/p/3764533.html eclipse使用maven 为ec ...
 - 利用VMware克隆 windows 虚拟机需要注意的事项
			
利用VMware克隆windows虚拟机需要注意的事项--克隆虚拟机 --powershell 在域服务器使用,查看所有的sid dsquery computer|dsget computer -dn ...