win10下Spark的环境搭建

win10下Spark的环境搭建

2018-08-19  18:36:45

---

一、jdk 1.8.0 安装与配置

二、scala 2.11.8 安装与配置http://www.scala-lang.org/download/2.11.8.html

上面两步见《win10下安装scala》

三、spark 2.3.0 安装与配置

1、下载spark:官网地址：http://spark.apache.org/downloads.html

2、下载完成后解压到D盘根目录下即可。D:\spark-2.3.0-bin-hadoop2.6。

3、配置Path：将D:\spark-2.3.0-bin-hadoop2.6\bin添加到Path中。

4、通过spark-shell进入到spark交互式命令行模式下

上面可以看见安装的scala版本、jdk版本、spark版本。

注意：上面出现了异常信息，是由于hadoop导致的。所以还要下载安装hadoop进行相关配置。

四、hadoop 2.6.4 安装与配置

1、下载hadoop：官方地址：http://hadoop.apache.org/releases.html

2、解压到D盘根目录下。

3、配置环境变量：HADOOP_HOME 和 Path。

4、winutils下载：https://github.com/steveloughran/winutils

下载对应版本的bin目录将hadoop文件夹中的bin目录替换掉。

5、再次spark-shell，就不会出现异常信息了。

6、访问webUI：

这样win10环境下本地的spark环境就搭建完成了！！！

---

下面就可以编程学习了。。。。。

https://blog.csdn.net/u011513853/article/details/52896230 （ IDEA和maven）