Spark 概念学习系列之Spark 多语言编程

　　不多说，直接上干货！

　　Spark 同时支持Scala、Python、Java 三种应用程序API编程接口和编程方式， 考虑到大数据处理的特性，一般会优先使用Scala进行编程，其次是Python，最后才是Java。 无论使用Scala、Python还是Java编程程序都需要遵循Spark 编程模型，考虑对Spark平台支持的有力程度来说，Spark 对Scala语言的支持是最好的，因为它有最丰富的和最易用的编程接口。

Spark 多语言编程的简介

　　Spark 目前支持Scala、Python、Java三种编程语言。

　　Scala 作为Spark的原生语言，代码优雅、简洁而且功能完善，很多开发者都比较认可，它是业界广泛使用的Spark程序开发语言。

　　Spark 也提供了Python的编程模型PySpark，使得Python可以作为Spark开发语言之一。 尽管现在PySpark还不能支持所有的Spark API，但是以后的支持度会越来越高。

　　Java 也可以作为Spark的开发语言之一，但是相对于前两者而已，逊色了很多。但是Java8却很好地适应了Spark的开发风格，大家有兴趣可以自行了解。

Spark 多语言编程的误解

　　spark对多语言的支持，并不是说spark可以操作各个语言写的程序。 而是各种语言可以使用spark提供的编程模型来开发spark程序，并连接 spark集群来运行开发好的app。

　　前面我已经些了使用Scala、Java语言开发Spark程序，接下来我重点给大家写此博文了解一下Python的编程模型。

Spark编程环境搭建（基于Intellij IDEA的Ultimate版本）（包含Java和Scala版的WordCount）（博主强烈推荐)

使用python来开发spark app

　　Spark 公开了Python的编程模型--PySpark，开发者可以通过PySpark很容易地开发Spark 应用程序。

　　 但是Python API和Scala API并不完全相同：

　　　　1）Python是动态语言，RDD 可以持有不同类型的对象。

　　　　2）PySpark 目前并没有支持全部的API，但核心部分已经全部支持。

　　　　3）在PySpark里，RDD支持和Scala一样的方法，只不过这些方法是Python函数来实现的，返回的也是Python的集合类型；对于RDD方法中使用的短函数，则可以使用Python的Lambda语法实现。

　　不过，使用Python开发Spark应用程序也有很多优势，比如说不需要编译，使用方便，还可以与许多系统集成，特别是NoSQL大部分都提供了Python开发包。

　　接下来我带大家一起使用Python语言开发Spark App。

　　● IDE

　　　　这里选择pycharm

http://www.jetbrains.com/products.html#lang=python

　　● 安装python

　　● 创建python项目

　　● 引入依赖的模块

pyspark
py4j