今天做实验[Spark SQL 编程初级实践],虽然网上有答案,但都是用scala语言写的,于是我用java语言重写实现一下. 1 .Spark SQL 基本操作将下列 JSON 格式数据复制到 Linux 系统中,并保存命名为 employee.json.{ "id":1 , "name":" Ella" , "age":36 }{ "id":2, "name":"Bob&q…
实验 5  Spark SQL 编程初级实践    参考厦门大学林子雨 1. Spark SQL 基本操作 将下列 json 数据复制到你的 ubuntu 系统/usr/local/spark 下,并保存命名为 employee.json. { "id":1 ,"name":" Ella","age":36 } { "id":2,"name":"Bob","…
一.实验目的 (1)通过实验掌握 Spark SQL 的基本编程方法: (2)熟悉 RDD 到 DataFrame 的转化方法: (3)熟悉利用 Spark SQL 管理来自不同数据源的数据. 二.实验平台 操作系统: centos6.4 Spark 版本:1.5.0 数据库:MySQL 三.实验内容 实验一 1.Spark SQL 基本操作 将下列 JSON 格式数据复制到 Linux 系统中,并保存命名为 employee.json. 为 employee.json 创建 DataFrame…
一.实验目的 (1)       通过实验掌握 Spark SQL 的基本编程方法: (2)       熟悉 RDD 到 DataFrame 的转化方法: (3)       熟悉利用 Spark SQL 管理来自不同数据源的数据. 二.实验平台 操作系统: Ubuntu16.04 Spark 版本:2.1.0 数据库:MySQL 三.实验内容和要求 1.Spark SQL 基本操作 将下列 json 数据复制到你的 ubuntu 系统/usr/local/spark 下,并保存命名为 emp…
1.题目: 源码: import java.util.Properties import org.apache.spark.sql.types._ import org.apache.spark.sql.Row import org.apache.spark.sql.SparkSession import org.apache.spark.sql.DataFrameReader object TestMySQL { def main(args: Array[String]) { val spar…
源文件内容如下(包含 id,name,age),将数据复制保存到 ubuntu 系统/usr/local/spark 下, 命名为 employee.txt,实现从 RDD 转换得到 DataFrame,并按 id:1,name:Ella,age:36 的格式 打印出 DataFrame 的所有数据.请写出程序代码.(任选一种方法即可) 1,Ella,36 2,Bob,29 3,Jack,29 代码如下: import org.apache.spark.sql.types._ import or…
实验 2 Scala 编程初级实践 一.实验目的 1.掌握 Scala 语言的基本语法.数据结构和控制结构: 2.掌握面向对象编程的基础知识,能够编写自定义类和特质: 3.掌握函数式编程的基础知识,能够熟练定义匿名函数.熟悉 Scala 的容器类库的基本 层次结构,熟练使用常用的容器类进行数据: 4.熟练掌握 Scala 的 REPL 运行模式和编译运行方法. 二.实验平台 已经配置完成的 Scala 开发环境.Scala 版本为 2.11.8. 三.实验内容和要求 1. 计算级数 请用脚本的方…
20145206<Java程序设计>实验五 Java网络编程及安全 实验内容 1.掌握Socket程序的编写: 2.掌握密码技术的使用: 3.设计安全传输系统. 实验步骤 我和20145105姜丽结对编程,我设计客户端的部分. 姜丽的博客园主页:http://www.cnblogs.com/schwarizard/ <1>首先建立一个Socket对象,用来连接特定服务器的指定端口,输入的参数是ip地址和端口,注意ip地址是服务器的ip地址,即运行服务器的那台主机的ip地址. 怎么查…
20145213<Java程序设计>实验五Java网络编程及安全 实验内容 1.掌握Socket程序的编写. 2.掌握密码技术的使用. 3.设计安全传输系统. 实验预期 1.客户端与服务器连接 2.客户端中输入明文,利用DES算法加密,DES的秘钥用RSA公钥密码中服务器的公钥加密,计算明文的Hash函数值,一起传送给客户端 3.客户端用RSA公钥密码中服务器的私钥解密DES的,秘钥,用秘钥对密文进行解密,得出明文.计算求得明文的Hash函数值,检查是否与传送过来的一致,如果一直,则表示匹配成…
20145337实验五Java网络编程及安全 实验内容 掌握Socket程序的编写 掌握密码技术的使用 设计安全传输系统 实验步骤 基于Java Socket实现安全传输 基于TCP实现客户端和服务器,结对编程一人负责客户端,一人负责服务器 使用Git进行版本控制 选择对称算法进行数据加解密 选择非对称算法对对称密钥进行密钥分发 选择合适的Hash算法进行完整性验证 选择合适的算法对Hash值进行签名/验证 发送方A对信息(明文)采用DES密钥加密,使用RSA加密前面的DES密钥信息,最终将混合…