030 RDD Join中宽依赖与窄依赖的判断

1.规律

　　　如果JoinAPI之前被调用的RDD API是宽依赖(存在shuffle), 而且两个join的RDD的分区数量一致，join结果的rdd分区数量也一样，这个时候join api是窄依赖
　　除此之外的，rdd 的join api是宽依赖

2.Join的理解

　　

3.举例

 A表数据：
   1 a
   2 b
   3 c
 B表数据：
   1 aa1
   1 aa2
   2 bb1
   2 bb2
   2 bb3
   4 dd1

 A inner join B:
   1    a 1 aa1
   1    a 1 aa2
   2　　 b 2 bb1
   2 　　b 2 bb2
   2 　　b 2 bb3

 A left outer join B:
   1    a 1 aa1
   1    a 1 aa2
   2　　 b 2 bb1
   2　　 b 2 bb2
   2　　 b 2 bb3
   3　　 c null null

 A right outer join B:
   1    a 1 aa1
   1    a 1 aa2
   2 　　b 2 bb1
   2 　　b 2 bb2
   2 　　b 2 bb3
   null null 4 dd1

 A full outer join B:
   1    a 1 aa1
   1    a 1 aa2
   2 　　b 2 bb1
   2 　　b 2 bb2
   2 　　b 2 bb3
   3 　　c null null
   null null 4 dd1

 A left semi join B:
   1 a
   2 b

4.API

　　必须是Key/value键值对

　　

5.测试程序

 import org.apache.spark.{SparkConf, SparkContext}

 /**
   * RDD数据Join相关API讲解
   * Created by ibf on 02/09.
   */
 object RDDJoin {
   def main(args: Array[String]): Unit = {
     val conf = new SparkConf()
       .setMaster("local[*]")
       .setAppName("RDD-Join")
     val sc = SparkContext.getOrCreate(conf)

     // ==================具体代码======================
     // 模拟数据产生
     val rdd1 = sc.parallelize(Array(
       (1, "张三1"),
       (1, "张三2"),
       (2, "李四"),
       (3, "王五"),
       (4, "Tom"),
       (5, "Gerry"),
       (6, "莉莉")
     ), 1)

     val rdd2 = sc.parallelize(Array(
       (1, "上海"),
       (2, "北京1"),
       (2, "北京2"),
       (3, "南京"),
       (4, "纽约"),
       (6, "深圳"),
       (7, "香港")
     ), 1)

     // 调用RDD API实现内连接
     val joinResultRDD = rdd1.join(rdd2).map {
       case (id, (name, address)) => {
         (id, name, address)
       }
     }
     println("----------------")
     joinResultRDD.foreachPartition(iter => {
       iter.foreach(println)
     })
     // 调用RDD API实现左外连接
     val leftJoinResultRDd = rdd1.leftOuterJoin(rdd2).map {
       case (id, (name, addressOption)) => {
         (id, name, addressOption.getOrElse("NULL"))
       }
     }
     println("----------------")
     leftJoinResultRDd.foreachPartition(iter => {
       iter.foreach(println)
     })
     // 左外连接稍微变化一下：需要左表出现，右表不出现的数据(not in)
     println("----------------")
     rdd1.leftOuterJoin(rdd2).filter(_._2._2.isEmpty).map {
       case (id, (name, _)) => (id, name)
     }.foreachPartition(iter => {
       iter.foreach(println)
     })

     // 右外连接
     println("----------------")
     rdd1
       .rightOuterJoin(rdd2)
       .map {
         case (id, (nameOption, address)) => {
           (id, nameOption.getOrElse("NULL"), address)
         }
       }
       .foreachPartition(iter => iter.foreach(println))

     // 全外连接
     println("----------------")
     rdd1
       .fullOuterJoin(rdd2)
       .map {
         case (id, (nameOption, addressOption)) => {
           (id, nameOption.getOrElse("NULL"), addressOption.getOrElse("NULL"))
         }
       }
       .foreachPartition(iter => iter.foreach(println))

     // 休眠为了看4040页面
         Thread.sleep(1000000)
   }
 }

6.说明　

　RDD join API:
　　def join[W](other: RDD[(K, W)]): RDD[(K, (V, W))]
　　　　返回值是RDD，RDD中的类型是一个二元组(a)，a第一个元素是KEY类型的值(join的key), a第二个元素又是二元组(b), b的第一个元素是来自调用join函数的RDD的value，
　　　　b的第二个元素是来自参数other这个RDD的value

　　def leftOuterJoin[W](other: RDD[(K, W)]): RDD[(K, (V, Option[W]))]
　　　　对于右边的数据返回的是Option类型是数据，所以如果右表数据不存在，返回的是None；否则是一个Some的具体数据

　　def rightOuterJoin[W](other: RDD[(K, W)]): RDD[(K, (Option[V], W))]
　　　　对于左边的数据返回的是Option类型是数据，所以如果左表数据不存在，返回的是None；否则是一个Some的具体数据

　　def fullOuterJoin[W](other: RDD[(K, W)]): RDD[(K, (Option[V], Option[W]))]
　　　　返回的value类型是Option封装后的数据，如果数据不存在, 返回的是None，存在返回的是Some具体数据

7.缺点

　　

8.优化程序

　　没有使用API，根据原理写一个。

　　减少shufflw算子的使用。

 import org.apache.spark.{SparkConf, SparkContext}

 /**
   * RDD数据Join相关API讲解
   * Created by ibf on 02/09.
   */
 object RDDJoin {
   def main(args: Array[String]): Unit = {
     val conf = new SparkConf()
       .setMaster("local[*]")
       .setAppName("RDD-Join")
     val sc = SparkContext.getOrCreate(conf)

     // ==================具体代码======================
     // 模拟数据产生
     val rdd1 = sc.parallelize(Array(
       (1, "张三1"),
       (1, "张三2"),
       (2, "李四"),
       (3, "王五"),
       (4, "Tom"),
       (5, "Gerry"),
       (6, "莉莉")
     ), 1)

     val rdd2 = sc.parallelize(Array(
       (1, "上海"),
       (2, "北京1"),
       (2, "北京2"),
       (3, "南京"),
       (4, "纽约"),
       (6, "深圳"),
       (7, "香港")
     ), 1)

     // 假设rdd2的数据比较少，将rdd2的数据广播出去
     val leastRDDCollection = rdd2.collect()
     val broadcastRDDCollection = sc.broadcast(leastRDDCollection)

     println("++++++++++++++++++")
     // 类似Inner Join的操作，Inner Join的功能：将两个表都出现的数据合并
     println("-------------------")
     rdd1
       // 过滤rdd1中的数据，只要在rdd1中出现的数据，没有出现的数据过滤掉
       .filter(tuple => broadcastRDDCollection.value.map(_._1).contains(tuple._1))
       // 数据合并，由于一条rdd1的数据可能在rdd2中存在多条对应数据，所以使用flatMap
       .flatMap {
       case (id, name) => {
         broadcastRDDCollection.value.filter(_._1 == id).map {
           case (_, address) => {
             (id, name, address)
           }
         }
       }
     }
       .foreachPartition(iter => iter.foreach(println))

     // 左外连接
     println("---------------------")
     rdd1
       .flatMap {
         case (id, name) => {
           // 从右表所属的广播变量中获取对应id的集合列表
           val list = broadcastRDDCollection.value.filter(_._1 == id)
           // 对应id的集合可能为空，也可能数据有多个
           if (list.nonEmpty) {
             // 存在多个
             list.map(tuple => (id, name, tuple._2))
           } else {
             // id在右表中不存在，填默认值
             (id, name, "NULL") :: Nil
           }
         }
       }
       .foreachPartition(iter => iter.foreach(println))

     // 右外连接
     /**
       * rdd2中所有数据出现，由于rdd2中的数据在driver中可以存储，可以认为rdd1和rdd2通过right join之后的数据也可以在driver中保存下
       **/
     println("---------------------")
     // 将rdd1中符合条件的数据过滤出来保存到driver中
     val stage1 = rdd1
       .filter(tuple => broadcastRDDCollection.value.map(_._1).contains(tuple._1))
       .collect()
     // 将driver中两个集合进行right join
     val stage2 = leastRDDCollection.flatMap {
       case (id, address) => {
         val list = stage1.filter(_._1 == id)
         if (list.nonEmpty) {
           list.map(tuple => (id, tuple._2, address))
         } else {
           Iterator.single((id, "NULL", address))
         }
       }
     }
     stage2.foreach(println)

     // TODO: 全外连接，不写代码，因为代码比较复杂

     //====================================
     // 左半连接：只出现左表数据(要求数据必须在右表中也出现过)，如果左表的数据在右表中出现多次，最终结果只出现一次
     println("+++++++++++++++++")
     println("-----------------------")
     rdd1
       .join(rdd2)
       .map {
         case (id, (name, _)) => (id, name)
       }
       .distinct()
       .foreachPartition(iter => iter.foreach(println))
     println("------------------------")
     rdd1
       .filter(tuple => broadcastRDDCollection.value.map(_._1).contains(tuple._1))
       .foreachPartition(iter => iter.foreach(println))

     // 休眠为了看4040页面
         Thread.sleep(1000000)
   }
 }

9.Join的窄依赖程序

　　使用reduceByKey，里面的程序会给一个分区。

 package com.ibeifeng.senior.join

 import org.apache.spark.{SparkConf, SparkContext}

 /**
   * RDD数据Join相关API讲解
   * Created by ibf on 02/09.
   */
 object RDDJoin2 {
   def main(args: Array[String]): Unit = {
     val conf = new SparkConf()
       .setMaster("local[*]")
       .setAppName("RDD-Join")
     val sc = SparkContext.getOrCreate(conf)

     // ==================具体代码======================
     // 模拟数据产生， 添加map、reduceByKey、mapPartitions等api的主要功能是给rdd1和rdd2中添加一个分区器(表示当前rdd是存在shuffle过程的)
     val rdd1 = sc.parallelize(Array(
       (1, "张三1"),
       (1, "张三2"),
       (2, "李四"),
       (3, "王五"),
       (4, "Tom"),
       (5, "Gerry"),
       (6, "莉莉")
     ), 1).map(x => (x, null)).reduceByKey((x,y) => x, 1).mapPartitions(
       iter => iter.map(tuple => tuple._1),
       true // 使用上一个RDD的分区器，false表示不使用, 设置为None
     )

     val rdd2 = sc.parallelize(Array(
       (1, "上海"),
       (2, "北京1"),
       (2, "北京2"),
       (3, "南京"),
       (4, "纽约"),
       (6, "深圳"),
       (7, "香港")
     ), 1).map(x => (x, null)).reduceByKey((x,y) => x, 1).mapPartitions(
       iter => iter.map(tuple => tuple._1),
       true // 使用上一个RDD的分区器，false表示不使用, 设置为None
     )

     // 调用RDD API实现内连接
     val joinResultRDD = rdd1.join(rdd2).map {
       case (id, (name, address)) => {
         (id, name, address)
       }
     }
     println("----------------")
     joinResultRDD.foreachPartition(iter => {
       iter.foreach(println)
     })

     // 休眠为了看4040页面
         Thread.sleep(1000000)
   }
 }