我们知道,spark中每个分片都代表着一部分数据,那么分片数量如何被确认的呢? 首先我们使用最常见的HDFS+Spark,sparkDeploy的方式来讨论,spark读取HDFS数据使用的是sparkcontext.textfile(Path, minPartitions): def textFile( path: String, minPartitions: Int = defaultMinPartitions): RDD[String] = withScope { assertNotSto…