spark读取外部配置文件的方法

spark读取外部配置文件的方法

spark-submit  --files /tmp/fileName /tmp/test.jar

使用spark提交时使用--files参数,spark会将将本地的文件上传的hdfs,然后分发给每个executor

在程序中只需要使用文件名获取数据

val    filePath ="fileName"

val    props =newProperties()

props.load(newFileInputStream(filePath))

//发送到executor去执行

val  rdd=sc.parallelize(0to3)

rdd.foreach(index=>

props.keySet().toArray().foreach(x=>println(x+"\t"+props.getProperty(x.toString)))

)

java的方式也是一样的,在这就不写了

3、--files   ./config.properties

读一般文件：

val t: BufferedSource = scala.io.Source.fromFile("config.properties")
t.getLines().foreach(t=>println(t))

读配置文件：

/*    val config = "config.properties"
    val prop = new Properties()
    prop.load(new FileInputStream(config))
    val keyset = prop.keySet().toArray()
    keyset.foreach(t=>println(t+" "+prop.getProperty(t.toString)))*/

配置文件类加载测试	配置采用 key=value 的形式	client/cluster	采用 sc.getConf.get 方法；配合submit 参数–properties-file 上传配置文件； 配置文件key value 以空格为分隔符
配置文件类加载测试	配置采用 key=value 的形式	client/cluster	采用java.util.Properties 方法；配置文件打包到jar包里； 配置文件key value 以“=”为分隔符
资源文件类加载测试	普通文本格式，非key value模式	client/cluster	采用scala.io.Source.fromFile 方法；资源文件采用submit 参数–files 上传；
资源文件类加载测试	普通文本格式，非key value模式	client/cluster	采用scala.io.Source.fromFile和getResourceAsStream方法；资源文件打包到jar包中；

在/tmp下创建a文件，内容为：

this is  a test data
this is  a test data
this is  a test data
this is  a test data
this is  a test data
this is  a test data
this is  a test data
this is  a test data
this is  a test data
this is  a test data
this is  a test data

spark-shell --master yarn --files "/tmp/a"

可以看到a文件被上传到hdfs上了：

在代码中读取该文件，如下

可以看见这个文件在excutor被正确读取：且在两个excutor上分别执行，一个打印了22行，一个打印11行，原文件总共11行；上述rdd公有三个元素，每个元素遍历时打印一遍，总共

3*11=33