背景 MapReduce和Spark对外提供了上百个配置参数,用户可以为作业定制这些参数以更快,更稳定的运行应用程序.本文梳理了最常用的一些MapReduce和Spark配置参数. MapReduce重要配置参数 1.  资源相关参数 (1) mapreduce.map.memory.mb: 一个Map Task可使用的资源上限(单位:MB),默认为1024.如果Map Task实际使用的资源量超过该值,则会被强制杀死. (2) mapreduce.reduce.memory.mb: 一个Red…

spark-shell/spark-submit/pyspark等关系如下: #spark-submit 逻辑: ################################################ #从spark-shell调用之后,传进来--class org.apache.spark.repl.Main --name "Spark shell" --master spark://ip:7077 #先检测spark_home,然后去调用spark_home/bin/sp…

HBase: http://hbase.apache.org/ Hadoop hadoop.apache.org spark http://spark.apache.org/…

非常好的spark分析博客,我们team的,哈哈:http://jerryshao.me/ spark programming guide: https://github.com/mesos/spark/wiki/Spark-Programming-Guide ------------------------------------------------------------- scala安装: $ wget http://www.scala-lang.org/files/archive/s…

前面介绍了Spark开发环境的搭建,下面将在实际开发过程中遇到的一些问题汇总一下: 1.Exception in thread "main" com.typesafe.config.ConfigException$Missing: No configuration setting found for key 'akka.version' 这种情况,我出现的是原因提交job到spark集群中,采用的是java -jar的方式. 正确的做法是:用spark-submit 命令的方式提交jo…

面试回来之后把其中比较重要的问题记了下来写了个总结: (答案在后面) 1.简答说一下hadoop的map-reduce编程模型 2.hadoop的TextInputFormat作用是什么,如何自定义实现 3.hadoop和spark的都是并行计算,那么他们有什么相同和区别 4.为什么要用flume导入hdfs,hdfs的构架是怎样的 5.map-reduce程序运行的时候会有什么比较常见的问题 6.简单说一下hadoop和spark的shuffle过程 以下是自己的理解,如果有不对的地方希望各位…

Spark为什么会比mapreduce快? 1.Spark减少了中间过程的磁盘读写,数据很多时候不需要落地,从而提升了效率. 2.Spark基于内存的读写,减少了磁盘IO.node数据交互的通信时间. 3.Spark并非mapreduce心跳的模式,任务调度性能比mapreduce快,适合迭代计算. 4.JVM的优化:Hadoop每次MapReduce操作,启动一个Task便会启动一次JVM,基于进程的操作.而Spark每次MapReduce操作是基于线程的,只在启动Executor是启动一次J…

本文环境说明 centos服务器 jupyter的scala核spylon-kernel spark-2.4.0 scala-2.11.12 hadoop-2.6.0 本文主要内容 spark读取hive表的数据,主要包括直接sql读取hive表:通过hdfs文件读取hive表,以及hive分区表的读取. 通过jupyter上的cell来初始化sparksession. 文末还有通过spark提取hdfs文件的完整示例 jupyter配置文件 我们可以在jupyter的cell框里面,对spar…

spark工作机制,哪些角色,作用. spark yarn模式下的cluster模式和client模式有什么区别.…

1.Hive相关 脚本导数据,并设置运行队列 bin/beeline -u 'url' --outputformat=tsv -e "set mapreduce.job.queuename=queue_1" -e "select * from search_log where date <= 20150525 and date >= 20150523" > test.txt 将毫秒转换为日期 select from_unixtime(cast(cr…