spark 实现TOP N

数据量较少的情况下: scala> numrdd.sortBy(x=>x,false).take(3) res17: Array[Int] = Array(100, 99, 98) scala> numrdd.sortBy(x=>x,true).take(3) res18: Array[Int] = Array(1, 2, 3) 数据相当大的情况下,当个服务器内存无法完成TOP N,由于数据比较大,spark从hdfs上读取数据,根据数据本地化的原则,数据根据加载到不同的节点上,我…

Spark如何解决常见的Top N问题

需求假设我们有一张各个产品线URL的访问记录表,该表仅仅有两个字段:product.url,我们需要统计各个产品线下访问次数前10的URL是哪些? 解决方案 (1)模拟访问记录数据模拟数据记录共有1000条,其中包括10个产品线:product1.product2.….product10,100个URL:url1.url2.….url100,为了简化生成数据的过程,产品线和URL均使用了随机数.一条记录为一个字符串,产品线与URL使用空格进行分隔.模拟数据存储在一个名为“…

[Spark] 00 - Install Hadoop & Spark

Hadoop安装 Java环境配置安装课程:安装配置配置手册:Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04[依照步骤完成配置] jsk安装使用的链接中第三种方式. jdk安装需要遵照:https://askubuntu.com/questions/761127/how-do-i-install-openjdk-7-on-ubuntu-16-04-or-higher sudo add-apt-repository ppa:openjdk-r/ppa…

Flex_布局和容器

1.Halo组件也称MX组件,是Flex3的独有组件(按钮.文本字段.容器等).而Flex4引入了新一代的组件,称为Spark. Flex4同时支持Halo和Spark.但是很多Halo组件都有更新的Spark组件. 2.布局种类Spark都支持下面的任何一种布局: - BasicLayout:绝对布局.使用x,y坐标. - HorizontalLayout:单行中横向排列. - VerticalLayout:单列纵向排列. - TileLayout:网格形式显示组件,创建尽可能多的…

Linux学习（二）

Linux进程管理每个 Linux 命令都与系统中的程序对应,输入命令,Linux 就会创建一个新的进程.例如使用 ls 命令遍历目录中的文件时,就创建了一个进程.简而言之,进程就是程序的实例. 创建进程有两种方式来创建进程:前台进程和后台进程. 前台进程:默认情况下,用户创建的进程都是前台进程:前台进程从键盘读取数据,并把处理结果输出到显示器. 查看前台进程的运行过程 [spark@nolonely ~]$ ls *.sh a.sh b.sh c.sh d.sh e.sh f.sh g.s…

【spark】示例：求Top值

我们有这样的两个文件第一个数字为行号,后边为三列数据.我们来求第二列数据的Top(N) (1)我们先读取数据,创建Rdd (2)过滤数据,取第二列数据. 我们用filter()来过滤数据 line.trim().length是除去行末尾的空格然后计算长度,长度大于0,并且分能用逗号切分为4个子数据的数据为有效数据. 然后我们来切分取出第二列数据,即arr(2),arr(0)为行号 line.map(_.split(",")(2)) (3)数据类型转换并修改成键值对的形式我们通过.m…

hadoop与spark的处理技巧（一）Top N处理技巧

1.MR的topN处理方案,假设所有输入Key都唯一 2.MR的topN处理方案,假设输入Key不唯一 3.spark的topN处理方案,假设所有输入Key都唯一,不使用top()和takeOrdered()函数 4.spark的topN处理方案,假设输入Key不唯一,不使用top()和takeOrdered()函数 5.spark的topN处理方案,假设输入Key不唯一,使用takeOrdered()函数 …

Spark 两种方法计算分组取Top N

Spark 分组取Top N运算大数据处理中,对数据分组后,取TopN是非常常见的运算. 下面我们以一个例子来展示spark如何进行分组取Top的运算. 1.RDD方法分组取TopN from pyspark import SparkContext sc = SparkContext() 准备数据,把数据转换为rdd格式 data_list = [ (0, "cat26", 130.9), (0, "cat13", 122.1), (0, "cat95&…

Spark算子--take、top、takeOrdered

转载请标明出处http://www.cnblogs.com/haozhengfei/p/552e8a32eee9d50fe394dfdcb14c78f3.html take.top.takeOrdered 代码示例 …

基于Spark ML的Titanic Challenge (Top 6%)

下面代码按照之前参加Kaggle的python代码改写,只完成了模型的训练过程,还需要对test集的数据进行转换和对test集进行预测. scala 2.11.12 spark 2.2.2 package ML.Titanic import org.apache.spark.SparkContext import org.apache.spark.sql._ import org.apache.spark.sql.functions._ import org.apache.spark.ml.fe…

图解Spark API

初识spark,需要对其API有熟悉的了解才能方便开发上层应用.本文用图形的方式直观表达相关API的工作特点,并提供了解新的API接口使用的方法.例子代码全部使用python实现. 1. 数据源准备准备输入文件: $ cat /tmp/in apple bag bag cat cat cat 启动pyspark: $ ./spark/bin/pyspark 使用textFile创建RDD: >>> txt = sc.textFile("file:///tmp/in"…

Spark笔记：RDD基本操作（下）

上一篇里我提到可以把RDD当作一个数组,这样我们在学习spark的API时候很多问题就能很好理解了.上篇文章里的API也都是基于RDD是数组的数据模型而进行操作的. Spark是一个计算框架,是对mapreduce计算框架的改进,mapreduce计算框架是基于键值对也就是map的形式,之所以使用键值对是人们发现世界上大部分计算都可以使用map这样的简单计算模型进行计算.但是Spark里的计算模型却是数组形式,RDD如何处理Map的数据格式了?本篇文章就主要讲解RDD是如何处理Map的数据格式.…

Spark核心——RDD

Spark中最核心的概念为RDD(Resilient Distributed DataSets)中文为:弹性分布式数据集,RDD为对分布式内存对象的抽象它表示一个被分区不可变且能并行操作的数据集:RDD为可序列化的.可缓存到内存对RDD进行操作过后还可以存到内存中,下次操作直接把内存中RDD作为输入,避免了Hadoop MapReduce的大IO操作: RDD生成 Spark所要处理的任何数据都是存储在RDD之中,目前两种方式可以生成一个RDD: 1.从RDD进行转换操作 2.使用外部存储系统…

【原】Learning Spark (Python版) 学习笔记(一)----RDD 基本概念与命令

<Learning Spark>这本书算是Spark入门的必读书了,中文版是<Spark快速大数据分析>,不过豆瓣书评很有意思的是,英文原版评分7.4,评论都说入门而已深入不足,中文译版评分8.4,评论一片好评,有点意思.我倒觉得这本书可以作为官方文档的一个补充,刷完后基本上对Spark的一些基本概念.码简单的程序是没有问题的了.这本书有一个好处是它是用三门语言写的,Python/Java/Scala,所以适用性很广,我的观点是,先精通一门语言,再去学其他语言.由于我工作中比较常用…

【原】Spark之机器学习(Python版)(一)——聚类

kmeans聚类相信大家都已经很熟悉了.在Python里我们用kmeans通常调用Sklearn包(当然自己写也很简单).那么在Spark里能不能也直接使用sklean包呢?目前来说直接使用有点困难,不过我看到spark-packages里已经有了,但还没有发布.不过没关系,PySpark里有ml包,除了ml包,还可以使用MLlib,这个在后期会写,也很方便. 首先来看一下Spark自带的例子: from pyspark.mllib.linalg import Vectors from py…

Spark MLlib - LFW

val path = "/usr/data/lfw-a/*" val rdd = sc.wholeTextFiles(path) val first = rdd.first println(first) val files = rdd.map { case (fileName, content) => fileName.replace("file:", "") } println(files.first)println(files.coun…

spark streaming kafka example

// scalastyle:off println package org.apache.spark.examples.streaming import kafka.serializer.StringDecoder import org.apache.spark.SparkConf import org.apache.spark.streaming._ import org.apache.spark.streaming.kafka._ import org.apache.spark.stream…

[Spark] Spark的RDD编程

本篇博客中的操作都在 ./bin/pyspark 中执行. RDD,即弹性分布式数据集(Resilient Distributed Dataset),是Spark对数据的核心抽象.RDD是分布式元素的集合,对手的所有操作都可以概括为: 创建RDD 转化已有RDD 调用RDD操作进行求值在这些操作中,Spark会自动将RDD中的数据分发的集群上,并将操作自动化执行. 每个RDD都被分为多个分区,这些分区运行在集群中的不同节点上. Get Started 用户可以: 读取一个外部数据集或者使用对…

Spark机器学习读书笔记-CH04

[root@demo1 ch04]# spark-shell --master yarn --jars /root/studio/jblas-1.2.3.jar scala> val rawData = sc.textFile("hdfs://192.168.0.85:8020/user/root/studio/MachineLearningWithSpark/ch04/ml-100k/u.data")rawData: org.apache.spark.rdd.RDD[Strin…

【转载】Spark性能优化指南——高级篇

前言数据倾斜调优调优概述数据倾斜发生时的现象数据倾斜发生的原理如何定位导致数据倾斜的代码查看导致数据倾斜的key的数据分布情况数据倾斜的解决方案解决方案一:使用Hive ETL预处理数据解决方案二:过滤少数导致倾斜的key 解决方案三:提高shuffle操作的并行度解决方案四:两阶段聚合(局部聚合+全局聚合) 解决方案五:将reduce join转为map join 解决方案六:采样倾斜key并分拆join操作解决方案七:使用随机前缀和扩容RDD进行join 解决方案八:多…

Spark中常用工具类Utils的简明介绍

<深入理解Spark:核心思想与源码分析>一书前言的内容请看链接<深入理解SPARK:核心思想与源码分析>一书正式出版上市 <深入理解Spark:核心思想与源码分析>一书第一章的内容请看链接<第1章环境准备> <深入理解Spark:核心思想与源码分析>一书第二章的内容请看链接<第2章 SPARK设计理念与基本架构> <深入理解Spark:核心思想与源码分析>一书第三章第一部分的内容请看链接<深入理解Spark:核心…

优质IT资源分享社区www.itziyuan.top

你好,我是“优质IT资源分享社区(www.itziyuan.top)”的建设者,同时也是一名普通的IT的热爱者. 首先,我介绍一下网站所收录的教程分类: 基础编程语言: C,C++,C#,Java,Php,.Net,Swift,Python,Delphi,Qt,汇编语言等: 移动开发: Android开发,iOS开发,微信开发,Html5手游开发: 前端开发: Html,Css,Js,前端开发框架等: 后端开发: Php,Python,Node.js,J2EE,Asp.net,R…

[spark案例学习] WEB日志分析

数据准备数据下载:美国宇航局肯尼迪航天中心WEB日志我们先来看看数据:首先将日志加载到RDD,并显示出前20行(默认). import sys import os log_file_path ='apache.access.log.PROJECT' base_df = sqlContext.read.text(log_file_path) base_df.show(truncate=False) 数据框输出如下: +--------------------------------------…

spark学习笔记总结-spark入门资料精化

Spark学习笔记 Spark简介 spark 可以很容易和yarn结合,直接调用HDFS.Hbase上面的数据,和hadoop结合.配置很容易. spark发展迅猛,框架比hadoop更加灵活实用.减少了延时处理,提高性能效率实用灵活性.也可以与hadoop切实相互结合. spark核心部分分为RDD.Spark SQL.Spark Streaming.MLlib.GraphX.Spark R等核心组件解决了很多的大数据问题,其完美的框架日受欢迎.其相应的生态环境包括zepplin等可视化方面…