Scala Collection Method
接收一元函数
map转换元素,主要应用于不可变集合(1 to 10).map(i => i * i)
(1 to 10).flatMap(i => (1 to i).map(j => i * j))
transform与map相同,不过用于可变集合,直接转换ArrayBuffer("Peter", "Paul", "Mary").transform(_.toUpperCase)
collect接收偏函数(PartialFunction)作为参数;模式匹配也是一种偏函数"-3+4".collect {
case '+' => 1 ;
case '-' => -1
} // Vector(-1, 1)
groupBy按指定函数分组,返回Mapval words = Array("Abc", "ab")
val map = words.groupBy(_.substring(0, 1).toUpperCase)
// Map(A -> Array(Abc, ab))
接收二元函数
reduceLeft从左向右规约f(f(f(a, b), c), d)
List(1, 7, 2, 9).reduceLeft(_ - _)
// ((1 - 7) - 2) - 9 = 1 - 7 - 2 - 9 = -17
reduceRight从右向左规约f(a, f(b, f(c, d)))List(1, 7, 2, 9).reduceRight(_ - _)
// 1 - (7 - (2 - 9)) = 1 - 7 + 2 - 9 = -13
foldLeft提供初始值+二元函数,从左向右折叠,每次计算结果在左侧- 可用
/:(表示树形左侧)操作符表示,(init /: collection)(function)
- 可用
foldRight提供初始值+二元函数,从右向左折叠,每次计算结果在右侧- 可用
:\(表示树形右侧)操作符表示,(collection :\ init)(function)
List(1, 7, 2, 9).foldLeft(0)(_ - _)
(0 /: List(1, 7, 2, 9))(_ - _)
// 0 - 1 - 7 - 2 - 9 = -19
- 可用
scanLeft和scanRight结合了 folding 和 mapping,结果为所有的中间过程值(1 to 10).scanLeft(0)(_ + _) // Vector(0, 1, 3, 6, 10, 15, 21, 28, 36, 45, 55)
zip拉链,即将两个集合各个元素像拉链一样交叉结合在一起List(1,2,3) zip List("a","b","c") // List((1,a), (2,b), (3,c))
- 长度不一致的集合则以较小的长度为准
zipAll为长度较短的集合设置默认值,this.zipAll(that, thisDefault, thatDefault)
zipWithIndex返回元素及对应的下标"Scala".zipWithIndex
// Vector((S,0), (c,1), (a,2), (l,3), (a,4))
view为集合创建延迟视图val lazyView = (1 to 1000000).view
lazyView.take(100).last //100
- 对视图的操作都不会立即计算(包括第一个元素也不会)
- 与
Stream不同,不会缓存任何值 apply方法会强制计算整个视图,使用lazyView.take(i).last代替lazyView(i)
par并行化集合,后续应用的方法都会并发计算for (i <- (0 until 100).par) print(s" $i")
// 1-99
很好的解决并发编程问题
将集合变为对于的并行化实现
对于产生的结果,与串行方式的结果一致 (如
for...yield...)可使用
seq,toArray等方法将集合还原部分方法不能并发操作
- 使用
reduce替代reduceLeft,先对各部分集合操作,然后聚合结果,但操作必须满足结合律 - 使用
aggregate替代foldLeft,先对各部分集合操作,然后用另一个操作将结果聚合
str.par.aggregate(Set[Char]())(_ + _, _ ++ _)
// 等价于
str.foldLeft(Set[Char]())(_ + _)
```- 使用
Scala Collection Method的更多相关文章
- spark1.5 scala.collection.mutable.WrappedArray$ofRef cannot be cast to ...解决办法
下面是我在spark user list的求助贴,很快就得到了正确回答,有遇到问题的同学解决不了也可以去上面提问. I can use it under spark1.4.1,but error on ...
- Scala Collection简介
Traversable vs Iterable Traversable, Iterable 都是trait. Iterable 继承 Traversable. Traversable: 支持forea ...
- idea中使用scala运行spark出现Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class
idea中使用scala运行spark出现: Exception in thread "main" java.lang.NoClassDefFoundError: scala/co ...
- spark提示Caused by: java.lang.ClassCastException: scala.collection.mutable.WrappedArray$ofRef cannot be cast to [Lscala.collection.immutable.Map;
spark提示Caused by: java.lang.ClassCastException: scala.collection.mutable.WrappedArray$ofRef cannot b ...
- Apache Spark Exception in thread “main” java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class
问题: 今天用Maven搭建了一个Spark的Scala项目,运行后遇到下面异常: Apache Spark Exception in thread “main” java.lang.NoClassD ...
- scala之method和function的区别
在我没有学习scala的时候,主要用java和python做日常工作开发,印象中,没有特别的刻意的去区分method和function的区别,这个关系,正如我们日常生活中,没有刻意的去区分质量和重量. ...
- mongodb collection method
https://docs.mongodb.com/manual/reference/method/db.collection.bulkWrite/ db.coll_test.getIndexes()# ...
- scala.collection.immutable.HashSet$.empty()Lscala/collection/immutable/HashSet
最近重新搭了spark环境.在Master上使用了IDEA来写代码.确实很方便.我用的是hadoop2.6.spark1.5.1forhadoop2.6. scala之前用的是2.11.0老是报这个错 ...
- Exception in thread "main" java.lang.NoSuchMethodError: scala.collection.immutable.HashSet$.empty()Lscala/collection/immutable/HashSet;
注意spark的Scala版本和java版本 修改后为官方指定的版本正常运行 Error:scalac: Error: object FloatRef does not have a member c ...
随机推荐
- loadrunner总结
loadrunner总结 1.性能测试包含了哪些测试(至少举出3种) 负载测试,压力测试,疲劳强度测试,大数据量测试,并发测试. 2.负载测试和压力测试的区别 性能测试: 是通过自动化的测试工具模拟多 ...
- kubernetes学习控制器之StatefulSet控制器
StatefulSet介绍 一.StatefulSet概述 StatefulSet是用来管理stateful(有状态)应用的StatefulSet管理Pod时,确保Pod有一个按序增长的ID与Depl ...
- thinkphp5连接sql server
我用的环境是phpstudy,php版本是5.6,thinkphp连接sql server 方法如下: 1.修改database.php文件里的数据库信息 2.进入php扩展目录.我的是“E:\php ...
- elastic date时区问题解决办法
之前介绍filter date插件时就谈到时区问题,但是没有说明白.最近在使用range查询时间范围内的数据时出现了数据量不一致的情况.特地了解了下ELK Stack中关于时区的问题. 问题: 使用k ...
- Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition (ST-GCN)
Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition 摘要 动态人体骨架模型带有进行动 ...
- 重新学习Spring注解——AOP
面向切面编程——思想:在一个地方定义通用功能,但是可以通过声明的方式定义这个功能要以何种方式在何处运用,而无须修改受影响的类. 切面:横切关注点可以被模块化为特殊的类. 优点: 1.每个关注点都集中在 ...
- CentOS7.5 上使用 bundle 文件安装 MySQL8.0 MySQL5.0
CentOS7.5 上使用 bundle 文件安装 MySQL8.0 MySQL5.0 CentOS7.5 环境 [root@instance-fjii60o3 ~]# rpm -qi centos- ...
- 码云因为认证失败导致推送失败 生成 SSH 密钥对
- docker删除镜像Error response from daemon: conflict: unable to remove repository reference
Docker无法删除images,由于是依赖container. 1.进入root权限 sudo su 2. 列出所有运行或没有运行的镜像 docker ps -a 3.停止containe ...
- CF308C-Sereja and Brackets-(线段树+括号匹配)
题意:给出一段括号,多次询问某个区间内能匹配多少括号. 题解:线段树,结构体三个属性,多余的左括号l,多余的右括号r,能够匹配的括号数val. 当前结点的val=左儿子的val+右儿子的val+min ...