Scala Collection Method
接收一元函数
map转换元素,主要应用于不可变集合(1 to 10).map(i => i * i)
(1 to 10).flatMap(i => (1 to i).map(j => i * j))
transform与map相同,不过用于可变集合,直接转换ArrayBuffer("Peter", "Paul", "Mary").transform(_.toUpperCase)
collect接收偏函数(PartialFunction)作为参数;模式匹配也是一种偏函数"-3+4".collect {
case '+' => 1 ;
case '-' => -1
} // Vector(-1, 1)
groupBy按指定函数分组,返回Mapval words = Array("Abc", "ab")
val map = words.groupBy(_.substring(0, 1).toUpperCase)
// Map(A -> Array(Abc, ab))
接收二元函数
reduceLeft从左向右规约f(f(f(a, b), c), d)
List(1, 7, 2, 9).reduceLeft(_ - _)
// ((1 - 7) - 2) - 9 = 1 - 7 - 2 - 9 = -17
reduceRight从右向左规约f(a, f(b, f(c, d)))List(1, 7, 2, 9).reduceRight(_ - _)
// 1 - (7 - (2 - 9)) = 1 - 7 + 2 - 9 = -13
foldLeft提供初始值+二元函数,从左向右折叠,每次计算结果在左侧- 可用
/:(表示树形左侧)操作符表示,(init /: collection)(function)
- 可用
foldRight提供初始值+二元函数,从右向左折叠,每次计算结果在右侧- 可用
:\(表示树形右侧)操作符表示,(collection :\ init)(function)
List(1, 7, 2, 9).foldLeft(0)(_ - _)
(0 /: List(1, 7, 2, 9))(_ - _)
// 0 - 1 - 7 - 2 - 9 = -19
- 可用
scanLeft和scanRight结合了 folding 和 mapping,结果为所有的中间过程值(1 to 10).scanLeft(0)(_ + _) // Vector(0, 1, 3, 6, 10, 15, 21, 28, 36, 45, 55)
zip拉链,即将两个集合各个元素像拉链一样交叉结合在一起List(1,2,3) zip List("a","b","c") // List((1,a), (2,b), (3,c))
- 长度不一致的集合则以较小的长度为准
zipAll为长度较短的集合设置默认值,this.zipAll(that, thisDefault, thatDefault)
zipWithIndex返回元素及对应的下标"Scala".zipWithIndex
// Vector((S,0), (c,1), (a,2), (l,3), (a,4))
view为集合创建延迟视图val lazyView = (1 to 1000000).view
lazyView.take(100).last //100
- 对视图的操作都不会立即计算(包括第一个元素也不会)
- 与
Stream不同,不会缓存任何值 apply方法会强制计算整个视图,使用lazyView.take(i).last代替lazyView(i)
par并行化集合,后续应用的方法都会并发计算for (i <- (0 until 100).par) print(s" $i")
// 1-99
很好的解决并发编程问题
将集合变为对于的并行化实现
对于产生的结果,与串行方式的结果一致 (如
for...yield...)可使用
seq,toArray等方法将集合还原部分方法不能并发操作
- 使用
reduce替代reduceLeft,先对各部分集合操作,然后聚合结果,但操作必须满足结合律 - 使用
aggregate替代foldLeft,先对各部分集合操作,然后用另一个操作将结果聚合
str.par.aggregate(Set[Char]())(_ + _, _ ++ _)
// 等价于
str.foldLeft(Set[Char]())(_ + _)
```- 使用
Scala Collection Method的更多相关文章
- spark1.5 scala.collection.mutable.WrappedArray$ofRef cannot be cast to ...解决办法
下面是我在spark user list的求助贴,很快就得到了正确回答,有遇到问题的同学解决不了也可以去上面提问. I can use it under spark1.4.1,but error on ...
- Scala Collection简介
Traversable vs Iterable Traversable, Iterable 都是trait. Iterable 继承 Traversable. Traversable: 支持forea ...
- idea中使用scala运行spark出现Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class
idea中使用scala运行spark出现: Exception in thread "main" java.lang.NoClassDefFoundError: scala/co ...
- spark提示Caused by: java.lang.ClassCastException: scala.collection.mutable.WrappedArray$ofRef cannot be cast to [Lscala.collection.immutable.Map;
spark提示Caused by: java.lang.ClassCastException: scala.collection.mutable.WrappedArray$ofRef cannot b ...
- Apache Spark Exception in thread “main” java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class
问题: 今天用Maven搭建了一个Spark的Scala项目,运行后遇到下面异常: Apache Spark Exception in thread “main” java.lang.NoClassD ...
- scala之method和function的区别
在我没有学习scala的时候,主要用java和python做日常工作开发,印象中,没有特别的刻意的去区分method和function的区别,这个关系,正如我们日常生活中,没有刻意的去区分质量和重量. ...
- mongodb collection method
https://docs.mongodb.com/manual/reference/method/db.collection.bulkWrite/ db.coll_test.getIndexes()# ...
- scala.collection.immutable.HashSet$.empty()Lscala/collection/immutable/HashSet
最近重新搭了spark环境.在Master上使用了IDEA来写代码.确实很方便.我用的是hadoop2.6.spark1.5.1forhadoop2.6. scala之前用的是2.11.0老是报这个错 ...
- Exception in thread "main" java.lang.NoSuchMethodError: scala.collection.immutable.HashSet$.empty()Lscala/collection/immutable/HashSet;
注意spark的Scala版本和java版本 修改后为官方指定的版本正常运行 Error:scalac: Error: object FloatRef does not have a member c ...
随机推荐
- group by 两个字段
group by 的简单说明: group by 一般和聚合函数一起使用才有意义,比如 count sum avg等 使用group by的两个要素: (1) 出现在select后面的字段 要么 ...
- 01GitLab的使用——创建项目并上传到GitLab
借鉴:https://jingyan.baidu.com/article/9c69d48fe68cce13c9024e9c.html 登录GitLab网站,创建一个项目上传地址:https://blo ...
- 使用 Python 生成二维码
在“一带一路”国际合作高峰论坛举行期间, 20 国青年投票选出中国的“新四大发明”:高铁.扫码支付.共享单车和网购.其中扫码支付指手机通过扫描二维码跳转到支付页面,再进行付款.这种新的支付方式,造就二 ...
- C# Net 合并int集合为字符串,如:输入1,2,3,4,8 输出1~4,8
C# Net 合并int集合为字符串,如:输入1,2,3,4,8 输出1~4,8 粘贴代码使用: /// <summary> /// 合并int集合,如1,2,3,4,8 输出1~4,8 ...
- shell中if语句的使用
转载于:https://www.cnblogs.com/aaronLinux/p/7074725.html bash中如何实现条件判断?条件测试类型: 整数测试 字符测试 文件测试 ...
- linux常见性能分析工具
vmstat sar (来源于sysstat工具包,需要yum sysstat)iostat (来源于sysstat工具包,需要yum sysstat)free -muptimene ...
- frame标签和frameset
框架: 属性 值 描述 frameborder 0 1 规定是否显示框架周围的边框. longdesc URL 规定一个包含有关框架内容的长描述的页面. marginheight pixels 定义框 ...
- django 统计表
1. 复杂版 统计,通过跨表查询和timedate模块过滤找到 from django.db.models import Count class TongJiView(View): def today ...
- error: Libtool library used but 'LIBTOOL' is undefined
编译时出现: error: Libtool library used but ‘LIBTOOL’ is undefined 参考了一下: http://stackoverflow.com/questi ...
- Windows使用CMD命令查看进程和终止进程
TaskList: 列出当前所有运行进程. 使用方法:在命令提示符中输入tasklist 然后回车,会看到类似下面的列表: 映像名称 PID 会话名 会话# 内存使用 == ...