Scalaz(49)- scalaz-stream: 深入了解-Sink/Channel
一个完整的scalaz-stream有以下几个部分组成:Source -> Transducer -> Sink,用直白文字来描述就是:“输入 -> 传换 -> 输出”。我们已经在前面几篇讨论中介绍了Source和Transducer的基本情况,这篇讨论我们探讨一下Sink。scalaz-stream最基本的功能就是从Source接收一串元素,经过处理然后输出。毕竟我们从外部获取了数据、处理完毕后总不能就留在原地内存,还是要把数据输出到对当前运算中程序来说的一个外部系统。Sink就等于是这个外部系统的输入接口。与往常一样,我们先来看看Sink的类型款式:
/**
* An effectful sink, to which we can send values. Modeled
* as a source of effectful functions.
*/
type Sink[+F[_],-O] = Process[F, O => F[Unit]]
从类型款式看来Sink就是一种Process。只不过它包含的元素是一串函数(O => F[Unit])。这里的O是数据元素,F[Unit]的意思是对O进行F运算后不返回任何结果,如:Task{ println(...)}。我们先构造一个简单的Sink:
val sinkStdout: Sink[Task,String] =
Process.repeatEval {
Task.delay { (s: String) =>
Task.delay { println(s) }}} //> sinkStdout : scalaz.stream.Sink[scalaz.concurrent.Task,String] = Append(Await(scalaz.concurrent.Task@702b8b12,<function1>,<function1>),Vector(<function1>)) val sinkStdout2: Sink[Task,String] =
Process.constant { (s: String) =>
Task.delay { println(s) }} //> sinkStdout2 : scalaz.stream.Sink[scalaz.concurrent.Task,String] = Append(Emit(Vector(<function1>)),Vector(<function1>))
我们应该怎样把数据传给Sink呢?首先我们可以用tee.zip:
(range(,) zip sinkStdout).flatMap {
case (i,f) => eval (f(i.toString))
}.run.run //> 1
//| 2
//| 3
//| 4
//| 5
实际上scalaz-stream提供了to函数来支持Sink连接。to还是通过tee.zip来实现的:
/** Feed this `Process` through the given effectful `Channel`. */
def through[F2[x]>:F[x],O2](f: Channel[F2,O,O2]): Process[F2,O2] =
self.zipWith(f)((o,f) => f(o)).eval onHalt { _.asHalt }
/** Attaches `Sink` to this `Process` */
def to[F2[x]>:F[x]](f: Sink[F2,O]): Process[F2,Unit] =
through(f)
我们用to来重复示范上面的例子:
(range(,).map(_.toString) to sinkStdout).run.run
//> 1
//| 2
//| 3
//| 4
//| 5
可以说用to表述更简洁。如果我们需要把数据发送到多个外部系统,那我们就必须连接多个Sink了,可以用zip来连接多个Sink:
(range(,) zip sinkStdout zip sinkStdout2).flatMap {
case (((i,f),f2)) => for {
_ <- eval(f(i.toString))
_ <- eval(f2(i.toString))
} yield ()
}.run.run //> 1
//| 1
//| 2
//| 2
//| 3
//| 3
//| 4
//| 4
//| 5
//| 5
scalaz-stream提供的observe函数可以像一个分流器一样安插在数据流中间复制一份数据发送到一个Sink而不影响正在流动的数据:
(range(,).map(_.toString) observe sinkStdout observe sinkStdout2 to sinkStdout)
.run.run //> 1
//| 1
//| 1
//| 2
//| 2
//| 2
//| 3
//| 3
//| 3
以上例子相当于连接了3个Sink。observe通常被用来跟踪流中数据,因为它不会影响数据流的正常运算。我们也可以把多个Sink zip成一个多功能的Sink。与上面例子不同的是它只有一个输出口:
import scalaz._
import Scalaz._
import scalaz.stream._
import scalaz.concurrent._
import scala.language.higherKinds
object streamLogDemo {
sealed trait Loglevel
case object Info extends Loglevel
case object Debug extends Loglevel
case object Warning extends Loglevel case class Line(level: Loglevel, line: String)
//Sinks
val outInfo = io.stdOutLines.contramap {(l: Line) => "Info: " + l.line}
//> outInfo : scalaz.stream.Channel[scalaz.concurrent.Task,Line,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>))
val outDebug = io.stdOutLines.contramap {(l: Line) => "Debug: " + l.line}
//> outDebug : scalaz.stream.Channel[scalaz.concurrent.Task,Line,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>))
val outWarning = io.stdOutLines.contramap {(l: Line) => "Warning: " + l.line}
//> outWarning : scalaz.stream.Channel[scalaz.concurrent.Task,Line,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>)) val zippedSink = (outInfo zip outDebug zip outWarning).map {
case ((fInfo,fDebug), fWarning) =>
(l: Line) => l.level match {
case Info => fInfo(l)
case Debug => fDebug(l)
case Warning => fWarning(l)
}
} //> zippedSink : scalaz.stream.Process[[x]scalaz.concurrent.Task[x],Line => scalaz.concurrent.Task[Unit]] = Append(Halt(End),Vector(<function1>))
//test data
val lines: List[Line] = List(
Line(Info, "Hello"),
Line(Debug, "buddy"),
Line(Warning, "nanana")) //> lines : List[Line] = List(Line(Info,Hello), Line(Debug,buddy), Line(Warning,nanana))
//test run
(Process.emitAll(lines) to zippedSink).run.run //> Info: Hello
//| Debug: buddy
//| Warning: nanana
}
仔细观察我们可以发现上面的例子里outInfo,outDebug,outWarning的最终类型变成了Channel,io.stdOutLines的类型应该是Sink,那么Channel应该是某种Sink了。我们看看Channel的类型款式:
/**
* An effectful sink, to which we can send values. Modeled
* as a source of effectful functions.
*/
type Sink[+F[_],-O] = Process[F, O => F[Unit]] /**
* An effectful channel, to which we can send values and
* get back responses. Modeled as a source of effectful
* functions.
*/
type Channel[+F[_],-I,O] = Process[F, I => F[O]]
从类型款式上对比Sink和Channel的不同之处只在这个与外界系统的接口函数:Channel的函数是I => F[O],它返回了F运算结果。这也很容易理解:Sink正如其名,任何东西进入Sink就如泥牛入海,无所回应。Channel会返回接收数据方的信息。Sink和Channel之间是可以相互转换的。Channel有个lift函数,能把一个A => F[B]函数升格成Channel类型:
/** Promote an effectful function to a `Channel`. */
def lift[F[_],A,B](f: A => F[B]): Channel[F, A, B] =
Process constant f
实际上我如果用这个lift把A => F[Unit]这样的函数升格,就会得到一个Sink了。这个从Sink的lift函数中可以证实:
object sink {
/** Promote an effectful function to a `Sink`. */
def lift[F[_], A](f: A => F[Unit]): Sink[F, A] = channel lift f
}
我们用一些例子来体验一下:
val ch = channel.lift((i: Int) => Task.delay { i * })
//> ch : scalaz.stream.Channel[scalaz.concurrent.Task,Int,Int] = Append(Emit(Vector(<function1>)),Vector(<function1>))
(Process.range(,) through ch).runLog.run //> res0: Vector[Int] = Vector(3, 6, 9, 12, 15)
val sn = channel.lift((i: Int) => Task.delay { println(i * );()})
//> sn : scalaz.stream.Channel[scalaz.concurrent.Task,Int,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>))
(Process.range(,) to sn).run.run //> 3
//| 6
//| 9
//| 12
//| 15
val sn1 = sink.lift((i: Int) => Task.delay { println(i * ) })
//> sn1 : scalaz.stream.Sink[scalaz.concurrent.Task,Int] = Append(Emit(Vector(<function1>)),Vector(<function1>))
(Process.range(,) to sn1).run.run //> 3
//| 6
//| 9
//| 12
//| 15
如果我们的系统需要与外部多个系统对接的话,我们同样可以把一个数据源发送到多个Sink和Channel:
(Process.range(,) observe sn observe sn1 through ch).runLog.run
//> 3
//| 3
//| 6
//| 6
//| 9
//| 9
//| 12
//| 12
//| 15
//| 15
//| res1: Vector[Int] = Vector(3, 6, 9, 12, 15)
Scalaz(49)- scalaz-stream: 深入了解-Sink/Channel的更多相关文章
- Scalaz(53)- scalaz-stream: 程序运算器-application scenario
从上面多篇的讨论中我们了解到scalaz-stream代表一串连续无穷的数据或者程序.对这个数据流的处理过程就是一个状态机器(state machine)的状态转变过程.这种模式与我们通常遇到的程序流 ...
- Scalaz(47)- scalaz-stream: 深入了解-Source
scalaz-stream库的主要设计目标是实现函数式的I/O编程(functional I/O).这样用户就能使用功能单一的基础I/O函数组合成为功能完整的I/O程序.还有一个目标就是保证资源的安全 ...
- Scalaz(23)- 泛函数据结构: Zipper-游标定位
外面沙尘滚滚一直向北去了,意识到年关到了,码农们都回乡过年去了,而我却留在这里玩弄“拉链”.不要想歪了,我说的不是裤裆拉链而是scalaz Zipper,一种泛函数据结构游标(cursor).在函数式 ...
- Scalaz(8)- typeclass:Monoid and Foldable
Monoid是种最简单的typeclass类型.我们先看看scalaz的Monoid typeclass定义:scalaz/Monoid.scala trait Monoid[F] extends S ...
- Scalaz(6)- typeclass:Functor-just map
Functor是范畴学(Category theory)里的概念.不过无须担心,我们在scala FP编程里并不需要先掌握范畴学知识的.在scalaz里,Functor就是一个普通的typeclass ...
- Scalaz(45)- concurrency :Task-函数式多线程编程核心配件
我们在上一节讨论了scalaz Future,我们说它是一个不完善的类型,最起码没有完整的异常处理机制,只能用在构建类库之类的内部环境.如果scalaz在Future类定义中增加异常处理工具的话,用户 ...
- Scalaz(26)- Lens: 函数式不可变对象数据操作方式
scala中的case class是一种特殊的对象:由编译器(compiler)自动生成字段的getter和setter.如下面的例子: case class City(name:String, pr ...
- Scalaz(22)- 泛函编程思维: Coerce Monadic Thinking
马上进入新的一年2016了,来点轻松点的内容吧.前面写过一篇关于用Reader实现依赖注入管理的博文(Scalaz(16)- Monad:依赖注入-Dependency Injection By Re ...
- Scalaz(20)-Monad: Validation-Applicative版本的Either
scalaz还提供了个type class叫Validation.乍看起来跟\/没什么分别.实际上这个Validation是在\/的基础上增加了Applicative功能,就是实现了ap函数.通过Ap ...
随机推荐
- Atitit usrqbg1834 html的逻辑化流程化 规范标准化解决方案
Atitit usrqbg1834 html的逻辑化流程化 规范标准化解决方案 常用指令1 ..v-if.v-else指令2 v-for指令3 MVVM大比拼4 常用指令 本来按照Vue文档说明,常用 ...
- java 线程协作 wait(等待)与 notiy(通知)
一.wait().notify()和notifyAll() 为了更好的支持多线程之间的协作,JDK提供了三个重要的本地方法 //调用某个对象的wait()方法能让当前线程阻塞,并且当前线程必须拥有此对 ...
- Chrome同步最新host文件IP列表
使用Chrome的童靴是不是很多都碰到同步问题呢?网上查来查去的都是给些host文件的修改,可是都是几年前的东西,地址都不对了,想想还是自己找到需要解析的域名的IP地址吧 步骤: 1.DNS设置为8. ...
- Liferay7 BPM门户开发之42: Liferay核心JSP定制扩展
Liferay最大的好处是不仅接口强大,利于扩展,就连JSP定制扩展都提供了3种方式. 修改核心jsp代码,有3种修改方式:1.暴力修改直接修改(位于portal-web/docroot/html), ...
- iOS设备的越狱方法
最近公司的事情很忙,在开发一个类似于微信的App,经常加班,所以也没有时间去更新微信公众账号的内容了.iOSJailbreak, 申请这个账号大概有一个多月了吧,发布的内容不多,更多是针对开发者的内容 ...
- 利用SSIS的ForcedExecutionResult 属性 和CheckPoint调试Package
1,ForcedExecutionResult 强制一个package或task执行的结果,共有四种值 None,Success,Failure,Completion,默认值是None,表示不强制返回 ...
- KlayGE 4.4中渲染的改进(二):DR的其他改进
转载请注明出处为KlayGE游戏引擎,本文的永久链接为http://www.klayge.org/?p=2749 上一篇讲了TBDR的实现,本篇继续讲解deferred rendering层的一些 ...
- MyEclipse在搭建s2sh时 如何 uninstalled facet
在资源管理器中:找到当前[项目的根目录],在[.setting]目录中, 找到[org.eclipse.wst.common.project.facet.core.xml]文件. 用[文本编辑器工具] ...
- CentOS安装运行NodeJS框架Express
安装依赖包 yum -y install gcc make gcc-c++ openssl-devel wget 下载/解压NodeJs wget http://nodejs.org/dist/v0. ...
- 【Java基础】RTTI与反射之Java
一.引言 很多时候我们的程序可能需要在运行时识别对象和类的信息,比如多态就是基于运行时环境进行动态判断实际引用的对象.在运行时识别对象和类的信息主要有两种方式:1.RTTI,具体是Class对象,它假 ...