泛函编程(36)-泛函Stream IO:IO数据源-IO Source & Sink
上期我们讨论了IO处理过程:Process[I,O]。我们说Process就像电视信号盒子一样有输入端和输出端两头。Process之间可以用一个Process的输出端与另一个Process的输入端连接起来形成一串具备多项数据处理功能的完整IO过程。但合成的IO过程两头输入端则需要接到一个数据源,而另外一端则可能会接到一个数据接收设备如文件、显示屏等。我们在这篇简单地先介绍一下IO数据源Source和IO数据接收端Sink。
我们先用一个独立的数据类型来代表数据源Source进行简单的示范说明,这个类型与Process类型没有任何关系:
import ProcessLib._
object SourceSink {
trait Source[O] { //以下helper function都是把Source当作O类的List处理
def |>[O2](p: Process[O,O2]): Source[O2] //粘接一个Process p. 向其输入O
def filter(f: O => Boolean): Source[O] = this |> Process.filter(f) //向p输入O
def map[O2](f: O => O2): Source[O2] = this |> Process.lift(f)
def take(n: Int): Source[O] = this |> Process.take(n) //截取前n个O
def takeWhile(f: O => Boolean): Source[O] = this |> Process.takeWhile(f)
def drop(n: Int): Source[O] = this |> Process.drop(n) //跳过前n个O
def dropWhile(f: O => Boolean): Source[O] = this |> Process.dropWhile(f)
}
从以上trait可以看到:Source的工作原理就是把一个Process的输入黏贴到Source的输出端。我们可以用这个 |> 把一串Process粘到Source的输出,如:Src.proc1.proc2.proc3。不过我们得先把proc1,proc2,proc3定义成Source组件函数,因为Source是一个完全独立的类型。
我们再来看看一个Source特殊案例:
case class ResourceR[R,I,O]( //Source的一个只读资源案例
acquire: IO[R], //资源使用门户 resource handle
release: R => IO[Unit], //完成使用资源后的清理函数
step: R => IO[Option[I]], //资源内容读取函数
trans: Process[I,O] //输出方式
) extends Source[O] {
def |>[O2](p: Process[O,O2]): Source[O2] = //实现抽象函数
ResourceR(acquire,release,step,trans |> p) //每次输入都产生一个ResourceR.它的trans与p进行管道对接
}
这是个只读的数据源。我们看到所有的动作都被包嵌在IO类型里,这样可以把副作用的产生延后到一些Source Interpreter来运算。这里我们只要用最简单的IO来说明就可以了:
trait IO[A] { self =>
def run: A
def map[B](f: A => B): IO[B] =
new IO[B] { def run = f(self.run) }
def flatMap[B](f: A => IO[B]): IO[B] =
new IO[B] { def run = f(self.run).run }
}
object IO {
def unit[A](a: => A): IO[A] = new IO[A] { def run = a }
def flatMap[A,B](fa: IO[A])(f: A => IO[B]) = fa flatMap f
def apply[A](a: => A): IO[A] = unit(a) // syntax for IO { .. }
}
这个IO类型我们在前面的讨论里曾经练习过。
现在我们来看看一个文件读取的ResourceR例子:
object Source {
import java.io._
def lines(fileName: String): Source[String] = //从文件fileName里读取String
ResourceR( //创建一个Source的实例
IO {io.Source.fromFile(fileName) }, //资源
(src: io.Source) => IO { src.close }, //清理
(src: io.Source) => IO { //读取
lazy val iterator = src.getLines
if (iterator.hasNext) Some(iterator.next) else None //读完返回None
},
Process.passUnchanged) //Process[I,I],读什么输入什么
}
现在我们可以这样写一段程序了:
Source.lines("input.txt").count.exists{_ >= 40000 }
//> res0: ch15.SourceSink.Source[Boolean] = ResourceR(ch15.SourceSink$IO$$anon$
//| 3@762efe5d,<function1>,<function1>,Await(<function1>))
噢,记住把count和exists放到Source trait里:
def exists(f: O => Boolean): Source[Boolean] = this |> Process.exists(f)
def count: Source[Int] = this |> Process.count
上面的表达式可以说还只是IO过程的描述。实际副作用产生是在interpreter里:
def collect: IO[IndexedSeq[O]] = { //读取数据源返回IO[IndexedSeq[O]], 用IO.run来实际运算
def tryOr[A](a: => A)(cleanup: IO[Unit]): A = //运算表达式a, 出现异常立即清理现场
try a catch {case e: Exception => cleanup.run; throw e}
@annotation.tailrec //这是个尾递归算法,根据trans状态
def go(acc: IndexedSeq[O], cleanup: IO[Unit], step: IO[Option[I]], trans: Process[I,O]): IndexedSeq[O] =
trans match {
case Halt() => cleanup.run; acc //停止状态,清理现场
case Emit(out,next) => go(tryOr(out +: acc)(cleanup), cleanup, step, next) //积累acc
case Await(iproc) => tryOr(step.run)(cleanup) match {
case None => cleanup.run; acc //读完了清理现场
case si => go(acc,cleanup,step,iproc(si)) //读入元素作为Process输入来改变Process状态
}
}
acquire map {res => go(IndexedSeq(),release(res),step(res),trans)} //开始读取
}
注意:无论读取完成或中途失败退出都会导致现场清理以防止资源漏出。可以推断这个interpreter还是很安全的。
与Source同样,我们还是用一个独立的类型Sink来代表数据接收端进行简单说明:
trait Sink[I] {
def <|[I2](p: Process[I2,I]): Sink[I2] //p的输出接到Sink的输入
def filter(f: I => Boolean): Sink[I] = this <| Process.filter(f) //从p接收I
def map[I2](f: I2 => I): Sink[I2] = this <| Process.lift(f) //将接收的I2变成I
def take(n: Int): Sink[I] = this <| Process.take(n) //从p接收前n个I
def takeWhile(f: I => Boolean): Sink[I] = this <| Process.takeWhile(f)
def drop(n: Int): Sink[I] = this <| Process.drop(n) //过滤掉首n个I
def dropWhile(f: I => Boolean): Sink[I] = this <| Process.dropWhile(f)
}
这和Source trait及其相似。注意和Process连接是反向的:由p指向Sink。
同样,一个只写的资源实例如下:
case class ResourceW[R,I,I2]( //只写资源
acquire: IO[R], //资源使用门户, resource handle
release: R => IO[Unit], //清理函数
rcvf: R => (I2 => IO[Unit]), //接收方式
trans: Process[I,I2] //处理过程
) extends Sink[I] {
def <|[I2](p: Process[I2,I]): Sink[I2] =
ResourceW(acquire,release,rcvf,p |> trans) //制造一个ResourceW实例,由p到trans
}
这个也和ResourceR相似。还是与Process连接方式是反方向的:由p到trans。
以下是一个向文件写入的Sink组件:
object Sink {
import java.io._
def file(fileName: String, append: Boolean = false): Sink[String] = //结果是Sink[String]。必须用interpreter来运算
ResourceW( //是一个ResourceW实例
IO {new FileWriter(fileName,append) }, //创建FileWriter
(w: FileWriter) => IO {w.close}, //释放FileWriter
(w: FileWriter) => (s: String) => IO {w.write(s)}, //写入
Process.passUnchanged //不处理写入数据
)
}
在学习过程中发现,独立于Process类型的Source,Sink类型使IO算法的表达式类型的集成很困难。这也限制了组件的功能。我们无法实现泛函编程简洁高雅的表达形式。在下面的讨论中我们会集中精力分析具备数据源功能的Process,希望在表达方式上能有所进步。
泛函编程(36)-泛函Stream IO:IO数据源-IO Source & Sink的更多相关文章
- 泛函编程(5)-数据结构(Functional Data Structures)
编程即是编制对数据进行运算的过程.特殊的运算必须用特定的数据结构来支持有效运算.如果没有数据结构的支持,我们就只能为每条数据申明一个内存地址了,然后使用这些地址来操作这些数据,也就是我们熟悉的申明变量 ...
- 泛函编程(38)-泛函Stream IO:IO Process in action
在前面的几节讨论里我们终于得出了一个概括又通用的IO Process类型Process[F[_],O].这个类型同时可以代表数据源(Source)和数据终端(Sink).在这节讨论里我们将针对Proc ...
- 泛函编程(35)-泛函Stream IO:IO处理过程-IO Process
IO处理可以说是计算机技术的核心.不是吗?使用计算机的目的就是希望它对输入数据进行运算后向我们输出计算结果.所谓Stream IO简单来说就是对一串按序相同类型的输入数据进行处理后输出计算结果.输入数 ...
- 泛函编程(37)-泛函Stream IO:通用的IO处理过程-Free Process
在上两篇讨论中我们介绍了IO Process:Process[I,O],它的工作原理.函数组合等.很容易想象,一个完整的IO程序是由 数据源+处理过程+数据终点: Source->Process ...
- 泛函编程(32)-泛函IO:IO Monad
由于泛函编程非常重视函数组合(function composition),任何带有副作用(side effect)的函数都无法实现函数组合,所以必须把包含外界影响(effectful)副作用不纯代码( ...
- 泛函编程(30)-泛函IO:Free Monad-Monad生产线
在上节我们介绍了Trampoline.它主要是为了解决堆栈溢出(StackOverflow)错误而设计的.Trampoline类型是一种数据结构,它的设计思路是以heap换stack:对应传统递归算法 ...
- 泛函编程(27)-泛函编程模式-Monad Transformer
经过了一段时间的学习,我们了解了一系列泛函数据类型.我们知道,在所有编程语言中,数据类型是支持软件编程的基础.同样,泛函数据类型Foldable,Monoid,Functor,Applicative, ...
- 二、linux IO 编程---系统调用和POSIX标准和标准IO
2.1 系统调用 2.1.1 概念 所谓系统调用(system call)是指曹错系统提供给用户程序的一组“特殊”接口,用户程序可以通过这组“特殊”接口来获得操作系统内核提供的特殊服务. 应用程序可以 ...
- 泛函编程(29)-泛函实用结构:Trampoline-不再怕StackOverflow
泛函编程方式其中一个特点就是普遍地使用递归算法,而且有些地方还无法避免使用递归算法.比如说flatMap就是一种推进式的递归算法,没了它就无法使用for-comprehension,那么泛函编程也就无 ...
随机推荐
- Atitit.java图片图像处理attilax总结
Atitit.java图片图像处理attilax总结 BufferedImage extends java.awt.Image 获取图像像素点 image.getRGB(i, lineIndex); ...
- paip.2013年技术趋势以及热点 v2.0 cae
paip.2013年技术趋势以及热点 v2.0 cae HTML5 多核编程 物联网 可穿戴计算设备 3. 物联网 无论是M2M(机器对机器)通信应用,还是NFC(进距离通信)技术,都是物联网的组成部 ...
- 从双十一战报看传统大家电如何O2O转型?
说到大家电电商,大家都会想起天猫.京东.苏宁易购.国美在线等各大电商平台,他们这一次的双十一又实现了较大规模的增长,而各大电商平台家电辉煌战绩的背后实际上是各大品牌家电的成功. 格力今年双十一当天创下 ...
- salesforce 零基础学习(四十一)Group
salesforce中,有的时候我们需要将一组用户放进一个Group,用来实现以下主要功能: 1.通过sharing rule设置默认的共享访问; 2.将记录分享给其他用户; 3.指定同步的联系人,这 ...
- 对于System.Net.Http的学习(二)——使用 HttpClient 进行连接
对于System.Net.Http的学习(一)——System.Net.Http 简介 使用 HttpClient 进行连接 使用 System.Net.Http 命名空间中的 HttpClient ...
- 字符串中判断存在的几种模式和效率(string.contains、string.IndexOf、Regex.Match)
通常情况下,我们判断一个字符串中是否存在某值常常会用string.contains,其实判断一个字符串中存在某值的方法有很多种,最常用的就是前述所说的string.contains,相对来说比较常用的 ...
- 彻底理解跨域解决方案JSONP
什么是同源策略? 同源策略,它是由Netscape提出的一个著名的安全策略.现在所有支持JavaScript 的浏览器都会使用这个策略. 所谓同源是指,域名,协议,端口相同.当一个浏览器的两个tab页 ...
- iOS_UIImage_Gif的合成
/** 1. 数据获取 2. 创建Gif文件 3. 配置Gif属性 4. 单帧添加到gif */ github地址: https://github.com/mancongiOS/UIImage.git ...
- 【Java基础】创建和销毁对象
Num1:考虑用静态工厂方法代替构造器 对于类而言,常见的方法是提供一个公有的构造器,但其实还有一种方法叫做静态工厂方法(static factory method),它只是一个返回类的实例静态方法. ...
- JS代码格式化和语法着色
有时为了研究学习一些格式不规范的JS代码段,需要将代码段格式化一下,这样思路就会清晰多了,网上找到此款格式化的工具,将以下代码保存为html格式文件即可使用 <html> <head ...