Go 记录一次groutine通信与context控制
需求背景:
项目中需要定期执行任务A来做一些辅助的工作,A的执行需要在超时时间内完成,如果本次执行超时了,那就不对本次的执行结果进行处理(即放弃这次执行)。同时A又依赖B,C两个子任务的执行结果。B, C之间相互独立,可以并行的执行。但无论B,C哪一个执行失败或超时都会导致本次任务执行失败。
Groutine的并发控制:
go中对于groutine的并发控制有三种解决方案:
- 通过channel控制。
- 父groutine中声明无buffer的chan切片,向要开启的子groutine中传入切片中的一个chan
- 子groutine执行完成后向这个chan中写入数据(可以是和父groutine通信的也可以不是)
- 父groutine遍历所有chan并执行 <-chan 操作, 利用无buffer的channel只有读写同时准备好才能执行的特性进行控
 
- WaitGroup控制。
- 通过sync.Waitgroup, 每开启一个子groutine就执行 wg.Add(1), 子groutine内部执行wg.Done(), 父groutine通过wg.Wait()等待所有子协程
 
- Context控制。
- waitGroup和Context应该是Go中较为常用的两种并发控制。相较而言,context对于派生groutine有更强大的控制力,可以控制多级树状分布的groutine。
- 当然waitGroup的子groutine也可以再开启新的waitGroup并且等待多个孙groutine, 但是不如context的控制更加方便.
 
Context:
context包提供了四个方法创建不同类型的context
- WitchCancel()
- WithDeadline()
- WithTimeout()
- WithValue()
WithValue()主要用于通过context传递一些上下文消息,不在本次讨论中。WithTimeout和WithDeadLine几乎是一致的。但无论哪种,控制groutine都需要使用ctx.Done()方法. Done() 方法返回一个 "只读"的chan <-chan struct{}, 需要编写代码监听这个chan,一旦收到它的消息就说明这个context应当结束了,无论是到达了超时时间还是在某个地方主动cancel()了方法。
看看代码:
var ch1 chan int
var ch2 chan int
// 任务A, 通过最外层的for来控制定期执行
func TestMe(t *testing.T) {
ch1 = make(chan int, 0)
ch2 = make(chan int, 0)
count := 0
for {
count ++
ctx, cancel := context.WithTimeout(context.Background(), time.Second * 2)
// 任务A的逻辑部分,开启子任务B, C。
// B,C通过ch1,ch2和A通信。
// 同时监听ctx.Done,如果超时了立即结束本次任务不继续执行
go func(ctx context.Context) {
go g1(ctx, count)
go g2(ctx, count)
v1, v2 := -1, -1
for v1 == -1 || v2 == -1 {
select {
case <- ctx.Done():
cancel()
fmt.Println("父级2超时退出,当前count值为", count, "当前时间:", time.Now())
return
case v1 = <- ch1:
case v2 = <- ch2:
}
}
fmt.Println("正常执行完成退出, 开启下次循环,当前count值为:", count, "当前 v1: ", v1, "当前 v2: ", v2)
}(ctx)
// 任务A监控ctx是否到达timeOUT,timeout就终止本次执行
select {
case <- ctx.Done():
fmt.Println("父级1超时退出,当前count值为", count, "当前时间:", time.Now())
}
time.Sleep(time.Second * 3)
}
}
// 改进后的任务B,即使计算出了结果,也不会再向ch1写数据了,不会造成脏数据
func g1 (ctx context.Context, num int) {
fmt.Println("g1 num", num, "time", time.Now())
select {
case <-ctx.Done():
fmt.Println("子级 g1关闭, 不向channel中写数据")
return
default:
ch1 <- num
}
}
// 改进前的任务C
func g2 (ctx context.Context, num int) {
fmt.Println("g2 num", num, "time", time.Now())
ch2 <- num
}
基于上述代码,子任务B, C的处理其实有一次较大的变动。一开始B,C都是类似于子任务C,即g2的这种写法。
这种写法在执行完成后就把自身的结果交给channel, 父groutine通过channel来读取数据,正常情况下也能工作。但异常情况下,如子任务B执行完成,子任务C(即g2)因为网络通信等原因执行了5s(超过context的最大时长), 就会出现比较严重的问题。到达超时时间后,A检测到了超时就自动结束了本次任务,但g2还在执行过程中。g2执行完成后向ch2写数据阻塞了(因为A已关闭,没有读取ch2的groutine)。下一个循环中A再次开启读取ch1与ch2, 实际上读取ch1是当次的结果,ch2是上次任务中g2返回的结果,导致两处依赖的数据源不一致。
模拟上述情况,将g2做了一些改动如下:
// 在第3次任务重等待3s, 使得它超时
func g2 (ctx context.Context, num int) {
if num == 3 {
time.Sleep(time.Second * 3)
}
fmt.Println("g2 num", num, "time", time.Now())
ch2 <- num
}

实际上,如果想要通过context控制groutine, 一定要监控Done()方法。如g1所示。相同情况下A超时退出,C仍在执行。C执行完成后先检测Context是否已退出,如果已退出就不再向ch2中写入本次的数据了。(抛砖引玉了,也可能有更好的写法,希望大佬不吝赐教)
将g2改成和g1类似的写法后测试结果如下:
func g2 (ctx context.Context, num int) {
	if num == 3 {
		time.Sleep(time.Second * 10)
		fmt.Println("这次g2 超时,应当g1, g2都不返回")
	}
	fmt.Println("g2 num", num, "time", time.Now())
	select {
	case <-ctx.Done():
		fmt.Println("子级 g2关闭, 不向channel中写数据")
		return
	default:
		ch2 <- num
	}
}

Go 记录一次groutine通信与context控制的更多相关文章
- openstack controller ha测试环境搭建记录(十三)——配置cinder(控制节点)
		在任一控制节点创建用户:mysql -u root -pCREATE DATABASE cinder;GRANT ALL PRIVILEGES ON cinder.* TO 'cinder'@'loc ... 
- openstack controller ha测试环境搭建记录(十)——配置neutron(控制节点)
		创建neutron用户:mysql -u root -p CREATE DATABASE neutron;GRANT ALL PRIVILEGES ON neutron.* TO 'neutron'@ ... 
- openstack controller ha测试环境搭建记录(八)——配置nova(控制节点)
		在任一节点创建nova用户:mysql -u root -p CREATE DATABASE nova;GRANT ALL PRIVILEGES ON nova.* TO 'nova'@'localh ... 
- 记一次.net core 异步线程设置超时时间
		前言: 刷帖子看到一篇 Go 记录一次groutine通信与context控制 看了一下需求背景,挺有意思的,琢磨了下.net core下的实现 需求背景: 项目中需要定期执行任务A来做一些辅助的工作 ... 
- 权限管理系统系列之WCF通信
		目录 权限管理系统系列之序言 首先说下题外话,有些园友看了前一篇[权限管理系统系列之序言]博客加了QQ群(186841119),看了我写的权限管理系统的相关文档(主要是介绍已经开发的功能),给出了一 ... 
- Android USB转串口通信开发基本流程
		好久没有写文章了,年前公司新开了一个项目,是和usb转串口通信相关的,需求是用安卓平板通过usb转接后与好几个外设进行通信.一直忙到近期,才慢慢闲下来,趁着这个周末不忙.记录下usb转串口通信开发的基 ... 
- 【MPI学习7】MPI并行程序设计模式:MPI的进程组和通信域
		基于都志辉老师MPI编程书中的第15章内容. 通信域是MPI的重要概念:MPI的通信在通信域的控制和维护下进行 → 所有MPI通信任务都直接或间接用到通信域这一参数 → 对通信域的重组和划分可以方便实 ... 
- 【MPI学习5】MPI并行程序设计模式:组通信MPI程序设计
		相关章节:第13章组通信MPI程序设计. MPI组通信与点到点通信的一个重要区别就是:组通信需要特定组内所有成员参与,而点对点通信只涉及到发送方和接收方. 由于需要组内所有成员参与,因此也是一种比较复 ... 
- SSL、TLS协议格式、HTTPS通信过程、RDP SSL通信过程
		相关学习资料 http://www.360doc.com/content/10/0602/08/1466362_30787868.shtml http://www.gxu.edu.cn/college ... 
随机推荐
- bugku的一道代码审计基础题:eval
			首先看到 include "flag.php",第一反应就应该是文件包含 直接先?hello=file:////etc, 然后啥也没 那就再检查一下代码,eval(var_dump ... 
- vue使用自定义指令v-dialogDrag来控制element ui中el-dialog的拖动缩放,拉伸问题
			1 在vue的utils中新建一个dialogDrag.js import Vue from 'vue' Vue.directive('dialogDrag', { bind(el, binding, ... 
- 编写Java程序,使用菜单组件制作一个记事本编辑器
			返回本章节 返回作业目录 需求说明: 使用菜单组件制作一个记事本编辑器 实现思路: 创建记事本菜单工具栏JMenuBar. 创建多个菜单条JMenu. 创建多个菜单项JMenuItem. 将菜单添加至 ... 
- tcpdump统计http请求并导出URL文本
			tcpdump统计http请求并导出URL文本 tcpdump tcpdump是一个用于截取网络分组,并输出分组内容的工具.凭借强大的功能和灵活的截取策略,使其成为类UNIX系统下用于网络分析和问题排 ... 
- 2.HTML5基本标签
			一.标题标签 h1-->h6 h1最大 h6最小 <body> <h1>一级标题</h1> <h2>二级标题</h2> ... 
- vsconde launch.json配置 调试本地文件
			{ // Use IntelliSense to learn about possible attributes. // Hover to view descriptions of existing ... 
- CF786C Till I Collapse
			题目分析 首先,对于这道题,可以用贪心以一个\(O(n)\)的复杂度求解一个\(k\)的值 暴力是\(O(n^2)\)的复杂度,当然过不了. 我们手推一下样例,会发现,答案满足单调性,于是,果断想到二 ... 
- Jenkins_创建任务以及定时启动(2)
			一.创建任务 1.点击New Item 2.输入用户,单击Freestyle project,点击OK 3.填写构建步骤,因为是安装在linux上的,所以我们选择Execute shell,随意输入一 ... 
- Go的WaitGroup源码分析
			WaitGroup 是开发中经常用到的并发控制手段,其源代码在 src/sync/waitgroup.go 文件中,定义了 1 个结构体和 4 个方法: WaitGroup{}:结构体. state( ... 
- fluem读取文件并写入到hadoop的hdfs
			接上一章,本章介绍使用 crontab 像指定文件定时写入,使用fluem 读取并写入到hadoop的hdfs 前提准备已安装好fluem ,和hadoop(推荐单机即可毕竟做实验) 一.进入终端执行 ... 
