Golang源码学习：调度逻辑（一）初始化

本文所使用的Golang为1.14，dlv为1.4.0。

源代码

package main

import "fmt"

func main() {
	fmt.Println("Hello")
}

开始调试

root@xiamin:~/study# dlv debug test.go
Type 'help' for list of commands.
(dlv) l
> _rt0_amd64_linux() /root/go/src/runtime/rt0_linux_amd64.s:8 (PC: 0x465800)
Warning: debugging optimized function
     3:	// license that can be found in the LICENSE file.
     4:
     5:	#include "textflag.h"
     6:
     7:	TEXT _rt0_amd64_linux(SB),NOSPLIT,$-8
=>   8:		JMP	_rt0_amd64(SB)
     9:
    10:	TEXT _rt0_amd64_linux_lib(SB),NOSPLIT,$0
    11:		JMP	_rt0_amd64_lib(SB)

可以看到最开始是从_rt0_amd64_linux执行，然后直接跳转到_rt0_amd64。执行si进入_rt0_amd64。

(dlv) si
> _rt0_amd64() /root/go/src/runtime/asm_amd64.s:15 (PC: 0x461c20)
Warning: debugging optimized function
    10:	// _rt0_amd64 is common startup code for most amd64 systems when using
    11:	// internal linking. This is the entry point for the program from the
    12:	// kernel for an ordinary -buildmode=exe program. The stack holds the
    13:	// number of arguments and the C-style argv.
    14:	TEXT _rt0_amd64(SB),NOSPLIT,$-8
=>  15:		MOVQ	0(SP), DI	// argc，将参数个数存入DI
    16:		LEAQ	8(SP), SI	// argv，参数数组的地址存入SI
    17:		JMP	runtime·rt0_go(SB)

继续执行，runtime.rt0_go() /root/go/src/runtime/asm_amd64.s:89 (PC: 0x461c30)

runtime.rt0_go

runtime.rt0_go中代码较多，但我们只关注与调度相关的。

TEXT runtime·rt0_go(SB),NOSPLIT,$0
        // 忽略处理命令行参数相关

        // 为全局变量g0设置一些栈相关的属性
        MOVQ	$runtime·g0(SB), DI		// 将全局变量g0的存入DI
	LEAQ	(-64*1024+104)(SP), BX		// bx = SP-(64*1024+104)，g0的栈帧大小
	MOVQ	BX, g_stackguard0(DI)		// g0.stackguard0 = bx
	MOVQ	BX, g_stackguard1(DI)		// g0.stackguard1 = bx
	MOVQ	BX, (g_stack+stack_lo)(DI)	// g0.stack.lo = bx    栈的低地址
	MOVQ	SP, (g_stack+stack_hi)(DI)	// g0.stack.hi = sp    栈的高地址

        // 忽略获取cpu型号等相关与cgo初始化

        // 线程本地存储(tls)相关设置
        LEAQ	runtime·m0+m_tls(SB), DI	// di = &m0.tls
	CALL	runtime·settls(SB)		// 设置tls，下面有详细分析

        // 验证tls是否生效：通过tls设置一个数值，然后m0.tls[0]获取，与设置的值对比。
	get_tls(BX)				// 获取fs地址到bx
	MOVQ	$0x123, g(BX)			// 反编译后 mov qword ptr fs:[0xfffffff8], 0x123，表示设置fs-8地址中的内容为0x123，其实就是m0.tls[0]的地址。
	MOVQ	runtime·m0+m_tls(SB), AX	// ax = m0.tls[0]
	CMPQ	AX, $0x123			// 比较
	JEQ 2(PC)
	CALL	runtime·abort(SB)

	// m0.tls[0] = &g0;  g0与m0相互绑定
	get_tls(BX)			// 获取fs地址到bx
	LEAQ	runtime·g0(SB), CX	// cx = &g0
	MOVQ	CX, g(BX)		// m0.tls[0] = &g0
	LEAQ	runtime·m0(SB), AX	// ax = &m0
	MOVQ	CX, m_g0(AX)		// m0.g0 = &g0
	MOVQ	AX, g_m(CX)		// g0.m = &m0

        // 忽略copy argc和argv的代码
	CALL	runtime·args(SB)	// 命令行参数相关，暂不关心
	CALL	runtime·osinit(SB)	// 设置全局变量ncpu(cpu个数)，全局变量physHugePageSize
	CALL	runtime·schedinit(SB)	// 调度器初始化

        // 调用runtime·newproc创建goroutine，指向函数为runtime·main
	MOVQ	$runtime·mainPC(SB), AX	// runtime·mainPC就是runtime·main
	PUSHQ	AX			// newproc的第二个参数，也就是goroutine要执行的函数。
	PUSHQ	$0			// newproc的第一个参数，表示要传入runtime·main中参数的大小，此处为0。
	// 创建 main goroutine。非main goroutine也是此方法创建。
	// go编译会将语句 go foo() 编译为 runtime·newproc(SB) 并传入参数。
	CALL	runtime·newproc(SB)
	POPQ	AX
	POPQ	AX

	CALL	runtime·mstart(SB)	// 进入调度循环
	CALL	runtime·abort(SB)	// mstart应该永不返回，如果返回，则是程序出现错误了。
	RET
	MOVQ	$runtime·debugCallV1(SB), AX
	RET
DATA	runtime·mainPC+0(SB)/8,$runtime·main(SB)
GLOBL	runtime·mainPC(SB),RODATA,$8

runtime·settls 设置线程本地存储

runtime·settls中通过调用arch_prctl系统调用设置FS来实现线程本地存储。

通过syscall指令调用系统调用

• rax存放系统调用号，调用返回值也会放在rax中
• 当系统调用参数小于等于6个时，参数则须按顺序放到寄存器 rdi，rsi，rdx，r10，r8，r9中。
• 如果系统调用的参数数量大于6个，需将参数保存在一块连续的内存中，并将地址存入rbx中。

新建非m0的m时也会通过runtime·clone调用此函数。

TEXT runtime·settls(SB),NOSPLIT,$32
        // 此时di = &m.tls[0]
	ADDQ	$8, DI			// ELF 需要使用 -8(FS)，di+=8，执行完此指令后 di = &m.tls[1]
	MOVQ	DI, SI			// 将地址移动到si中，作为系统调用的第二个参数
	MOVQ	$0x1002, DI		// ARCH_SET_FS表示设置FS，作为系统调用的第一个参数
	MOVQ	$SYS_arch_prctl, AX	// rax存储系统调用号
	SYSCALL
	CMPQ	AX, $0xfffffffffffff001	// 比较返回结果
	JLS	2(PC)
	MOVL	$0xf1, 0xf1  // crash
	RET

runtime.schedinit 调度初始化

runtime.schedinit中包含了很多功能的初始化，本文暂且分析与调度相关的

func schedinit() {

	_g_ := getg()		// 未找到getg()的源代码，通过注释得知getg()返回当前g，此处 _g_为&g0
        ..........
	sched.maxmcount = 10000	// m的最大数量为10000
        ..........
	mcommoninit(_g_.m)	// 此处_g_.m即为m0，对m0的一些初始化工作，下面详细分析
	..........
	// 获取要初始化的p的数量，默认与cpu个数相同，如果指定了GOMAXPROCS，则为GOMAXPROCS
	procs := ncpu
	if n, ok := atoi32(gogetenv("GOMAXPROCS")); ok && n > 0 {
		procs = n
	}
        // 初始化allp并为allp中的元素初始化、赋值等，详见下方
	if procresize(procs) != nil {
		throw("unknown runnable goroutine during bootstrap")
	}
        ..........
}

schedinit->mcommoninit

func mcommoninit(mp *m) {
	_g_ := getg()	// 获取当前g，也就是g0

	// g0 stack won't make sense for user (and is not necessary unwindable).
	if _g_ != _g_.m.g0 {
		callers(1, mp.createstack[:])    // 调用栈相关
	}

	lock(&sched.lock)
	if sched.mnext+1 < sched.mnext {
		throw("runtime: thread ID overflow")
	}
	mp.id = sched.mnext	// 设置m的id
	sched.mnext++		// 加1，以后分配给下一个m
	checkmcount()		// 检查非空闲数量的m是否超过了10000

        // rand相关
	mp.fastrand[0] = uint32(int64Hash(uint64(mp.id), fastrandseed))
	mp.fastrand[1] = uint32(int64Hash(uint64(cputicks()), ^fastrandseed))
	if mp.fastrand[0]|mp.fastrand[1] == 0 {
		mp.fastrand[1] = 1
	}

        // 新建一个32k栈大小的g，赋值给m0.gsignal。并使 m0.gsignal.m = *m0
	mpreinit(mp)
	if mp.gsignal != nil {
		mp.gsignal.stackguard1 = mp.gsignal.stack.lo + _StackGuard
	}

        // 下面两步将mp放入全局变量allm中，allm是个链表
	mp.alllink = allm
	atomicstorep(unsafe.Pointer(&allm), unsafe.Pointer(mp))
	unlock(&sched.lock)

	// Allocate memory to hold a cgo traceback if the cgo call crashes.
	if iscgo || GOOS == "solaris" || GOOS == "illumos" || GOOS == "windows" {
		mp.cgoCallers = new(cgoCallers)
	}
}

mcommoninit基本上就是做一些m0的初始化。

schedinit->procresize

// 传入参数nprocs为期望的所有p的个数
func procresize(nprocs int32) *p {
	old := gomaxprocs // gomaxprocs在本方法的末尾会被更改
	if old < 0 || nprocs <= 0 {
		throw("procresize: invalid arg")
	}
	if trace.enabled {
		traceGomaxprocs(nprocs)
	}

	// 更新统计信息
	now := nanotime()
	if sched.procresizetime != 0 {
		sched.totaltime += int64(old) * (now - sched.procresizetime)
	}
	sched.procresizetime = now

	// 初始化allp
	if nprocs > int32(len(allp)) {
		// Synchronize with retake, which could be running
		// concurrently since it doesn't run on a P.
		lock(&allpLock)
		if nprocs <= int32(cap(allp)) {
			allp = allp[:nprocs]
		} else {
                         // 初始化一个临时变量nallp，与现存的allp合并，然后将nallp赋值给全局变量allp
			nallp := make([]*p, nprocs)
			copy(nallp, allp[:cap(allp)])
			allp = nallp
		}
		unlock(&allpLock)
	}

	// 初始化新添加到allp中的元素
	for i := old; i < nprocs; i++ {
		pp := allp[i]
		if pp == nil {
			pp = new(p)
		}
		pp.init(i) // 会初始化p结构的属性：id，status，mcache等
		atomicstorep(unsafe.Pointer(&allp[i]), unsafe.Pointer(pp))    // 赋值
	}

	_g_ := getg()
        // 初始化的时候 _g_.m.p = 0 所以走else
	if _g_.m.p != 0 && _g_.m.p.ptr().id < nprocs {
		// continue to use the current P
		_g_.m.p.ptr().status = _Prunning
		_g_.m.p.ptr().mcache.prepareForSweep()
	} else {
		// 此处省略一些初始化时不会进入的代码

		_g_.m.p = 0
		_g_.m.mcache = nil
		p := allp[0]
		p.m = 0
		p.status = _Pidle
		acquirep(p)	// m.mcache = p.mcache；p和m相互绑定；p.status = _Prunning。下面有分析。
		if trace.enabled {
			traceGoStart()
		}
	}

	// 释放未使用的p的资源，比如调用runtime.GOMAXPROCS(num)，会调用procresize。
        // num小于当前p的数量时，会执行此处
	for i := nprocs; i < old; i++ {
		p := allp[i]
		p.destroy()
		// can't free P itself because it can be referenced by an M in syscall
	}

	// Trim allp.
	if int32(len(allp)) != nprocs {
		lock(&allpLock)
		allp = allp[:nprocs]
		unlock(&allpLock)
	}

        // 将除了当前m绑定p的其余allp中的都以链表形式存入sched.pidle中
	var runnablePs *p
	for i := nprocs - 1; i >= 0; i-- {
		p := allp[i]
		if _g_.m.p.ptr() == p {	// 是否是当前g.m的p
			continue
		}
		p.status = _Pidle
		if runqempty(p) {
			pidleput(p)	// 将p放入到空闲列表中
		} else {
			p.m.set(mget())
			p.link.set(runnablePs)
			runnablePs = p
		}
	}
        // 这里会更改gomaxprocs的值
	stealOrder.reset(uint32(nprocs))
	var int32p *int32 = &gomaxprocs // make compiler check that gomaxprocs is an int32
	atomic.Store((*uint32)(unsafe.Pointer(int32p)), uint32(nprocs))
	return runnablePs
}

总结一下procresize的工作：

• allp切片中p的数量小于期望p数量时，对allp进行扩容
• 使用new创建p并调用p.init初始化刚扩容出的，init中为p分配id和mcache
• 初始化时，调用acquirep使allp[0]与m0相互绑定，并且m.mcache = p.mcache，p.status = _Prunning
• allp切片中p的数量大于期望p数量时，调用p.destroy释放未使用的p的资源
• 将除了allp[0]之外的p状态设置为_Pidle并加入到全局空闲列表sched.pidle中
• 更改gomaxprocs值为nprocs

acquirep(p)->wirep(_p_) ：acquirep中的主要逻辑就是调用了wirep

func wirep(_p_ *p) {
	_g_ := getg()

	if _g_.m.p != 0 || _g_.m.mcache != nil {
		throw("wirep: already in go")
	}
	if _p_.m != 0 || _p_.status != _Pidle {
		id := int64(0)
		if _p_.m != 0 {
			id = _p_.m.ptr().id
		}
		print("wirep: p->m=", _p_.m, "(", id, ") p->status=", _p_.status, "\n")
		throw("wirep: invalid p state")
	}
	_g_.m.mcache = _p_.mcache	// p的mcache赋值给m.mcache
	_g_.m.p.set(_p_)		// 与下面的一行为 p和m相互绑定
	_p_.m.set(_g_.m)
	_p_.status = _Prunning		// 更改p的状态
}