Go 语言 Errgroup 库的使用方式和实现原理

开发 前端
本文我们介绍 Go 方法提供的 errgroup 库,该库最近新增了控制并发数量的功能。我们先介绍了三种使用方式,然后通过阅读源码,分析其实现原理。

​1.介绍

在 Go 语言中,我们可以使用 errgroup​ 库处理 goroutine 中的错误。

errgroup 库最近更新了,新增支持限制并发数量的功能。

本文我们介绍 errgroup 库的使用方式和实现原理。

2.使用方式

errgroup 库使用非常简单,我们通过三个简单示例代码,分别介绍三种使用方式。

基础使用

func main() {
eg := errgroup.Group{}
eg.Go(func() error {
fmt.Println("go1")
return nil
})
eg.Go(func() error {
fmt.Println("go2")
err := errors.New("go2 err")
return err
})
err := eg.Wait()
if err != nil {
fmt.Println("err =", err)
}
}

阅读上面这段代码,我们使用 errgroup​ 库的 Go()​ 方法启动两个 goroutine​,分别模拟错误 goroutine​ 和正常 goroutine。

然后,使用 errgroup​ 库的 Wait()​ 方法判断是否有 goroutine 返回错误信息。

附加 cancel 功能

func main() {
eg, ctx := errgroup.WithContext(context.Background())
eg.Go(func() error {
time.Sleep(1 * time.Second)
select {
case <-ctx.Done():
fmt.Println("go1 cancel, err = ", ctx.Err())
default:
fmt.Println("go1 run")
}
return nil
})
eg.Go(func() error {
err := errors.New("go2 err")
return err
})
err := eg.Wait()
if err != nil {
fmt.Println("err =", err)
}
}

阅读上面这段代码,我们使用 errgroup​ 库的 WithContext()​ 函数,可以附加 cancel 功能。

我们在第一个使用 Go()​ 方法启动的协程函数中,使用 select ... case ... default 监听其他协程是否返回错误并做出相应的逻辑处理。

限制并发数量

func main() {
eg := errgroup.Group{}
eg.SetLimit(2)
eg.TryGo(func() error {
fmt.Println("go1 run")
return nil
})
eg.TryGo(func() error {
err := errors.New("go2 err")
return err
})
eg.TryGo(func() error {
fmt.Println("go3 run")
return nil
})
err := eg.Wait()
if err != nil {
fmt.Println("err =", err)
}
}

阅读上面这段代码,我们使用 errgroup 库新增的限制并发数量的功能。

首先,使用 SetLimit()​ 方法设置并发数量,然后使用 TryGo()​ 方法替换 Go() 方法。

3.实现原理

我们通过阅读 errgroup​ 库的源码,简单介绍 errgroup 的实现原理。

我们先阅读 Group 结构体的源码。

type Group struct {
cancel func()

wg sync.WaitGroup

sem chan token

errOnce sync.Once
err error
}

在源码中,我们可以发现 Group​ 结构体包含的 5 个字段,其中 sem 字段是最近为了实现限制并发数量功能而新增的。

通过 Group​ 结构体的字段,我们可以看出 errgroup​ 实际上是对 sync​ 和 context 的封装。

其中,cancel​ 是使用 context​ 的 cancel​ 方法;wg​ 是使用 sync.WairGroup​ 的相关方法;sem​ 是通过 channel​ 实现控制并发数量;errOnce​ 是使用 sync.Once​ 的特性,只保存第一个返回的 goroutine​ 错误;err​ 是 goroutine 返回的错误。

func (g *Group) Go(f func() error) {
if g.sem != nil {
g.sem <- token{}
}

g.wg.Add(1)
go func() {
defer g.done()

if err := f(); err != nil {
g.errOnce.Do(func() {
g.err = err
if g.cancel != nil {
g.cancel()
}
})
}
}()
}

我们阅读 errgroup​ 库的 Go()​ 方法,首先,通过判断 g.sem​ 的值是否是 nil​,如果 g.sem​ 的值不是 nil​,说明已设置并发数量,就通过向 g.sem​ 中发送一个空结构体 token{},来抢占资源。

如果抢到资源,就启动一个 goroutine​,否则,就阻塞,等待其他正在执行的 goroutine 释放一个资源。

细心的读者可能已经发现,Go()​ 方法除了开头新增判断 g.sem​ 的值是否为 nil​ 的逻辑代码之外,defer​ 也发生了变化,由之前的直接调用 sync.WaitGroup​ 的 Done()​ 方法,改为调用 errgroup​ 库新增的 done() 方法。

done() 方法源码:

func (g *Group) done() {
if g.sem != nil {
<-g.sem
}
g.wg.Done()
}

通过阅读 done()​ 方法的源码,我们可以发现,在调用 sync.WaitGroup​ 的 Done()​ 方法之前,先判断 g.sem​ 的值是否是 nil​,如果不是 nil,则释放资源。

我们再阅读 Wait() 方法的源码:

func (g *Group) Wait() error {
g.wg.Wait()
if g.cancel != nil {
g.cancel()
}
return g.err
}

通过阅读 Wait()​ 方法的源码,我们可以发现它实际上是封装 sync.WaitGroup​ 的 Wait()​ 方法,和 context​ 包的 cancel​,并且返回所有运行的 goroutine 中第一个返回的错误。

最后,我们阅读新增控制并发数量的功能 TryGo()​ 方法和 SetLimit() 方法的源码:

func (g *Group) TryGo(f func() error) bool {
if g.sem != nil {
select {
case g.sem <- token{}:
// Note: this allows barging iff channels in general allow barging.
default:
return false
}
}

g.wg.Add(1)
go func() {
defer g.done()

if err := f(); err != nil {
g.errOnce.Do(func() {
g.err = err
if g.cancel != nil {
g.cancel()
}
})
}
}()
return true
}

通过阅读 TryGo()​ 方法的源码,我们可以发现,它和 Go()​ 方法的区别就是在处理 g.sem 的值上,使用的逻辑不同。

TryGo()​ 方法在处理 g.sem​ 的值时,使用 select ... case ... default​ 语句,先尝试一次抢占资源,当无法抢到资源时,不再阻塞,而是直接返回 false,表示执行失败。

SetLimit() 方法的源码:

func (g *Group) SetLimit(n int) {
if n < 0 {
g.sem = nil
return
}
if len(g.sem) != 0 {
panic(fmt.Errorf("errgroup: modify limit while %v goroutines in the group are still active", len(g.sem)))
}
g.sem = make(chan token, n)
}

通过阅读 SetLimit()​ 方法的源码,我们可以看出当入参 n​ 的值小于 0​ 时,直接给 g.sem​ 赋值为 nil,表示不限制并发数量。

在调用 SetLimit()​ 方法时,g.sem​ 必须是一个空通道,否则程序会 panic。

除去 SetLimit()​ 方法的判断逻辑代码,实际上 SetLimit()​ 方法就是创建一个大小为 n​ 的有缓冲 channel。

SetLimit()​ 和 TryGo() 通常一起使用。

4.总结

本文我们介绍 Go 方法提供的 errgroup 库,该库最近新增了控制并发数量的功能。

我们先介绍了三种使用方式,然后通过阅读源码,分析其实现原理。

责任编辑:武晓燕 来源: Golang语言开发栈
相关推荐

2022-10-17 00:07:55

Go语言标准库

2022-05-06 09:22:25

Go泛型

2014-04-24 10:48:27

Go语言基础实现

2023-02-13 00:24:37

Go语言日志库

2020-08-12 08:56:30

代码凯撒密码函数

2024-02-06 17:57:06

Go语言任务

2023-12-11 07:33:05

Go语言字符技巧

2024-11-04 08:16:08

Go语言Web 框架

2024-10-16 09:57:52

空结构体map属性

2019-11-12 11:15:39

setTimeout前端代码

2024-03-25 07:22:50

GolangMySQL数据库

2023-10-09 07:14:42

panicGo语言

2023-04-18 08:27:16

日志级别日志包

2010-09-15 15:48:09

CSS Hack

2022-02-09 16:02:26

Go 语言ArraySlice

2014-12-26 09:52:08

Go

2021-10-18 10:53:26

Go 代码技术

2024-04-26 09:04:13

2019-08-28 09:04:02

Go语言Python操作系统

2023-01-30 08:16:39

Go语言Map
点赞
收藏

51CTO技术栈公众号