深入理解Go标准库-http server的优雅关闭

开发 前端
优雅关闭(graceful shutdown)指的是我们的HTTP Server关闭前既拒绝新来的请求,又正确的处理完正在进行中的请求,随后进程退出。如何实现?

还记得怎么启动一个HTTP Server么?

package main

import (
 "net"
 "net/http"
)

func main() {
 // 方式1
 err := http.ListenAndServe(":8080", nil)
 if err != nil {
   panic(err)
 }
    
 // 方式2
 // server := &http.Server{Addr: ":8080"}
 // err := server.ListenAndServe()
 // if err != nil {
 //  panic(err)
 // }
}

ListenAndServe在不出错的情况下,会一直阻塞在这个位置,如何停止这样的一个HTTP Server呢?

CTRL+C是结束一个进程常用的方式,它和kill pid或者kill -l 15 pid命令本质上没有任何区别,他们都是向进程发送了SIGTERM信号。因为程序没有设置对SIGTERM信号的处理程序,所以系统默认的信号处理程序结束了我们的进程

这会带来什么问题?

在服务器的进程被杀死时,我们的服务器可能正在处理请求并未完成。因此对于客户端产生了一个预期外的错误

curl -v --max-time 4 127.0.0.1:8009/foo

* Connection #0 to host 127.0.0.1 left intact
*   Trying 127.0.0.1:8009...
* Connected to 127.0.0.1 (127.0.0.1) port 8009 (#0)
> GET /foo HTTP/1.1
> Host: 127.0.0.1:8009
> User-Agent: curl/7.86.0
> Accept: */*
> 

* Empty reply from server
* Closing connection 0
curl: (52) Empty reply from server

如果有nginx代理,因为upstream的中断,nginx会产生502的响应

curl -v --max-time 11 127.0.0.1:8010/foo
*   Trying 127.0.0.1:8010...
* Connected to 127.0.0.1 (127.0.0.1) port 8010 (#0)
> GET /foo HTTP/1.1
> Host: 127.0.0.1:8010
> User-Agent: curl/7.86.0
> Accept: */*
> 
* Mark bundle as not supporting multiuse
< HTTP/1.1 502 Bad Gateway
< Server: nginx/1.25.3
< Date: Sat, 02 Dec 2023 10:14:33 GMT
< Content-Type: text/html
< Content-Length: 497
< Connection: keep-alive
< ETag: "6537cac7-1f1"

优雅关闭的初步实现

优雅关闭(graceful shutdown)指的是我们的HTTP Server关闭前既拒绝新来的请求,又正确的处理完正在进行中的请求,随后进程退出。如何实现?

🌲 异步启动HTTP server

因为ListenAndServe会阻塞goroutine,如果还需要让代码继续执行,我们需要把它放到一个异步的goroutine中

go func() {
    if err := srv.ListenAndServe(); err != nil {
        panic(err)
    }
}()

🌲 第二步:设置SIGTERM信号处理程序

操作系统默认的信号处理程序是直接结束进程,因此要实现graceful shutdown,要设置程序自己的信号处理程序。

Go中可以使用如下的方式来处理信号

  • signal.Notify来设置我们要监听的信号,一旦有程序设定的信号发生时,信号会被写入channel中
  • signalCh chan os.Signal我们定义的是一个带缓冲的channel,当channel中没有数据时读操作会阻塞
signalCh := make(chan os.Signal, 1)
signal.Notify(signalCh, syscall.SIGINT, syscall.SIGTERM)

sig := <-signalCh
log.Printf("Received signal: %v\n", sig)

🌲 第三步:平滑的关闭HTTP Server

在自定义的信号处理程序中处理什么呢?

1、首先需要关闭端口的监听,此时新的请求就无法建立连接

2、对空闲的连接进行关闭

3、对进行中的连接等待处理完成,变成空闲连接后进行关闭

在Go 1.8以前实现上述操作需要编写大量的代码,也有一些第三方的库(tylerstillwate/graceful、facebookarchive/grace等)可供使用。但Go1.8之后标准库提供了 Shutdown()方法

🌲 实现:综合上面三步有如下实现

func main() {
 mx := http.NewServeMux()
 mx.HandleFunc("/foo", func(w http.ResponseWriter, r *http.Request) {
  time.Sleep(time.Duration(rand.Intn(10)) * time.Second)
  w.Write([]byte("Receive path foo\n"))
 })

 srv := http.Server{
  Addr:    ":8009",
  Handler: mx,
 }

 go func() {
  if err := srv.ListenAndServe(); err != nil {
   panic(err)
  }
 }()

 signalCh := make(chan os.Signal, 1)
 signal.Notify(signalCh, syscall.SIGINT, syscall.SIGTERM)

 sig := <-signalCh
 log.Printf("Received signal: %v\n", sig)

 if err := srv.Shutdown(context.Background()); err != nil {
  log.Fatalf("Server shutdown failed: %v\n", err)
 }

 log.Println("Server shutdown gracefully")
}

没有收到SIGINT、SIGTERM信号前,main goroutine被signalCh的读阻塞

一旦收到信号,signalCh的阻塞被解除会往下执行server的Shutdown(),Shutdown()函数会处理好活跃和非活跃的连接,并返回结果

上述代码有什么问题么?

优雅关闭实现的细节

🌲 当Shutdown被调用时ListenAndServe会立刻返回http.ErrServerClosed的错误

go func() {
    if err := srv.ListenAndServe(); err != nil {
        panic(err)
    }
}()

对于上文的代码,Shutdown()刚被调用,ListenAndServe所在的goroutine就抛出了panic,因而也导致main goroutine被退出,并没有达到运行Shutdown()预期的效果

如果依旧想对ListenAndServe的错误抛出painc,需要忽略http.ErrServerClosed的错误

go func() {
    err := srv.ListenAndServe()
    if err != nil && err != http.ErrServerClosed {
        panic(err)
    }
}()

🌲 在有限的时间内关闭服务器

优雅关闭过程中会等待进行中的请求完成。但请求处理的过程可能非常耗时,或者请求本身已经陷入了无法结束的状态,我们不可能无限的等待下去,因此设定一个关闭的上限时间会更稳妥。

Shutdown()接受一个context.Context类型的参数,我们可以用来设定超时时间

ctx, cancel := context.WithTimeout(context.Background(), 5*time.Second)
defer cancel()

if err := srv.Shutdown(ctx); err != nil {
    log.Fatalf("Server shutdown failed: %v\n", err)
}

log.Println("Server shutdown gracefully")

通过ctx.Done()可以区分是否因为超时导致的服务器关闭,因而可以对不同的退出原因进行区分

ctx, cancel := context.WithTimeout(context.Background(), 5*time.Second)
defer cancel()

if err := srv.Shutdown(ctx); err != nil {
    select {
        case <-ctx.Done():
        // 由于达到超时时间服务器关闭,未完成优雅关闭
        log.Println("timeout of 5 seconds.")
        default:
        // 其他原因导致的服务关闭异常,未完成优雅关闭
        log.Fatalf("Server shutdown failed: %v\n", err)
    }
    return
}

// 正确执行优雅关闭服务器
log.Println("Server shutdown gracefully")

🌲 释放其他资源

除了显式的释放资源,main goroutine也有必要通知其他goroutine进程即将退出,做必要的处理

例如,我们的服务在启动后会向服务中心进行注册,之后异步定时上报自身状态。

为了让注册中心第一时间感知到服务已下线,需要主动注销服务。在注销服务前,需要先暂停异步的定时上报

context.Context让我们可以很轻松的做到这件事

ctx, cancel := context.WithCancel(context.Background())
defer func() {
    cancel()
}()

// 需要在服务启动后才在注册中心注册
go func() {
    tc := time.NewTicker(5 * time.Second)
    for {
        select {
            case <-tc.C:
            // 上报状态
            log.Println("status update success")
            case <-ctx.Done():
            // server closed, return
            tc.Stop()
            log.Println("stop update success")
            return
        }
    }
}()

示例仓库中还有一个更复杂的利用context.Context退出子goroutine的例子

🌲 全貌

结合上面的所有的细节,一个优雅关闭的http server代码如下

func registerService(ctx context.Context) {
 tc := time.NewTicker(5 * time.Second)
 for {
  select {
  case <-tc.C:
   // 上报状态
   log.Println("status update success")
  case <-ctx.Done():
   tc.Stop()
   log.Println("stop update success")
   return
  }
 }
}

func destroyService() {
 log.Println("destroy success")
}

func gracefulShutdown() {
 mainCtx, mainCancel := context.WithCancel(context.Background())
 // 用ctx初始化资源,mysql,redis等
 // ...

 defer func() {
  mainCancel()
  // 主动注销服务
  destroyService()

  // 清理资源,mysql,redis等
  // ...
 }()

 mx := http.NewServeMux()
 mx.HandleFunc("/foo", func(w http.ResponseWriter, r *http.Request) {
  time.Sleep(time.Duration(rand.Intn(10)) * time.Second)
  w.Write([]byte("Receive path foo\n"))
 })

 srv := http.Server{
  Addr:    ":8009",
  Handler: mx,
 }

 // ListenAndServe也会阻塞,需要把它放到一个goroutine中
 go func() {
  if err := srv.ListenAndServe(); err != nil && err != http.ErrServerClosed {
   panic(err)
  }
 }()

 // 需要在服务启动后才在注册中心注册
 go registerService(mainCtx)

 signalCh := make(chan os.Signal, 1)
 signal.Notify(signalCh, syscall.SIGINT, syscall.SIGTERM)

 // 等待信号
 sig := <-signalCh
 log.Printf("Received signal: %v\n", sig)

 ctxTimeout, cancelTimeout := context.WithTimeout(context.Background(), 5*time.Second)
 defer cancelTimeout()

 if err := srv.Shutdown(ctxTimeout); err != nil {
  select {
  case <-ctxTimeout.Done():
   // 由于达到超时时间服务器关闭,未完成优雅关闭
   log.Println("timeout of 5 seconds.")
  default:
   // 其他原因导致的服务关闭异常,未完成优雅关闭
   log.Fatalf("Server shutdown failed: %v\n", err)
  }
  return
 }

 // 正确执行优雅关闭服务器
 log.Println("Server shutdown gracefully")
}

责任编辑:武晓燕 来源: 凉凉的知识库
相关推荐

2023-11-01 08:41:24

Go标准库http

2021-10-16 17:53:35

Go函数编程

2015-03-17 09:44:08

2022-07-13 14:12:41

HTTP/3前端

2023-10-27 11:27:14

Go函数

2019-08-19 12:50:00

Go垃圾回收前端

2024-10-15 15:58:11

2024-04-07 00:04:00

Go语言Map

2016-12-08 15:36:59

HashMap数据结构hash函数

2010-06-01 15:25:27

JavaCLASSPATH

2020-07-21 08:26:08

SpringSecurity过滤器

2021-12-28 17:39:05

Go精度Json

2012-11-22 10:11:16

LispLisp教程

2019-12-06 09:44:27

HTTP数据安全

2022-11-07 18:12:54

Go语言函数

2020-09-23 10:00:26

Redis数据库命令

2017-01-10 08:48:21

2024-02-21 21:14:20

编程语言开发Golang

2019-06-25 10:32:19

UDP编程通信

2017-08-15 13:05:58

Serverless架构开发运维
点赞
收藏

51CTO技术栈公众号