前言
不知道你有没有过这样的经历,你的Spring项目通过http接口远程调用外部系统时,通常你会设置超时时间,比如5秒钟,但是实际情况却是由于外部系统出现故障并导致连接超时,有些请求花费远远超过5秒时间,甚至1分钟,这直接导致你本身的接口响应很慢,如果访问你接口的流量很大的话,甚至拖垮你的系统,这将会是灾难性的后果。
你可能会好奇到底是什么原因导致的,很可能是你忽略了这个超时配置项connectionRequestTimeout导致的。
Spring中的连接池
在深入了解 connectionRequestTimeout 之前,我们需要了解外部 HTTP 请求是如何在 Spring 中进行的。
Spring 通过Http调用外部系统的时候,会使用连接池去管理他们。因为HTTP请求创建连接代价比较高,而连接池可以做到连接的复用,回过头,我们思考下为什么会代价高呢?
- DNS 解析:在建立连接之前,客户端必须首先使用域名系统 (DNS) 将服务器的域名解析为 IP 地址。DNS 解析可能需要时间,尤其是在客户端的 DNS 缓存很冷且服务器的域名尚未缓存的情况下。
- TCP 握手:确定服务器的 IP 地址后,客户端必须与服务器建立 TCP 连接。这涉及三次握手过程,这可能会花费时间并增加请求的开销。
- SSL/TLS 协商:如果服务器使用 HTTPS,客户端还必须在可以交换任何数据之前与服务器协商 SSL/TLS 连接。这涉及一个复杂的握手过程,可能会增加请求的大量开销。
为 HTTP 请求使用连接池可以显着提高性能。但是,我们需要对其进行适当配置以防止出现灾难情况。
什么是连接请求超时?
现在让我们用连接池的概念再来看问题。
本例中B组件是外部系统,处于无法建立HTTP连接的情况,导致A中的连接超时,请仔细看上面A指向连接池的箭头,A 正在等待另一个连接来建立到 B 的 HTTP 连接。
connectionRequestTimeout 是 Spring 中的一个配置参数,用于确定客户端在超时前等待来自连接池的连接的时间。此超时值用于防止客户端无限期地等待可能不可用的连接,并在不再需要时释放连接池中的资源。
API 响应时间 = connectionRequestTimeout + connectionTimeout + readTimeout 。
- connectionRequestTimeout:等待从连接池获取连接的时间。
- connectionTimeout:等待与外部组件建立连接的时间。
- readTimeout:等待外部组件响应的时间。
如何设置connectionRequestTimeout?
connectionRequestTimeout 的默认值为 -1,这意味着它无限期地等待来自连接池的连接。由于我们希望避免外部组件中断导致系统故障,因此我们需要为其设置一个显式值。
假设您将值设置得太短:1 秒。如果系统需要高延迟,这可能是一个频繁的故障,因为它可能一直渴望连接。另一方面,如果该值太长,比如 10 分钟,系统很容易因外部故障而失败。
因此,你需要统计系统的API响应时间, 最大超时响应时间如下:
看看是否有很多请求超过了connectionTimeout和readTimeout之和, 如果是这样的话,系统需要增大连接池的大小或者减小connectionRequestTimeout值。否则就将 connectionRequestTimeout 合理设置为 15 秒到 30 秒之间。
下面是设置 connectionRequestTimeout 的示例代码。
在这个例子中,我们创建了一个新的RestTemplate和一个新的HttpComponentsClientHttpRequestFactory,然后我们connectionRequestTimeout使用该方法将该值设置为 10 秒,并使用该方法为 RestTemplate 设置请求工厂setRequestFactory()。
总结
最后,我们在总结以下Spring中Http请求的3个关键的超时配置吧,其中connectionRequestTimeout 最容易被忽视的。
- connectionRequestTimeout:等待从连接池获取连接的时间
- connectionTimeout:等待与外部组件建立连接的时间
- readTimeout:等待外部组件响应的时间