高并发场景下到底应该创建多少线程?

开发 架构
对于CPU密集型计算, 多线程本质上是提升多核CPU的利用率, 所以对于一个4核的CPU, 每个核一个线程, 理论上创建4个线程就可以了, 再多创建线程也只是增加线程切换的成本。

大家好,我是冰河~~

创建多少线程合适, 要看多线程具体的应用场景。一般来说,我们可以将程序分为:CPU密集型程序和I/O密集型程序, 而针对于CPU密集型程序和I/O密集型程序,其计算最佳线程数的方法是不同的 。

CPU密集型程序

对于CPU密集型计算, 多线程本质上是提升多核CPU的利用率, 所以对于一个4核的CPU, 每个核一个线程, 理论上创建4个线程就可以了, 再多创建线程也只是增加线程切换的成本。

所以, 对于CPU密集型的计算场景, 理论上“线程的量=CPU核数”就是最合适的。但是在实际工作中, 一般会将线程数量设置为“CPU核数+1”, 这样的话, 当线程因为偶尔的内存页失效或其他原因导致阻塞时, 这个额外的线程可以顶上, 从而保证CPU的利用率 。

所以,在CPU密集型的程序中,一般可以将线程数设置为CPU核数+1。

I/O密集型程序

对于I/O密集型的程序,最佳的线程数是与程序中CPU计算和I/O操作的耗时比相关。总体来说,可以将其总结为如下的公式。

单核CPU

最佳线程数 = 1 +(I/O耗时 / CPU耗时)  

我们令R=I/O耗时 / CPU耗时, 可以这样理解:当线程A执行IO操作时, 另外R个线程正好执行完各自的CPU计算。这样CPU的利用率就达到了100%。

多核CPU

多核CPU的最佳线程数在单核CPU最佳线程数的基础上,乘以CPU核数即可,如下所示。

最佳线程数=CPU核数 * [ 1 +(I/O耗时 / CPU耗时) ]  

总结

上述公式计算的结果为最佳理论值,实际工作中还是要通过实际压测数据来找到最佳线程数,将硬件的性能发挥到极致。

责任编辑:武晓燕 来源: 冰河技术
相关推荐

2022-01-28 00:00:42

高并发线程顺序

2021-01-13 05:23:27

缓存数据库高并发

2022-03-21 12:45:28

Java线程代码

2020-06-16 11:00:40

线程Java代码

2024-02-26 08:28:24

Java线程CPU

2018-06-21 15:25:40

WOT同程王晓波

2021-08-26 06:58:15

Innodb RR隔离级别

2019-12-13 08:52:48

高并发系统限流

2019-04-10 14:10:02

高并发分布式系统架构

2017-02-13 08:41:41

科技新闻早报

2018-07-27 10:56:10

2020-10-13 07:44:45

理解分布式

2023-07-18 09:24:04

MySQL线程

2021-01-13 05:27:02

服务器性能高并发

2016-09-01 09:01:00

MySQLRedisJMQ

2019-06-28 10:55:04

预热高并发并发高

2021-07-03 17:44:34

并发高并发原子性

2020-10-30 16:20:38

Redis单线程高并发

2021-03-04 09:11:57

日志开发打印

2023-10-07 08:54:28

项目httpPost对象
点赞
收藏

51CTO技术栈公众号