前端开发中大并发量如何控制并发数

开发 前端
在这篇文章中,简要介绍了为什么要进行并发请求,阐述了使用请求池队列实现并发请求的设计思路,简要实现代码。此外,还阅读分析了p-limit的源码,并使用数组进行简要的源码编写,以实现要求。

写在前面

最近在进行移动端h5开发,首页需要加载的资源很多,一个lottie动效需要请求70多张图片,但是遇到安卓webview限制请求并发数,导致部分图片请求失败破图。当然图片资源可以做闲时加载和预加载,可以减轻播放动效时资源未加载的问题。

同样的,业务开发也会遇到需要异步请求几十个接口,如果同时并发请求浏览器会进行限制请求数,也会给后端造成请求压力。

场景说明

现在有个场景:

请你实现一个并发请求函数concurrencyRequest(urls, maxNum),要求如下:

  • 要求最大并发数 maxNum。
  • 每当有一个请求返回,就留下一个空位,可以增加新的请求。
  • 所有请求完成后,结果按照 urls 里面的顺序依次打出(发送请求的函数可以直接使用fetch即可)。

初始实现:

const preloadManger = (urls, maxCount = 5) => {
  let count = 0; // 计数 -- 用于控制并发数
  const createTask = () => {
    if (count < maxCount) {
      const url = urls.pop(); // 从请求数组中取值
      if (url) {
        // 无论请求是否成功,都要执行taskFinish
        loader(url).finally(taskFinish);
        // 添加下一个请求
        count++;
        createTask();
      }
    }
  };

  const taskFinish = () => {
    count--;
    createTask();
  };

  createTask();
};

// 进行异步请求
const loader = async (url) => {
  const res = await fetch(url).then(res=>res.json());
  console.log("res",res);
  return res
}

const urls = [];
for (let i = 1; i <= 20; i++) {
    urls.push(`https://jsonplaceholder.typicode.com/todos/${i}`);
}

preloadManger(urls, 5)

请求状态:

可以看到上面的请求是每五个一组进行请求,当一个请求无论返回成功或是失败,都会从请求数组中再取一个请求进行补充。

设计思路

那么,我们可以考虑使用队列去请求大量接口。

思路如下:

假定最大并发数是maxNum=5,图中对接口进行了定义编号,当请求队列池中有一个请求返回后,就向池子中新增一个接口进行请求,依次直到最后一个请求执行完毕。

当然,要保证程序的健壮性,需要考虑一些边界情况,如下:

  • 当初始请求数组urls的长度为0时,此时请求结果数组results是个空数组。
  • 最大并发数maxNums>urls的长度时,请求数为urls的长度。
  • 需要定义计数器count去判断是否全部请求完毕。
  • 无论请求成功与否,都应该将结果存在结果数组results中。
  • 结果数组results和urls数组的顺序保持一致,方便存取。

代码实现

在前面的初始实现的代码中,虽然都能满足基本需求,但是并没有考虑一些边界条件,对此需要根据上面设计思路重新实现得到:

// 并发请求函数
const concurrencyRequest = (urls, maxNum) => {
    return new Promise((resolve) => {
        if (urls.length === 0) {
            resolve([]);
            return;
        }
        const results = [];
        let index = 0; // 下一个请求的下标
        let count = 0; // 当前请求完成的数量

        // 发送请求
        async function request() {
            if (index === urls.length) return;
            const i = index; // 保存序号,使result和urls相对应
            const url = urls[index];
            index++;
            console.log(url);
            try {
                const resp = await fetch(url);
                // resp 加入到results
                results[i] = resp;
            } catch (err) {
                // err 加入到results
                results[i] = err;
            } finally {
                count++;
                // 判断是否所有的请求都已完成
                if (count === urls.length) {
                    console.log('完成了');
                    resolve(results);
                }
                request();
            }
        }

        // maxNum和urls.length取最小进行调用
        const times = Math.min(maxNum, urls.length);
        for(let i = 0; i < times; i++) {
            request();
        }
    })
}

测试代码:

const urls = [];
for (let i = 1; i <= 20; i++) {
    urls.push(`https://jsonplaceholder.typicode.com/todos/${i}`);
}
concurrencyRequest(urls, 5).then(res => {
    console.log(res);
})

请求结果:

上面代码基本实现了前端并发请求的需求,也基本满足需求,在生产中其实有很多已经封装好的库可以直接使用。比如:p-limit【https://github.com/sindresorhus/p-limit】

阅读p-limit源码

import Queue from 'yocto-queue';
import {AsyncResource} from '#async_hooks';

export default function pLimit(concurrency) {
 // 判断这个参数是否是一个大于0的整数,如果不是就抛出一个错误
 if (
  !((Number.isInteger(concurrency)
  || concurrency === Number.POSITIVE_INFINITY)
  && concurrency > 0)
 ) {
  throw new TypeError('Expected `concurrency` to be a number from 1 and up');
 }

 // 创建队列 -- 用于存取请求
 const queue = new Queue();
 // 计数
 let activeCount = 0;

 // 用来处理并发数的函数
 const next = () => {
  activeCount--;

  if (queue.size > 0) {
   // queue.dequeue()可以理解为[].shift(),取出队列中的第一个任务,由于确定里面是一个函数,所以直接执行就可以了;
   queue.dequeue()();
  }
 };

 // run函数就是用来执行异步并发任务
 const run = async (function_, resolve, arguments_) => {
  // activeCount加1,表示当前并发数加1
  activeCount++;

  // 执行传入的异步函数,将结果赋值给result,注意:现在的result是一个处在pending状态的Promise
  const result = (async () => function_(...arguments_))();

  // resolve函数就是enqueue函数中返回的Promise的resolve函数
  resolve(result);

  // 等待result的状态发生改变,这里使用了try...catch,因为result可能会出现异常,所以需要捕获异常;
  try {
   await result;
  } catch {}

  next();
 };

 // 将run函数添加到请求队列中
 const enqueue = (function_, resolve, arguments_) => {
  queue.enqueue(
   // 将run函数绑定到AsyncResource上,不需要立即执行,对此添加了一个bind方法
   AsyncResource.bind(run.bind(undefined, function_, resolve, arguments_)),
  );

  // 立即执行一个异步函数,等待下一个微任务(注意:因为activeCount是异步更新的,所以需要等待下一个微任务执行才能获取新的值)
  (async () => {
   // This function needs to wait until the next microtask before comparing
   // `activeCount` to `concurrency`, because `activeCount` is updated asynchronously
   // when the run function is dequeued and called. The comparison in the if-statement
   // needs to happen asynchronously as well to get an up-to-date value for `activeCount`.
   await Promise.resolve();

   // 判断activeCount是否小于concurrency,并且队列中有任务,如果满足条件就会将队列中的任务取出来执行
   if (activeCount < concurrency && queue.size > 0) {
    // 注意:queue.dequeue()()执行的是run函数
    queue.dequeue()();
   }
  })();
 };

 // 接收一个函数fn和参数args,然后返回一个Promise,执行出队操作
 const generator = (function_, ...arguments_) => new Promise(resolve => {
  enqueue(function_, resolve, arguments_);
 });

 // 向外暴露当前的并发数和队列中的任务数,并且手动清空队列
 Object.defineProperties(generator, {
  // 当前并发数
  activeCount: {
   get: () => activeCount,
  },
  // 队列中的任务数
  pendingCount: {
   get: () => queue.size,
  },
  // 清空队列
  clearQueue: {
   value() {
    queue.clear();
   },
  },
 });

 return generator;
}

整个库只有短短71行代码,在代码中导入了yocto-queue库,它是一个微型的队列数据结构。

手写源码

在进行手撕源码时,可以借助数组进行简易的实现:

class PLimit {
    constructor(concurrency) {
        this.concurrency = concurrency;
        this.activeCount = 0;
        this.queue = [];
        
        return (fn, ...args) => {
            return new Promise(resolve => {
               this.enqueue(fn, resolve, args);
            });
        }
    }
    
    enqueue(fn, resolve, args) {
        this.queue.push(this.run.bind(this, fn, resolve, args));

        (async () => {
            await Promise.resolve();
            if (this.activeCount < this.concurrency && this.queue.length > 0) {
                this.queue.shift()();
            }
        })();
    }
    
    async run(fn, resolve, args) {
        this.activeCount++;

        const result = (async () => fn(...args))();

        resolve(result);

        try {
            await result;
        } catch {
        }

        this.next();
    }
    
    next() {
        this.activeCount--;

        if (this.queue.length > 0) {
            this.queue.shift()();
        }
    }
}

小结

在这篇文章中,简要介绍了为什么要进行并发请求,阐述了使用请求池队列实现并发请求的设计思路,简要实现代码。

此外,还阅读分析了p-limit的源码,并使用数组进行简要的源码编写,以实现要求。

参考文章

  • 【源码共读】大并发量如何控制并发数https://juejin.cn/post/7179220832575717435?searchId=20240430092814392DC2208C545E691A26
  • 前端实现并发控制网络请求https://mp.weixin.qq.com/s/9uq2SqkcMSSWjks0x7RQJg。
责任编辑:姜华 来源: 宇宙一码平川
相关推荐

2021-04-07 06:00:18

JavaScript 前端并发控制

2021-01-12 10:22:45

JavaScript并发控制前端

2017-08-21 10:56:55

MySQL并发控制

2024-06-17 08:40:16

2009-09-24 14:43:53

Hibernate乐观

2022-12-12 09:07:06

Redis并发限流

2009-06-09 09:32:48

LinuxApache带宽控制

2023-11-20 08:01:38

并发处理数Tomcat

2021-06-29 23:40:19

Golang语言并发

2010-11-08 10:57:05

SQL Server的

2021-02-25 22:17:19

开发技术编程

2009-11-25 11:41:56

IIS最大并发数

2020-01-13 10:20:30

架构聊天架构百万并发量

2023-01-30 15:41:10

Channel控制并发

2024-08-26 13:23:26

2017-11-06 17:16:55

Linux设备驱动并发控制

2017-02-28 17:46:15

Linux驱动技术并发控制

2009-02-09 10:06:03

并发控制Web应用悲观锁

2024-03-04 00:02:00

Redis存储令牌

2023-11-06 14:13:51

asyncio开发
点赞
收藏

51CTO技术栈公众号