基于Consul的分布式信号量实现

开发 开发工具 分布式
本文将继续讨论基于Consul的分布式锁实现。信号量是我们在实现并发控制时会经常使用的手段,主要用来限制同时并发线程或进程的数量。

本文将继续讨论基于Consul的分布式锁实现。信号量是我们在实现并发控制时会经常使用的手段,主要用来限制同时并发线程或进程的数量,比如:Zuul默认情况下就使用信号量来限制每个路由的并发数,以实现不同路由间的资源隔离。

[[190924]]

信号量(Semaphore),有时被称为信号灯,是在多线程环境下使用的一种设施,是可以用来保证两个或多个关键代码段不被并发调用。在进入一个关键代码段之前,线程必须获取一个信号量;一旦该关键代码段完成了,那么该线程必须释放信号量。其他想进入该关键代码段的线程必须等待直到***个线程释放信号量。为了完成这个过程,需要创建一个信号量VI,然后将Acquire Semaphore VI以及Release Semaphore VI分别放置在每个关键代码段的首末端,确认这些信号量VI引用的是初始创建的信号量。如在这个停车场系统中,车位是公共资源,每辆车好比一个线程,看门人起的就是信号量的作用。

实现思路

  1. 信号量存储:semaphore/key
  2. acquired操作:
  3. 创建session
  4. 锁定key竞争者:semaphore/key/session
  5. 查询信号量:semaphore/key/.lock,可以获得如下内容(如果是***次创建信号量,将获取不到,这个时候就直接创建)
    1.     "limit": 3, 
    2.     "holders": [ 
    3.         "90c0772a-4bd3-3a3c-8215-3b8937e36027", 
    4.         "93e5611d-5365-a374-8190-f80c4a7280ab" 
    5.     ] 
  6. 如果持有者已达上限,返回false,如果阻塞模式,就继续尝试acquired操作
  7. 如果持有者未达上限,更新semaphore/key/.lock的内容,将当前线程的sessionId加入到holders中。注意:更新的时候需要设置cas,它的值是“查询信号量”步骤获得的“ModifyIndex”值,该值用于保证更新操作的基础没有被其他竞争者更新。如果更新成功,就开始执行具体逻辑。如果没有更新成功,说明有其他竞争者抢占了资源,返回false,阻塞模式下继续尝试acquired操作
  8. release操作:
  • 从semaphore/key/.lock的holders中移除当前sessionId
  • 删除semaphore/key/session
  • 删除当前的session

流程图

代码实现

  1. public class Semaphore { 
  2.   
  3.     private Logger logger = Logger.getLogger(getClass()); 
  4.   
  5.     private static final String prefix = "semaphore/";  // 信号量参数前缀 
  6.   
  7.     private ConsulClient consulClient; 
  8.     private int limit; 
  9.     private String keyPath; 
  10.     private String sessionId = null
  11.     private boolean acquired = false
  12.   
  13.     /** 
  14.      * 
  15.      * @param consulClient consul客户端实例 
  16.      * @param limit 信号量上限值 
  17.      * @param keyPath 信号量在consul中存储的参数路径 
  18.      */ 
  19.     public Semaphore(ConsulClient consulClient, int limit, String keyPath) { 
  20.         this.consulClient = consulClient; 
  21.         this.limit = limit; 
  22.         this.keyPath = prefix + keyPath; 
  23.     } 
  24.   
  25.     /** 
  26.      * acquired信号量 
  27.      * 
  28.      * @param block 是否阻塞。如果为true,那么一直尝试,直到获取到该资源为止。 
  29.      * @return 
  30.      * @throws IOException 
  31.      */ 
  32.     public Boolean acquired(boolean block) throws IOException { 
  33.   
  34.         if(acquired) { 
  35.             logger.error(sessionId + " - Already acquired"); 
  36.             throw new RuntimeException(sessionId + " - Already acquired"); 
  37.         } 
  38.   
  39.         // create session 
  40.         clearSession(); 
  41.         this.sessionId = createSessionId("semaphore"); 
  42.         logger.debug("Create session : " + sessionId); 
  43.   
  44.         // add contender entry 
  45.         String contenderKey = keyPath + "/" + sessionId; 
  46.         logger.debug("contenderKey : " + contenderKey); 
  47.         PutParams putParams = new PutParams(); 
  48.         putParams.setAcquireSession(sessionId); 
  49.         Boolean b = consulClient.setKVValue(contenderKey, "", putParams).getValue(); 
  50.         if(!b) { 
  51.             logger.error("Failed to add contender entry : " + contenderKey + ", " + sessionId); 
  52.             throw new RuntimeException("Failed to add contender entry : " + contenderKey + ", " + sessionId); 
  53.         } 
  54.   
  55.         while(true) { 
  56.             // try to take the semaphore 
  57.             String lockKey = keyPath + "/.lock"; 
  58.             String lockKeyValue; 
  59.   
  60.             GetValue lockKeyContent = consulClient.getKVValue(lockKey).getValue(); 
  61.   
  62.             if (lockKeyContent != null) { 
  63.                 // lock值转换 
  64.                 lockKeyValue = lockKeyContent.getValue(); 
  65.                 BASE64Decoder decoder = new BASE64Decoder(); 
  66.                 byte[] v = decoder.decodeBuffer(lockKeyValue); 
  67.                 String lockKeyValueDecode = new String(v); 
  68.                 logger.debug("lockKey=" + lockKey + "lockKeyValueDecode=" + lockKeyValueDecode); 
  69.   
  70.                 Gson gson = new Gson(); 
  71.                 ContenderValue contenderValue = gson.fromJson(lockKeyValueDecode, ContenderValue.class); 
  72.                 // 当前信号量已满 
  73.                 if(contenderValue.getLimit() == contenderValue.getHolders().size()) { 
  74.                     logger.debug("Semaphore limited " + contenderValue.getLimit() + ", waiting..."); 
  75.                     if(block) { 
  76.                         // 如果是阻塞模式,再尝试 
  77.                         try { 
  78.                             Thread.sleep(100L); 
  79.                         } catch (InterruptedException e) { 
  80.                         } 
  81.                         continue; 
  82.                     } 
  83.                     // 非阻塞模式,直接返回没有获取到信号量 
  84.                     return false; 
  85.                 } 
  86.                 // 信号量增加 
  87.                 contenderValue.getHolders().add(sessionId); 
  88.                 putParams = new PutParams(); 
  89.                 putParams.setCas(lockKeyContent.getModifyIndex()); 
  90.                 boolean c = consulClient.setKVValue(lockKey, contenderValue.toString(), putParams).getValue(); 
  91.                 if(c) { 
  92.                     acquired = true
  93.                     return true; 
  94.                 } 
  95.                 else 
  96.                     continue; 
  97.             } else { 
  98.                 // 当前信号量还没有,所以创建一个,并马上抢占一个资源 
  99.                 ContenderValue contenderValue = new ContenderValue(); 
  100.                 contenderValue.setLimit(limit); 
  101.                 contenderValue.getHolders().add(sessionId); 
  102.   
  103.                 putParams = new PutParams(); 
  104.                 putParams.setCas(0L); 
  105.                 boolean c = consulClient.setKVValue(lockKey, contenderValue.toString(), putParams).getValue(); 
  106.                 if (c) { 
  107.                     acquired = true
  108.                     return true; 
  109.                 } 
  110.                 continue; 
  111.             } 
  112.         } 
  113.     } 
  114.   
  115.     /** 
  116.      * 创建sessionId 
  117.      * @param sessionName 
  118.      * @return 
  119.      */ 
  120.     public String createSessionId(String sessionName) { 
  121.         NewSession newnewSession = new NewSession(); 
  122.         newSession.setName(sessionName); 
  123.         return consulClient.sessionCreate(newSession, null).getValue(); 
  124.     } 
  125.   
  126.     /** 
  127.      * 释放session、并从lock中移除当前的sessionId 
  128.      * @throws IOException 
  129.      */ 
  130.     public void release() throws IOException { 
  131.         if(this.acquired) { 
  132.             // remove session from lock 
  133.             while(true) { 
  134.                 String contenderKey = keyPath + "/" + sessionId; 
  135.                 String lockKey = keyPath + "/.lock"; 
  136.                 String lockKeyValue; 
  137.   
  138.                 GetValue lockKeyContent = consulClient.getKVValue(lockKey).getValue(); 
  139.                 if (lockKeyContent != null) { 
  140.                     // lock值转换 
  141.                     lockKeyValue = lockKeyContent.getValue(); 
  142.                     BASE64Decoder decoder = new BASE64Decoder(); 
  143.                     byte[] v = decoder.decodeBuffer(lockKeyValue); 
  144.                     String lockKeyValueDecode = new String(v); 
  145.                     Gson gson = new Gson(); 
  146.                     ContenderValue contenderValue = gson.fromJson(lockKeyValueDecode, ContenderValue.class); 
  147.                     contenderValue.getHolders().remove(sessionId); 
  148.                     PutParams putParams = new PutParams(); 
  149.                     putParams.setCas(lockKeyContent.getModifyIndex()); 
  150.                     consulClient.deleteKVValue(contenderKey); 
  151.                     boolean c = consulClient.setKVValue(lockKey, contenderValue.toString(), putParams).getValue(); 
  152.                     if(c) { 
  153.                         break; 
  154.                     } 
  155.                 } 
  156.             } 
  157.             // remove session key 
  158.   
  159.         } 
  160.         this.acquired = false
  161.         clearSession(); 
  162.     } 
  163.   
  164.     public void clearSession() { 
  165.         if(sessionId != null) { 
  166.             consulClient.sessionDestroy(sessionId, null); 
  167.             sessionId = null
  168.         } 
  169.     } 
  170.   
  171.     class ContenderValue implements Serializable { 
  172.   
  173.         private Integer limit; 
  174.         private List<String> holders = new ArrayList<>(); 
  175.   
  176.         public Integer getLimit() { 
  177.             return limit; 
  178.         } 
  179.   
  180.         public void setLimit(Integer limit) { 
  181.             this.limit = limit; 
  182.         } 
  183.   
  184.         public List<String> getHolders() { 
  185.             return holders; 
  186.         } 
  187.   
  188.         public void setHolders(List<String> holders) { 
  189.             this.holders = holders; 
  190.         } 
  191.   
  192.         @Override 
  193.         public String toString() { 
  194.             return new Gson().toJson(this); 
  195.         } 
  196.   
  197.     } 
  198.   

单元测试 

下面单元测试的逻辑:通过线程的方式来模拟不同的分布式服务来获取信号量执行业务逻辑。由于信号量与简单的分布式互斥锁有所不同,它不是只限定一个线程可以操作,而是可以控制多个线程的并发,所以通过下面的单元测试,我们设置信号量为3,然后同时启动15个线程来竞争的情况,来观察分布式信号量实现的结果如何。

  1. INFO  [Thread-6] SemaphoreRunner - Thread 7 start! 
  2. INFO  [Thread-2] SemaphoreRunner - Thread 3 start! 
  3. INFO  [Thread-7] SemaphoreRunner - Thread 8 start! 
  4. INFO  [Thread-2] SemaphoreRunner - Thread 3 end! 
  5. INFO  [Thread-5] SemaphoreRunner - Thread 6 start! 
  6. INFO  [Thread-6] SemaphoreRunner - Thread 7 end! 
  7. INFO  [Thread-9] SemaphoreRunner - Thread 10 start! 
  8. INFO  [Thread-5] SemaphoreRunner - Thread 6 end! 
  9. INFO  [Thread-1] SemaphoreRunner - Thread 2 start! 
  10. INFO  [Thread-7] SemaphoreRunner - Thread 8 end! 
  11. INFO  [Thread-10] SemaphoreRunner - Thread 11 start! 
  12. INFO  [Thread-10] SemaphoreRunner - Thread 11 end! 
  13. INFO  [Thread-12] SemaphoreRunner - Thread 13 start! 
  14. INFO  [Thread-1] SemaphoreRunner - Thread 2 end! 
  15. INFO  [Thread-3] SemaphoreRunner - Thread 4 start! 
  16. INFO  [Thread-9] SemaphoreRunner - Thread 10 end! 
  17. INFO  [Thread-0] SemaphoreRunner - Thread 1 start! 
  18. INFO  [Thread-3] SemaphoreRunner - Thread 4 end! 
  19. INFO  [Thread-14] SemaphoreRunner - Thread 15 start! 
  20. INFO  [Thread-12] SemaphoreRunner - Thread 13 end! 
  21. INFO  [Thread-0] SemaphoreRunner - Thread 1 end! 
  22. INFO  [Thread-13] SemaphoreRunner - Thread 14 start! 
  23. INFO  [Thread-11] SemaphoreRunner - Thread 12 start! 
  24. INFO  [Thread-13] SemaphoreRunner - Thread 14 end! 
  25. INFO  [Thread-4] SemaphoreRunner - Thread 5 start! 
  26. INFO  [Thread-4] SemaphoreRunner - Thread 5 end! 
  27. INFO  [Thread-8] SemaphoreRunner - Thread 9 start! 
  28. INFO  [Thread-11] SemaphoreRunner - Thread 12 end! 
  29. INFO  [Thread-14] SemaphoreRunner - Thread 15 end! 
  30. INFO  [Thread-8] SemaphoreRunner - Thread 9 end! 
  1. public class TestLock { 
  2.   
  3.     private Logger logger = Logger.getLogger(getClass()); 
  4.   
  5.     @Test 
  6.     public void testSemaphore() throws Exception { 
  7.         new Thread(new SemaphoreRunner(1)).start(); 
  8.         new Thread(new SemaphoreRunner(2)).start(); 
  9.         new Thread(new SemaphoreRunner(3)).start(); 
  10.         new Thread(new SemaphoreRunner(4)).start(); 
  11.         new Thread(new SemaphoreRunner(5)).start(); 
  12.         new Thread(new SemaphoreRunner(6)).start(); 
  13.         new Thread(new SemaphoreRunner(7)).start(); 
  14.         new Thread(new SemaphoreRunner(8)).start(); 
  15.         new Thread(new SemaphoreRunner(9)).start(); 
  16.         new Thread(new SemaphoreRunner(10)).start(); 
  17.         Thread.sleep(1000000L); 
  18.     }  
  19.    
  20. public class SemaphoreRunner implements Runnable { 
  21.   
  22.     private Logger logger = Logger.getLogger(getClass()); 
  23.   
  24.     private int flag; 
  25.   
  26.     public SemaphoreRunner(int flag) { 
  27.         this.flag = flag; 
  28.     } 
  29.   
  30.     @Override 
  31.     public void run() { 
  32.         Semaphore semaphore = new Semaphore(new ConsulClient(), 3, "mg-init"); 
  33.         try { 
  34.             if (semaphore.acquired(true)) { 
  35.                 // 获取到信号量,执行业务逻辑 
  36.                 logger.info("Thread " + flag + " start!"); 
  37.                 Thread.sleep(new Random().nextInt(10000)); 
  38.                 logger.info("Thread " + flag + " end!"); 
  39.             } 
  40.         } catch (Exception e) { 
  41.             e.printStackTrace(); 
  42.         } finally { 
  43.             try { 
  44.                 // 信号量释放、Session锁释放、Session删除 
  45.                 semaphore.release(); 
  46.             } catch (IOException e) { 
  47.                 e.printStackTrace(); 
  48.             } 
  49.         } 
  50.     } 

从测试结果,我们可以发现当信号量持有者数量达到信号量上限3的时候,其他竞争者就开始进行等待了,只有当某个持有者释放信号量之后,才会有新的线程变成持有者,从而开始执行自己的业务逻辑。所以,分布式信号量可以帮助我们有效的控制同时操作某个共享资源的并发数。

优化建议

同前文一样,这里只是做了简单的实现。线上应用还必须加入TTL的session清理以及对.lock资源中的无效holder进行清理的机制。

参考文档:https://www.consul.io/docs/guides/semaphore.html

实现代码

【本文为51CTO专栏作者“翟永超”的原创稿件,转载请通过51CTO联系作者获取授权】

戳这里,看该作者更多好文

责任编辑:赵宁宁 来源: 51CTO专栏
相关推荐

2017-04-13 10:51:09

Consul分布式

2010-04-21 16:42:48

Unix信号量

2010-04-21 16:25:13

Unix信号量

2022-10-27 10:44:14

分布式Zookeeper

2021-04-13 09:20:15

鸿蒙HarmonyOS应用开发

2010-04-21 16:50:31

Unix信号量

2020-11-05 09:59:24

Linux内核信号量

2023-01-06 09:19:12

Seata分布式事务

2009-06-19 14:23:41

RMIJava分布式计算

2017-10-24 11:28:23

Zookeeper分布式锁架构

2015-04-21 09:39:03

javajava分布式爬虫

2021-09-07 07:53:42

Semaphore 信号量源码

2020-09-25 07:34:40

Linux系统编程信号量

2010-04-21 15:37:38

Unix信号量

2022-11-06 19:28:02

分布式锁etcd云原生

2009-12-08 12:14:43

2013-08-21 14:06:05

iOS队列信号

2022-03-08 15:24:23

BitMapRedis数据

2024-10-29 15:23:45

Python线程安全

2022-06-27 08:21:05

Seata分布式事务微服务
点赞
收藏

51CTO技术栈公众号