面试官问我,如何设计和实现一个带过期时间的本地缓存?

开发 前端
今天我们来基于ConcurrentHashMap与ScheduledThreadPoolExecutor来实现一个线程安全的本地缓存:LocalCache。在LocalCache中支持永久缓存与临时缓存,永久缓存的数据一直有效,临时缓存的数据在指定时间到期之后会自动从缓存中移出。

在日常开发中有很多这样的场景:有一些业务系统的配置信息,数据量不大,修改频率不高,但是访问很频繁。如果每次程序都从数据库或集中式缓存中获取,受限于硬盘 I/O性能、远程网络访问限制等,程序的执行效率不高。在这样的业务场景中,我们可以通过本地缓存来提升数据访问的效率。

今天我们来基于ConcurrentHashMapScheduledThreadPoolExecutor来实现一个线程安全的本地缓存:LocalCache。在LocalCache中支持永久缓存与临时缓存,永久缓存的数据一直有效,临时缓存的数据在指定时间到期之后会自动从缓存中移出。

LocalCache提供了数据安全的增、删、改、查功能,具体方法如下所示:

方法名称

方法说明

put(String key , V value)

向缓存中插入数据,数据永久有效

put(String key , V value , int seconds)

向缓存中插入数据,数据根据设定的时间生效,时间到期会从缓存中移出

containKey(String key)

判断缓存中是否包含对应的key

get(String key)

根据key从缓存中获取数据

remove(String key)

移出缓存中对应key的数据

shutdownNow()

关闭缓存池

1. 设计原理

LocalCache主要由3个部分组成:数据缓存、数据超时时间、数据清理任务。数据缓存和数据超时时间都采用ConcurrentHashMap来存储数据,数据超时时间中Key为数据存储的键,value是数据的时间戳。数据清理任务采用ScheduledThreadPoolExecutor实现任务调度,默认的任务线程数为1,这样可以避免多线程带来的并发修改问题,同时线程都是内存操作,这样单线程同样具备高性能。

本地缓存的设计如下图所示:

图片image-20240402165304172

每次项缓存中插入数据时,LocalCache首先会将数据插入到ConcurrentHashMap中。然后判断有没有设置超时时间,如果有超时时间,LocalCache会将失效时间插入到ConcurrentHashMap中,并创建数据清理任务,之后任务提交到ScheduledThreadPoolExecutor线程池中。

每次从缓存中查询数据,LocalCache会直接从ConcurrentHashMap中读取数据。

定时任务线程池会按照超时时间来触发数据清理任务,数据清理任务会从数据时长的缓存池中获取Key对应的时间,判断当前Key对应的数据是否已经到期了。如果数据已经到期了,LocalCache会调用remove方法将数据从缓存池中移除。

2. 实现方案

LocalCache作为本地缓存的接口,定义了数据插入、数据删除、数据查询的相关接口方法。DefaultLocalCache 定义了两个ConcurrentHashMap变量:dataMap和timeOutMap。dataMap用来缓存数据信息,timeOutMap用来存储数据失效的时间戳,同时还定义了数据清理任务ClearTask,ClearTask负责将过期的数据从dataMap中移除。UML图如下所示:

图片image-20240402165313203

3. 代码展示

3.1 接口定义

public interface LocalCache<V> {
    /**
     * 插入数据,数据永久有效
     */
    boolean put(String key, V value);

    /**
     * 插入数据,在指定时间内生效
     */
    boolean put(String key, V value, int seconds);

    /**
     * 是否包含指定的key
     */
    boolean containKey(String key);

    /**
     * 获取指定Key的值
     */
    V get(String key);

    /**
     * 从缓存中移除key对应的数据
     */
    void remove(String key);

    void shutdownNow();
}

在接口LocalCache中定义了两个数据插入的put接口:一个没有到期时间,另一个有到期时间。没有到期时间表示数据永久有效,有到期时间的数据会在到期后从缓存中移除。

接口实现

在接口实现DefaultLocalCache内部定义了三个常量:缓存的默认大小DEFAULT_CAPACITY、最大容量MAX_CAPACITY、定时线程池的大小DEFAULT_THREAD_SIZE。核心代码如下:

public class DefaultLocalCache<V> implements LocalCache<V> {
    // 默认容量
    private static final int DEFAULT_CAPACITY = 1024;
    private static final int MAX_CAPACITY = 100000;

    private static final int DEFAULT_THREAD_SIZE = 1;

    private final int maxSize;

    //数据map
    private volatile ConcurrentHashMap<String,V> dataMap;
    //过期时间
    private final ConcurrentHashMap<String,Long> timeOutMap;

    //定时任务
    private final ScheduledExecutorService executorService;

    public DefaultLocalCache() {
        maxSize = MAX_CAPACITY;
        dataMap = new ConcurrentHashMap<>(DEFAULT_CAPACITY);
        timeOutMap = new ConcurrentHashMap<>(DEFAULT_CAPACITY);
        executorService = new ScheduledThreadPoolExecutor(DEFAULT_THREAD_SIZE) ;
    }

    public DefaultLocalCache(int size) {
        maxSize = size;
        dataMap = new ConcurrentHashMap<>(DEFAULT_CAPACITY);
        timeOutMap = new ConcurrentHashMap<>(DEFAULT_CAPACITY);
        executorService = new ScheduledThreadPoolExecutor(DEFAULT_THREAD_SIZE) ;
    }

    @Override
    public boolean put(String key, V value) {
        //检查容量
        if(checkCapacity()){
            dataMap.put(key,value);
            return true;
        }
        return false;
    }



    @Override
    public boolean put(String key, V value, int seconds) {
        if(checkCapacity()){
            dataMap.put(key,value);
            if(seconds >= 0){
                timeOutMap.put(key,getTimeOut(seconds));
                ClearTask task = new ClearTask(key);
                executorService.schedule(task, seconds, TimeUnit.SECONDS);
            }
        }
        return false;
    }

 ......

    class ClearTask implements Runnable{
        private String key;

        public ClearTask(String key){
            this.key = key;
        }
        @Override
        public void run() {
            //判断缓存中是否有key
            if(timeOutMap.contains(key)){
                //获取失效时间
                Long expire = timeOutMap.get(key);
                //如果失效时间大于0,并且比当前时间小,则删除缓存
                if(expire > 0){
                    long now = System.currentTimeMillis();
                    if(now >= expire){
                        remove(key);
                    }
                }
            }
        }
    }
}

在LocalCache的默认实现DefaultLocalCache中,基于ConcurrentHashMap与ScheduledThreadPoolExecutor结合使用,使得LocalCache支持永久缓存与临时缓存两种能力。

责任编辑:武晓燕 来源: JAVA日知录
相关推荐

2024-04-09 08:39:16

本地缓存开发线程安全

2021-05-19 08:17:35

秒杀场景高并发

2021-05-20 08:54:16

Go面向对象

2024-02-20 14:10:55

系统缓存冗余

2024-01-19 14:03:59

Redis缓存系统Spring

2024-01-15 10:38:20

多级缓存数据一致性分布式缓存

2021-12-13 09:02:13

localStorag面试前端

2022-08-18 20:02:04

JSLRU缓存

2021-06-09 07:55:19

NodeEventEmitte驱动

2021-12-02 08:19:06

MVCC面试数据库

2022-04-08 08:26:03

JavaHTTP请求

2021-09-28 13:42:55

Chrome Devwebsocket网络协议

2022-02-09 09:37:54

ReactorNettyI/O

2022-05-24 08:03:28

InnoDBMySQL数据

2024-10-07 08:52:59

分布式系统分布式 IDID

2022-02-07 20:18:29

Redis缓存装饰

2024-05-28 10:14:31

JavaScrip模板引擎

2024-09-11 22:51:19

线程通讯Object

2023-11-20 10:09:59

2023-01-18 17:50:35

系统架构Kafka
点赞
收藏

51CTO技术栈公众号