Redis:内存被我用完了!该怎么办?

存储 存储软件 Redis
Redis是一个内存数据库,当Redis使用的内存超过物理内存的限制后,内存数据会和磁盘产生频繁的交换,交换会导致Redis性能急剧下降。所以在生产环境中我们通过配置参数maxmemoey来限制使用的内存大小。

[[378340]]

介绍

Redis是一个内存数据库,当Redis使用的内存超过物理内存的限制后,内存数据会和磁盘产生频繁的交换,交换会导致Redis性能急剧下降。所以在生产环境中我们通过配置参数maxmemoey来限制使用的内存大小。

当实际使用的内存超过maxmemoey后,Redis提供了如下几种可选策略。

noeviction:写请求返回错误

volatile-lru:使用lru算法删除设置了过期时间的键值对 volatile-lfu:使用lfu算法删除设置了过期时间的键值对 volatile-random:在设置了过期时间的键值对中随机进行删除 volatile-ttl:根据过期时间的先后进行删除,越早过期的越先被删除

allkeys-lru:在所有键值对中,使用lru算法进行删除 allkeys-lfu:在所有键值对中,使用lfu算法进行删除 allkeys-random:所有键值对中随机删除

我们来详细了解一下lru和lfu算法,这是2个常见的缓存淘汰算法。「因为计算机缓存的容量是有限的,所以我们要删除那些没用的数据,而这两种算法的区别就是判定没用的纬度不一样。」

LRU算法

「lru(Least recently used,最近最少使用)算法,即最近访问的数据,后续很大概率还会被访问到,即是有用的。而长时间未被访问的数据,应该被淘汰」

lru算法中数据会被放到一个链表中,链表的头节点为最近被访问的数据,链表的尾节点为长时间没有被访问的数据

「lru算法的核心实现就是哈希表加双向链表」。链表可以用来维护访问元素的顺序,而hash表可以帮我们在O(1)时间复杂度下访问到元素。

「至于为什么是双向链表呢」?主要是要删除元素,所以要获取前继节点。数据结构图示如下

使用双向链表+HashMap

双向链表节点定义如下

  1. public class ListNode<K, V> { 
  2.     K key
  3.     V value; 
  4.     ListNode pre; 
  5.     ListNode next
  6.  
  7.     public ListNode() {} 
  8.  
  9.     public ListNode(K key, V value) { 
  10.         this.key = key
  11.         this.value = value; 
  12.     } 

封装双向链表的常用操作

  1. public class DoubleList { 
  2.  
  3.     private ListNode head; 
  4.     private ListNode tail; 
  5.  
  6.     public DoubleList() { 
  7.         head = new ListNode(); 
  8.         tail = new ListNode(); 
  9.         head.next = tail; 
  10.         tail.pre = head; 
  11.     } 
  12.  
  13.     public void remove(ListNode node) { 
  14.         node.pre.next = node.next
  15.         node.next.pre = node.pre; 
  16.     } 
  17.  
  18.     public void addLast(ListNode node) { 
  19.         node.pre = tail.pre; 
  20.         tail.pre = node; 
  21.         node.pre.next = node; 
  22.         node.next = tail; 
  23.     } 
  24.  
  25.     public ListNode removeFirst() { 
  26.         if (head.next == tail) { 
  27.             return null
  28.         } 
  29.         ListNode first = head.next
  30.         remove(first); 
  31.         return first
  32.     } 

封装一个缓存类,提供最基本的get和put方法。「需要注意,这两种基本的方法都涉及到对两种数据结构的修改」。

  1. public class MyLruCache<K, V> { 
  2.  
  3.     private int capacity; 
  4.     private DoubleList doubleList; 
  5.     private Map<K, ListNode> map; 
  6.  
  7.     public MyLruCache(int capacity) { 
  8.         this.capacity = capacity; 
  9.         map = new HashMap<>(); 
  10.         doubleList = new DoubleList(); 
  11.     } 
  12.  
  13.     public V get(Object key) { 
  14.         ListNode<K, V> node = map.get(key); 
  15.         if (node == null) { 
  16.             return null
  17.         } 
  18.         // 先删除该节点,再接到尾部 
  19.         doubleList.remove(node); 
  20.         doubleList.addLast(node); 
  21.         return node.value; 
  22.     } 
  23.  
  24.     public void put(K key, V value) { 
  25.         // 直接调用这边的get方法,如果存在,它会在get内部被移动到尾巴,不用再移动一遍,直接修改值即可 
  26.         if ((get(key)) != null) { 
  27.             map.get(key).value = value; 
  28.             return
  29.         } 
  30.  
  31.         // 如果超出容量,把头去掉 
  32.         if (map.size() == capacity) { 
  33.             ListNode listNode = doubleList.removeFirst(); 
  34.             map.remove(listNode.key); 
  35.         } 
  36.  
  37.         // 若不存在,new一个出来 
  38.         ListNode node = new ListNode(key, value); 
  39.         map.put(key, node); 
  40.         doubleList.addLast(node); 
  41.     } 

这里我们的实现为最近访问的放在链表的尾节点,不经常访问的放在链表的头节点

测试一波,输出为链表的正序输出(代码为了简洁没有贴toString方法)

  1. MyLruCache<String, String> myLruCache = new MyLruCache<>(3); 
  2. // {5 : 5} 
  3. myLruCache.put("5""5"); 
  4. // {5 : 5}{3 : 3} 
  5. myLruCache.put("3""3"); 
  6. // {5 : 5}{3 : 3}{4 : 4} 
  7. myLruCache.put("4""4"); 
  8. // {3 : 3}{4 : 4}{2 : 2} 
  9. myLruCache.put("2""2"); 
  10. // {4 : 4}{2 : 2}{3 : 3} 
  11. myLruCache.get("3"); 

「因为LinkedHashMap的底层实现就是哈希表加双向链表,所以你可以用LinkedHashMap替换HashMap和DoubleList来改写一下上面的类」。

我来演示一下更骚的操作,只需要重写一个构造函数和removeEldestEntry方法即可。

使用LinkedHashMap实现LRU

  1. public class LruCache<K, V> extends LinkedHashMap<K, V> { 
  2.  
  3.     private int cacheSize; 
  4.  
  5.  
  6.     public LruCache(int cacheSize) { 
  7.         /** 
  8.          * initialCapacity: 初始容量大小 
  9.          * loadFactor: 负载因子 
  10.          * accessOrder: false基于插入排序(默认),true基于访问排序 
  11.          */ 
  12.         super(cacheSize, 0.75f, true); 
  13.         this.cacheSize = cacheSize; 
  14.     } 
  15.  
  16.     /** 
  17.      * 当调用put或者putAll方法时会调用如下方法,是否删除最老的数据,默认为false 
  18.      */ 
  19.     @Override 
  20.     protected boolean removeEldestEntry(Map.Entry<K, V> eldest) { 
  21.         return size() > cacheSize; 
  22.     } 

注意这个缓存并不是线程安全的,可以调用Collections.synchronizedMap方法返回线程安全的map

  1. LruCache<String, String> lruCache = new LruCache(3); 
  2. Map<String, String> safeMap = Collections.synchronizedMap(lruCache); 

Collections.synchronizedMap实现线程安全的方式很简单,只是返回一个代理类。代理类对Map接口的所有方法加锁

  1. public static <K,V> Map<K,V> synchronizedMap(Map<K,V> m) { 
  2.     return new SynchronizedMap<>(m); 

LFU算法

「LRU算法有一个问题,当一个长时间不被访问的key,偶尔被访问一下后,可能会造成一个比这个key访问更频繁的key被淘汰。」

即LRU算法对key的冷热程度的判断可能不准确。而LFU算法(Least Frequently Used,最不经常使用)则是按照访问频率来判断key的冷热程度的,每次删除的是一段时间内访问频率较低的数据,比LRU算法更准确。

使用3个hash表实现lfu算法

那么我们应该如何组织数据呢?

为了实现键值的对快速访问,用一个map来保存键值对

  1. private HashMap<K, Integer> keyToFreq; 

还需要用一个map来保存键的访问频率

  1. private HashMap<K, Integer> keyToFreq; 

「当然你也可以把值和访问频率封装到一个类中,用一个map来替代上述的2个map」

接下来就是最核心的部分,删除访问频率最低的数据。

  • 为了能在O(1)时间复杂度内找到访问频率最低的数据,我们需要一个变量minFreq记录访问最低的频率
  • 每个访问频率有可能对应多个键。当空间不够用时,我们要删除最早被访问的数据,所以需要如下数据结构,Map<频率, 有序集合>。每次内存不够用时,删除有序集合的第一个元素即可。并且这个有序集合要能快速删除某个key,因为某个key被访问后,需要从这个集合中删除,加入freq+1对应的集合中
  • 有序集合很多,但是能满足快速删除某个key的只有set,但是set插入数据是无序的。「幸亏Java有LinkedHashSet这个类,链表和集合的结合体,链表不能快速删除元素,但是能保证插入顺序。集合内部元素无序,但是能快速删除元素,完美」

下面就是具体的实现。

  1. public class LfuCache<K, V> { 
  2.  
  3.     private HashMap<K, V> keyToVal; 
  4.     private HashMap<K, Integer> keyToFreq; 
  5.     private HashMap<Integer, LinkedHashSet<K>> freqTokeys; 
  6.  
  7.     private int minFreq; 
  8.     private int capacity; 
  9.  
  10.     public LfuCache(int capacity) { 
  11.         keyToVal = new HashMap<>(); 
  12.         keyToFreq = new HashMap<>(); 
  13.         freqTokeys = new HashMap<>(); 
  14.         this.capacity = capacity; 
  15.         this.minFreq = 0; 
  16.     } 
  17.  
  18.     public V get(K key) { 
  19.         V v = keyToVal.get(key); 
  20.         if (v == null) { 
  21.             return null
  22.         } 
  23.         increaseFrey(key); 
  24.         return v; 
  25.     } 
  26.  
  27.     public void put(K key, V value) { 
  28.         // get方法里面会增加频次 
  29.         if (get(key) != null) { 
  30.             // 重新设置值 
  31.             keyToVal.put(key, value); 
  32.             return
  33.         } 
  34.  
  35.         // 超出容量,删除频率最低的key 
  36.         if (keyToVal.size() >= capacity) { 
  37.             removeMinFreqKey(); 
  38.         } 
  39.  
  40.         keyToVal.put(key, value); 
  41.         keyToFreq.put(key, 1); 
  42.         // key对应的value存在,返回存在的key 
  43.         // key对应的value不存在,添加key和value 
  44.         freqTokeys.putIfAbsent(1, new LinkedHashSet<>()); 
  45.         freqTokeys.get(1).add(key); 
  46.         this.minFreq = 1; 
  47.     } 
  48.  
  49.     // 删除出现频率最低的key 
  50.     private void removeMinFreqKey() { 
  51.         LinkedHashSet<K> keyList = freqTokeys.get(minFreq); 
  52.         K deleteKey = keyList.iterator().next(); 
  53.         keyList.remove(deleteKey); 
  54.         if (keyList.isEmpty()) { 
  55.             // 这里删除元素后不需要重新设置minFreq 
  56.             // 因为put方法执行完会将minFreq设置为1 
  57.             freqTokeys.remove(keyList); 
  58.         } 
  59.         keyToVal.remove(deleteKey); 
  60.         keyToFreq.remove(deleteKey); 
  61.     } 
  62.  
  63.     // 增加频率 
  64.     private void increaseFrey(K key) { 
  65.         int freq = keyToFreq.get(key); 
  66.         keyToFreq.put(key, freq + 1); 
  67.         freqTokeys.get(freq).remove(key); 
  68.         freqTokeys.putIfAbsent(freq + 1, new LinkedHashSet<>()); 
  69.         freqTokeys.get(freq + 1).add(key); 
  70.         if (freqTokeys.get(freq).isEmpty()) { 
  71.             freqTokeys.remove(freq); 
  72.             // 最小频率的set为空,key被移动到minFreq+1对应的set了 
  73.             // 所以minFreq也要加1 
  74.             if (freq == this.minFreq) { 
  75.                 this.minFreq++; 
  76.             } 
  77.         } 
  78.     } 

测试一下

  1. LfuCache<String, String> lfuCache = new LfuCache(2); 
  2. lfuCache.put("1""1"); 
  3. lfuCache.put("2""2"); 
  4. // 1 
  5. System.out.println(lfuCache.get("1")); 
  6. lfuCache.put("3""3"); 
  7. // 1的频率为2,2和3的频率为1,但2更早之前被访问,所以被清除 
  8. // 结果为null 
  9. System.out.println(lfuCache.get("2")); 

 

责任编辑:武晓燕 来源: Java识堂
相关推荐

2024-11-11 00:00:06

MySQLID数据类型

2020-03-28 15:50:18

数据库自增ID维护

2019-10-12 09:50:46

Redis内存数据库

2019-09-18 15:49:06

MySQL数据库面试官

2023-10-17 09:41:04

自增主键MySQL

2021-04-13 10:41:25

Redis内存数据库

2021-03-17 10:55:14

Redis哈希数据库

2022-04-24 08:23:19

Redis内存淘汰策略

2011-06-30 17:58:30

网站被K

2022-04-22 10:30:07

框架JavaScript前端

2022-02-14 15:03:50

MySQL程序员面试

2021-03-13 14:04:43

Redis内存策略

2020-03-18 19:00:29

电脑内存不足系统

2010-05-20 16:08:01

亚马逊故障

2010-11-17 11:06:34

跳槽

2018-08-20 19:39:14

区块链职业岗位

2016-11-24 14:44:49

云计算

2024-10-18 09:55:50

RedisHash数据

2024-10-09 17:06:52

RedisHash哈希表

2022-02-06 00:16:53

加密货币比特币以太坊
点赞
收藏

51CTO技术栈公众号