Redis中BigKey的判定查找建议
创始人
2024-11-12 02:39:51
0
判定依据
  1. key本身的数据量过大:string类型的key它的值为5MB
  2. key中的成员数量过多:一个zset类型的key成员数量为10000个
  3. key中的成员数据量过大:一个hash类型的key他的成员只有1000个但是这些value总大小超过100MB
  4. 查看内存命令
127.0.0.1:6379> hset k1 name 123 age 123 sex 123 email 123@123 (integer) 1 127.0.0.1:6379> memory usage k1 (integer) 96 127.0.0.1:6379>   
推荐
  1. 单个key的value小于10KB
  2. 对于集合类型的key建议元素数量小于1000
危害
  1. 网络阻塞
    1. 对于bigkey执行读请求时少量的QPS就可能导致带宽使用率被占满导致Redis实例 乃至物理机变慢
  2. 数据倾斜
    1. BigKey所在的Redis实例内存使用率远超其他使用率 无法使数据分片内存资源达到均衡
  3. Redis阻塞
    1. 对元素较多的hash list zset 等做运算耗时较多 使主线程被阻塞
  4. CPU压力
    1. BigKey的数据序列化和反系列化会导致CPU的使用率飙升 影响Redis实例和本机其他引用
查找BigKey
  1. redis-cli–bigkeys
[root@CentOS7 ~]# redis-cli --bigkeys  # Scanning the entire keyspace to find biggest keys as well as # average sizes per key type.  You can use -i 0.1 to sleep 0.1 sec # per 100 SCAN commands (not usually needed).  [00.00%] Biggest hash   found so far '"k1"' with 4 fields  -------- summary -------  Sampled 1 keys in the keyspace! Total key length in bytes is 2 (avg len 2.00)  Biggest   hash found '"k1"' has 4 fields  0 strings with 0 bytes (00.00% of keys, avg size 0.00) 0 lists with 0 items (00.00% of keys, avg size 0.00) 1 hashs with 4 fields (100.00% of keys, avg size 4.00) 0 streams with 0 entries (00.00% of keys, avg size 0.00) 0 sets with 0 members (00.00% of keys, avg size 0.00) 0 zsets with 0 members (00.00% of keys, avg size 0.00) [root@CentOS7 ~]#   
选择何时的数据结构
class user{     private String name;     private Integer age; } 
  1. JSON 优点:实现简单粗暴 缺点:数据耦合,不够灵活
user:1	{"name": "Jack", "age": 21} 
  1. String 优点:可以灵活访问对象任意字段 缺点:占用空间大、没办法做统一控制
user:1:name	Jack user:1:age	21 
  1. Hash 优点:底层使用ziplist,空间占用小,可以灵活访问对象的任意字段 缺点:代码相对复杂
user:1	name	jack 		age		21 
BigKey 案例

假如有hash类型的key,其中有100万对field和value,field是自增id,这个key存在什么问题?如何优化?

keyfieldvalue
someKeyid:0value0
id:999999value999999
  1. 方案一拆分为string类型
    | key | value |
    | — | — |
    | id:0 | value0 |
    | … | … |
    | id:999999 | value999999 |

存在的问题:string结构底层没有太多内存优化,内存占用较多想要批量获取这些数据比较麻烦

  1. 方案二拆分为小的hash,将 id / 100 作为key, 将id % 100 作为field,这样每100个元素为一个Hash
    | key | field | value |
    | — | — | — |
    | key:0 | id:00 | value0 |
    | | … | … |
    | | id:99 | value99 |
    | key:1 | id:00 | value100 |
    | | … | … |
    | | id:99 | value199 |
    | … | | |
    | key:9999 | id:00 | value999900 |
    | | … | … |
    | | id:99 | value999999 |

相关内容

热门资讯

6分钟法子!xpoker辅助器... 6分钟法子!xpoker辅助器(透视)切实存在有辅助透视(哔哩哔哩)1、许多玩家不知道xpoker辅...
透视模块!约局吧辅助器(透视)... 透视模块!约局吧辅助器(透视)开挂脚本插件(哔哩哔哩)约局吧辅助器透视方法中分为三种模型:约局吧辅助...
十分钟安装!哈局八张透视辅助,... 十分钟安装!哈局八张透视辅助,战神辅助卡密购买(竟然存在有辅助脚本)-哔哩哔哩1、进入游戏-大厅左侧...
据报道"哥哥打大a外... 据报道"哥哥打大a外卦辅助工具"原来是有辅助工具(有挂工具)-哔哩哔哩1、全新机制【哥哥打大a外卦辅...
1分钟项目!wepoker好友... 1分钟项目!wepoker好友助力码(透视)原来真的是有辅助插件(哔哩哔哩)1)wepoker好友助...
透视操作!hhpoker一直输... 透视操作!hhpoker一直输有挂吗(透视)开挂透视下载(哔哩哔哩)hhpoker一直输有挂吗透视方...
五分钟辅助!福建天天开心辅助软... 五分钟辅助!福建天天开心辅助软件大全,关春天凑一桌辅助(果然存在有辅助辅助)-哔哩哔哩1、每一步都需...
一分钟了解!"小程序... 一分钟了解!"小程序微乐游戏辅助"其实真的有辅助软件(有挂分析)-哔哩哔哩1)小程序微乐游戏辅助有没...
透视方针!红龙poker辅助工... 透视方针!红龙poker辅助工具(透视)开挂透视辅助器(哔哩哔哩)1.红龙poker辅助工具 选牌创...
第2分钟举措!wepoker好... 第2分钟举措!wepoker好友局透视(透视)真是真的有辅助下载(哔哩哔哩)小薇(辅助器软件下载)致...