获取Redis巨大Key的新姿势(获取redis大key)

到目前为止,当Redis需要获取较大Key数量时,最常用的方法是使用 SCAN 指令,但这种方法增量获取 Key 的机制有时却在巨大Key集合下表现并不尽如人意。实际上,在Redis集合中获取巨大Key时,可以从 Redis 本身提供的技术特性出发,以更高效的方式实现获取低成本。

我们先了解 Redis 中 Key 的两个常用特性。

第一,Redis 在每个 Key 的层级之间支持划分前缀(Prefix)。比如,如果有一个名为 “user” 的 key,那么它的子集可以通过 “user:*” 来表示。

第二,Redis 支持基于前缀进行随机抽样(Random sampling),也就是说,可以在某个前缀下返回随机的一个 Key。

基于以上两个特性,我们可以构建一个原型来获取大量的 Key。算法的基本思想是:假设有一个巨大的 Key 集合,我们先随机获取一个前缀,然后再随机获取一个 Key。最后循环,直到获取的 Key 的总量足够大。代码如下:

# 初始化key_list
key_list = []

# 随机获取一个key前缀
while True:
prefix = random.choice(redis.keys('*'))

# 随机获取一个key
key = random.choice(redis.keys(prefix + '*'))
if not key in key_list:
key_list.append(key)

# 如果key总量足够大则退出
if len(key_list) >= N:
break

以上就是获取巨大Key集合的新方法。基于Redis中支持的 Key 前缀以及对对应前缀下 Key 进行随机抽样,可以更有效地以较低成本获取大量的 Key。


数据运维技术 » 获取Redis巨大Key的新姿势(获取redis大key)