五大数据类型
redis的命令操作大全
http://www.redis.cn/commands.html
redis键-key操作
- keys *查看当前库所有key (匹配:keys *1)
-
exists key判断某个key是否存在
-
type key 查看你的key是什么类型
-
del key 删除指定的key数据 【先斩后奏】
-
unlink key 根据value选择非阻塞删除 【先奏后斩】
-
- 仅将keys从keyspace元数据中删除,真正的删除会在后续异步操作。
-
expire key 10 10秒钟:为给定的key设置过期时间
-
ttl key 查看还有多少秒过期,-1表示永不过期,-2表示已过期
-
select命令切换数据库 【一共有16个 一般用默认】
-
dbsize查看当前数据库的key的数量
【少用】
- flushdb清空当前库
- flushall通杀全部库
- 字符串类型 string
- 哈希类型 hash : map格式
- 列表类型 list : linkedlist格式。支持重复元素
- 集合类型 set : 不允许重复元素
- 有序集合类型 sortedset:不允许重复元素,且元素有顺序
字符串类型 string
String是Redis最基本的类型,你可以理解成与Memcached一模一样的类型,一个key对应一个value。
String类型是二进制安全的。意味着Redis的string可以包含任何数据。比如jpg图片或者序列化的对象。
二进制安全是一种主要用于字符串操作函数相关的计算机编程术语。一个二进制安全功能(函数),其本质上将操作输入作为原始的、无任何特殊格式意义的数据流。对于每个字符都公平对待,不特殊处理某一个字符。
大多数的函数当其使用任何特别的或标记字符,如转义码,那些期望 null 结尾的字符串(如C语言中的字符串),不是二进制安全的。一个可能的例外是该函数的明确的目的是在某二进制字符串搜索某特定字符。
C语言中的字符串是根据特殊字符“\0”来判断该字符串是否结束,对于字符串str="0123456789\0123456789”来说,在C语言里面str的长度就是10(strlen(str)=10),所以strlen()函数不是二进制安全的。而在Redis中,strlen str的结果是21,是二进制安全的(Redis底层所使用的字符串表示是Sds),它只关心二进制化的字符串,不关心字符串的具体格式,里面有啥字符,只会严格的按照二进制的数据存取,不会以某种特殊格式解析字符串。
String类型是Redis最基本的数据类型,一个Redis中字符串value最多可以是512M
set 添加键值对 【参数】
-
setNX【setnx】:当数据库中key不存在时,可以将key-value添加数据库
-
- setNX k1 v1000
-
setEX【setex】:key的超时秒数 SETEX key seconds value
-
- setEX k2 10 v200 设置值同时设置过期时间
get
查询对应键值
append
将给定的
strlen
获得值的长度
incr
将 key 中储存的数字值增1
只能对数字值操作,如果为空,新增值为1
decr
将 key 中储存的数字值减1
只能对数字值操作,如果为空,新增值为-1
incrby / decrby <步长>
将 key 中储存的数字值增减。自定义步长。
mset .....
同时设置一个或多个 key-value对
mget .....
同时获取一个或多个 value
msetnx .....
同时设置一个或多个 key-value 对,当且仅当所有给定key 都不存在。
原子性,有一个失败则都失败
所谓原子操作是指不会被线程调度机制打断的操作;
这种操作一旦开始,就一直运行到结束,中间不会有任何context switch (切换到另一个线程)。
(1)在单线程中,能够在单条指令中完成的操作都可以认为是"原子操作",因为中断只能发生于指令之间。
(2)在多线程中,不能被其它进程(线程)打断的操作就叫原子操作。
Redis单命令的原子性主要得益于Redis的单线程。
java没有原子性【多线程】
案例:i=0两个线程分别对i进行++100次,值是多少?【2-200】
getrange <起始位置><结束位置>
获得值的范围,类似java中的substring,前包,后包
setrange <起始位置>
用
getset
以新换旧,设置了新值同时获得旧值。
String数据结构
String的数据结构为简单动态字符串(Simple Dynamic String,缩写SDS)。是可以修改的字符串,内部结构实现上类似于Java的ArrayList,采用预分配冗余空间的方式来减少内存的频繁分配.
如图中所示,内部为当前字符串实际分配的空间capacity一般要高于实际字符串长度len。当字符串长度小于1M时,扩容都是加倍现有的空间,如果超过1M,扩容时一次只会多扩1M的空间。需要注意的是字符串最大长度为512M。
哈希类型 hash
Redis hash 是一个键值对集合。
Redis hash是一个string类型的field和value的映射表,hash特别适合用于存储对象。 类似Java里面的Map<String,Object>
用户ID为查找的key,存储的value用户对象包含姓名,年龄,生日等信息,如果用普通的key/value结构来存储
![]() |
![]() |
---|---|
通过 key(用户ID) + field(属性标签) 就可以操作对应属性数据了,既不需要重复存储数据,也不会带来序列化和并发修改控制的问题
hset 【新建或增加 给filed赋值 单个或多个 也可以修改】
hset
- hset user id 1 name zhang age 30 【新建】
- hset user id 2 gender man 【修改id 新增gender】
hmset 【赋值 多个】
hmset
hget 【取值 单个】
hget
hmget 【取值多个】
hget
hexists 【判断存在】
hexists
hkeys 【获取所有filed】
hkeys
hkeys 【获取所有value】
hvals
hgetall 【获取所有filed 和value】
hgetall
hincrby 【指定增加某整数值】
hincrby
hsetnx 【不存在filed时增加】
hsetnx
数据结构
Hash类型对应的数据结构是两种:ziplist(压缩列表),hashtable(哈希表)。当field-value长度较短且个数较少时,使用ziplist,否则使用hashtable。
列表类型 list
单键多值
Redis 列表是简单的字符串列表,按照插入顺序排序。你可以添加一个元素到列表的头部(左边)或者尾部(右边)。
它的底层实际是个双向链表,对两端的操作性能很高,通过索引下标的操作中间的节点性能会较差。
lpush/rpush 插入
lpush/rpush
lpop/rpop 弹出
lpop/rpop
rpoplpush 从a右边弹出插入b左边
rpoplpush
lrange 获得值
lrange
按照索引下标获得元素(从左到右)
lrange mylist 0 -1 0左边第一个,-1右边第一个,(0-1表示获取所有)
lindex 【获得某下标的值】
lindex
llen 【长度】
llen
linsert 【指定位置插入】
linsert
lrem【删除从左边数n个值】
lrem
lset 【替换某下标值】
lset
数据结构
List的数据结构为快速链表quickList。
首先在列表元素较少的情况下会使用一块连续的内存存储,这个结构是ziplist,也即是压缩列表。它将所有的元素紧挨着一起存储,分配的是一块连续的内存。
当数据量比较多的时候才会改成quicklist。
因为普通的链表需要的附加指针空间太大,会比较浪费空间。比如这个列表里存的只是int类型的数据,结构上还需要两个额外的指针prev和next。
Redis将链表和ziplist结合起来组成了quicklist。也就是将多个ziplist使用双向指针串起来使用。这样既满足了快速的插入删除性能,又不会出现太大的空间冗余。
https://blog.csdn.net/zgaoq/article/details/89710600
集合类型 set : 不允许重复元素
Redis set对外提供的功能与list类似是一个列表的功能,特殊之处在于set是可以自动排重的,当你需要存储一个列表数据,又不希望出现重复数据时,set是一个很好的选择,并且set提供了判断某个成员是否在一个set集合内的重要接口,这个也是list所不能提供的。
Redis的Set是string类型的无序集合。它底层其实是一个value为null的hash表,所以添加,删除,查找的复杂度都是O(1)。
一个算法,随着数据的增加,执行时间的长短,如果是O(1),数据增加,查找数据的时间不变
sadd 【添加 新增】
sadd
将一个或多个 member 元素加入到集合key 中,已经存在的member 元素将被忽略 【没有key则新建 有则追加】
smembers 【取值】
smembers
sismember 【判断包含】
sismember
scard 【长度】
scard
srem 【删除一个或多个】
srem
spop 【随机弹出一个值并删除】
spop
srandmember 【随机弹出n个值 不删除】
srandmember
smove 【从a中弹出并删除值到b】
smove
sinter 【两集合交集】
sinter
sunion 【两集合并集】
sunion
sdiff【两集合差集 含a不含b】
sdiff
数据结构
Set数据结构是dict字典,字典是用哈希表实现的。
Java中HashSet的内部实现使用的是HashMap,只不过所有的value都指向同一个对象。Redis的set结构也是一样,它的内部也使用hash结构,所有的value都指向同一个内部值null。
有序集合类型 sortedset(zset)
Redis有序集合zset与普通集合set非常相似,是一个没有重复元素的字符串集合。
不同之处是有序集合的每个成员都关联了一个评分(score),这个评分(score)被用来按照从最低分到最高分的方式排序集合中的成员。集合的成员是唯一的,但是评分可以是重复了。
因为元素是有序的, 所以你也可以很快的根据评分(score)或者次序(position)来获取一个范围的元素。
访问有序集合的中间元素也是非常快的,因此你能够使用有序集合作为一个没有重复成员的智能列表。
zadd 【新建或增加一个或多个】
zadd
将一个或多个 member 元素及其score 值加入到有序集key 当中。
zrange 【取值】
zrange
- 返回有序集 key 中,下标在
之间的元素 - 带WITHSCORES,可以让分数一起和值返回到结果集。
zrangebyscore 【取评分在范围内的值 从小到大返回】
zrangebyscore key minmax [withscores] [limit offset count]
返回有序集 key 中,所有score 值介于min 和max 之间(包括等于min 或max )的成员。有序集成员按score 值递增(从小到大)次序排列。
zrevrangebyscore【取评分在范围内的值 从大到小返回】
zrevrangebyscore key maxmin [withscores] [limit offset count]
同上,改为从大到小排列。
zincrby 【给元素加分】
zincrby
zrem 【删除 一个或多个】
zrem
zcard 【返回集合大小】
zcard key
zcount 【返回指定分数区间内集合大小】
zcount
zrank 【返回某元素的排名】
zrank
数据结构
SortedSet(zset)是Redis提供的一个非常特别的数据结构,一方面它等价于Java的数据结构Map<String, Double>,可以给每一个元素value赋予一个权重score,另一方面它又类似于TreeSet,内部的元素会按照权重score进行排序,可以得到每个元素的名次,还可以通过score的范围来获取元素的列表。
zset底层使用了两个数据结构
- hash,hash的作用就是关联元素value和权重score,保障元素value的唯一性,可以通过元素value找到相应的score值。
- 跳跃表,跳跃表的目的在于给元素value排序,根据score的范围获取元素列表。
跳跃表
有序集合在生活中比较常见,例如根据成绩对学生排名,根据得分对玩家排名等。对于有序集合的底层实现,可以用数组、平衡树、链表等。数组不便元素的插入、删除;平衡树或红黑树虽然效率高但结构复杂;链表查询需要遍历所有效率低。Redis采用的是跳跃表。跳跃表效率堪比红黑树,实现远比红黑树简单。
实例
对比有序链表和跳跃表,从链表中查询出51
(1) 有序链表
要查找值为51的元素,需要从第一个元素开始依次查找、比较才能找到。共需要6次比较。
(2) 跳跃表
从第2层开始,1节点比51节点小,向后比较。
21节点比51节点小,继续向后比较,后面就是NULL了,所以从21节点向下到第1层
在第1层,41节点比51节点小,继续向后,61节点比51节点大,所以从41向下
在第0层,51节点为要查找的节点,节点被找到,共查找4次。
Bitmap
现代计算机用二进制(位)作为信息的基础单位, 1个字节等于8位,例如“abc”字符串是由3个字节组成,但实际在计算机存储时将其用二进制表示,“abc”分别对应的ASCII码分别是97、98、99,对应的二进制分别是01100001、 01100010和01100011,如下图
合理地使用操作位能够有效地提高内存使用率和开发效率。
Redis提供了Bitmaps这个“数据类型”可以实现对位的操作:
- Bitmaps本身不是一种数据类型,实际上它就是字符串(key-value),但是它可以对字符串的位进行操作。
- Bitmaps单独提供了一套命令,所以在Redis中使用Bitmaps和使用字符串的方法不太相同。可以把Bitmaps想象成一个以位为单位的数组,数组的每个单元只能存储0和1,数组的下标在Bitmaps中叫做偏移量。
setbit【设置】
setbit
- *offset:偏移量从0开始
实例-用户访问记录
每个独立用户是否访问过网站存放在Bitmaps中,将访问的用户记做1,没有访问的用户记做0,用偏移量作为用户的id。
设置键的第offset个位的值(从0算起),假设现在有20个用户,userid=1, 6, 11, 15, 19的用户对网站进行了访问,那么当前Bitmaps初始化结果如图
很多应用的用户id以一个指定数字(例如10000)开头,直接将用户id和Bitmaps的偏移量对应势必会造成一定的浪费,通常的做法是每次做setbit操作时将用户id减去这个指定数字。
在第一次初始化Bitmaps时,假如偏移量非常大,那么整个初始化过程执行会比较慢,可能会造成Redis的阻塞。
getbit【取值】
getbit
获取键的第offset位的值(从0开始算)
实例-用户访问记录
获取id=8的用户是否在2020-11-06这天访问过,返回0说明没有访问过:
注:因为100根本不存在,所以也是返回0
bitcount【统计1总数 可以指定区间】
统计字符串被设置为1的bit数。一般情况下,给定的整个字符串都会被进行计数。
通过指定额外的 start 或 end 参数,可以让计数只在特定的位上进行。start 和 end 参数的设置,都可以使用负数值 注意:start和end表示的是字节 即 8位
比如 -1 表示最后一个位,而 -2 表示倒数第二个位,start、end 是指bit组的字节的下标数,二者皆包含。
实例-用户访问统计
start和end代表起始和结束字节数,下面操作计算用户id在第1个字节到第3个字节之间的独立访问用户数,对应的用户id是11, 15, 19。
注意:redis的setbit设置或清除的是bit位置,而bitcount计算的是byte位置。
bitop 【复合操作 交并差补】
bitop and(or/not/xor)
bitop是一个复合操作,它可以做多个Bitmaps的and(交集)、or(并集)、 not(非)、 xor(异或)操作并将结果保存在destkey中。
实例-统计用户
2020-11-04 日访问网站的userid=1,2,5,9。setbit unique:users:20201104 1 1setbit unique:users:20201104 2 1setbit unique:users:20201104 5 1setbit unique:users:20201104 9 1 | 2020-11-03 日访问网站的userid=0,1,4,9。setbit unique:users:20201103 0 1setbit unique:users:20201103 1 1setbit unique:users:20201103 4 1setbit unique:users:20201103 9 1 |
---|---|
计算出两天都访问过网站的用户数量
使用and操作——统计两天都访问的用户
BITOP AND unique:users:and:20201104_03 unique:users:20201103 unique:users:20201104
计算用户活跃量
- 使用or操作
- 计算出任意一天都访问过网站的用户数量(例如月活跃就是类似这种),可以使用or求并集
Bitmaps与set对比 【了解】
假设网站有1亿用户,每天独立访问的用户有5千万,如果每天用集合类型和Bitmaps分别存储活跃用户可以得到表
set和Bitmaps存储一天活跃用户对比 | |||
---|---|---|---|
数据类型 | 每个用户id占用空间 | 需要存储的用户量 | 全部内存量 |
集合类型 | 64位 | 50000000 | 64位*50000000 = 400MB |
Bitmaps | 1位 | 100000000 | 1位*100000000 = 12.5MB |
很明显,这种情况下使用Bitmaps能节省很多的内存空间,尤其是随着时间推移节省的内存还是非常可观的
set和Bitmaps存储独立用户空间对比 | |||
---|---|---|---|
数据类型 | 一天 | 一个月 | 一年 |
集合类型 | 400MB | 12GB | 144GB |
Bitmaps | 12.5MB | 375MB | 4.5GB |
但Bitmaps并不是万金油,假如该网站每天的独立访问用户很少,例如只有10万(大量的僵尸用户),那么两者的对比如下表所示,很显然,这时候使用Bitmaps就不太合适了,因为基本上大部分位都是0。
set和Bitmaps存储一天活跃用户对比(独立用户比较少) | |||
---|---|---|---|
数据类型 | 每个userid占用空间 | 需要存储的用户量 | 全部内存量 |
集合类型 | 64位 | 100000 | 64位*100000 = 800KB |
Bitmaps | 1位 | 100000000 | 1位*100000000 = 12.5MB |
应用场景
-
统计用户周活跃
-
- 最后计算7天内登录过的活跃用户
-
查询用户在线状态
-
用户签到
HyperLogLog 【基数统计】
在工作当中,我们经常会遇到与统计相关的功能需求,比如统计网站PV(PageView页面访问量),可以使用Redis的incr、incrby轻松实现。
但像UV(UniqueVisitor,独立访客)、独立IP数、搜索记录数等需要去重和计数的问题如何解决?这种求集合中不重复元素个数的问题称为基数问题。
什么是基数?
比如数据集 {1, 3, 5, 7, 5, 7, 8},那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为5。基数估计就是在误差可接受的范围内,快速计算基数。
用于解决基数问题
解决基数问题有很多种方案:
- 数据存储在MySQL表中,使用distinct count计算不重复个数
- 使用Redis提供的hash、set、bitmaps等数据结构来处理
以上的方案结果精确,但随着数据不断增加,导致占用空间越来越大,对于非常大的数据集是不切实际的。
能否能够降低一定的精度来平衡存储空间?Redis推出了HyperLogLog
Redis HyperLogLog 是用来做基数统计的算法,HyperLogLog 的优点是,在输入元素的数量或者体积非常非常大时,计算基数所需的空间总是固定的、并且是很小的。
在 Redis 里面,每个 HyperLogLog 键只需要花费 12 KB 内存,就可以计算接近 2^64 个不同元素的基数。这和计算基数时,元素越多耗费内存就越多的集合形成鲜明对比。
但是,因为 HyperLogLog 只会根据输入元素来计算基数,而不会储存输入元素本身,所以 HyperLogLog 不能像集合那样,返回输入的各个元素。
只能统计数量,不能返回元素
pfadd【添加】
pfadd
pfcount【返回数量】
pfcount
- 比如用HLL存储每天的UV,计算一周的UV可以使用7天的UV合并计算即可
pfmerge【合并多个HLL】
pfmerge
- 比如每月活跃用户可以使用每天的活跃用户来合并计算可得
Geospatial 【地理信息】
Redis 3.2 中增加了对GEO类型的支持。GEO,Geographic,地理信息的缩写。该类型,就是元素的2维坐标,在地图上就是经纬度。redis基于该类型,提供了经纬度设置,查询,范围查询,距离查询,经纬度Hash等常见操作。
geoadd 【添加地理位置】
geoadd
- geoadd china:city 121.47 31.23 shanghai
- geoadd china:city 106.50 29.53 chongqing 114.05 22.52 shenzhen 116.38 39.90 beijing
- 两极无法直接添加,一般会下载城市数据,直接通过 Java 程序一次性导入。
- 有效的经度从 -180 度到 180 度。有效的纬度从 -85.05112878 度到 85.05112878 度。
- 当坐标位置超出指定范围时,该命令将会返回一个错误。
- 已经添加的数据,是无法再次往里面添加的。【去重,但是添加相同可以修改】
geopos 【取值】
geopos
- GEOPOS china:city shanghai
geodist【获取两位置之间的直线距离】
geodist
单位:
- m 表示单位为米[默认值]。
- km 表示单位为千米。
- mi 表示单位为英里。
- ft 表示单位为英尺。
如果用户没有显式地指定单位参数,那么 GEODIST 默认使用米作为单位
georadius【取出周围的元素】
georadius
- GEORADIUS china:city 100 30 1000 km