Redis 底层数据结构-简单动态字符串（SDS）

1. 概述

• Redis没有直接使用C语言传统的字符串表示，而是自己构建了一种名为简单动态字符串（ simple dynamic string，SDS ）的抽象类型,并将SDS用作Redis的默认字符串表示。

• 如果客户端执行如下命令

redis> RPUSH fruits "apple""banana""cherry"
(integer) 3

• 那么Redis将在数据库中创建一个新的键值对,其中:

键值对的键是一个字符串对象，对象的底层实现是一个 保存了字符串"fruits"的SDS。

键值对的值是一个列表对象，列表对象包含了三个字符串对象，这三个字符串对象分别由三个SDS实现: 第一个SDS保存着字符串"apple"，第二个SDS保存着字符串"banana"，第三个SDS保存着字符串"cherry"。

• 除了用来保存数据库中的字符串值之外，SDS还被用作缓冲区（ buffer ) :

AOF模块中的AOF缓冲区，以及客户端状态中的输人缓冲区，都是由SDS实现的，在之后介绍AOF持久化和客户端状态的时候，我们会看到SDS在这两个模块中的应用。

2. SDS的定义

• SDS数据结构

• 对于图2-1解释如下

free属性的值为0，表示这个SDS没有分配任何未使用空间。

len属性的值为5，表示这个SDS保存了一个五字节长的字符串。

buf属性是一个char类型的数组，数组的 前五个字节分别保存了'R'、'e'、'd '、'i'、's'五个字符，而最后一个字节则保存了空字符'\0*'。

SDS遵循C字符串以空字符结尾的惯例， 保存空字符的1字节空间不计算在SDS的len属性里面，并且为空字符分配额外的1字节空间，以及添加空字符到字符串末尾等操作，都是由SDS函数自动完成的，所以这个空字符对于SDS的使用者来说是完全透明的。遵循空字符结尾这一惯例的好处是， SDS可以直接重用一部分C字符串函数库里面的函数。

3. 选择SDS而不是C字符串

3.1 获取字符串长度是常数复杂度

• 因为C字符串并不记录自身的长度信息，所以为了获取一个C字符串的长度，程序必须遍历整个字符串，对遇到的每个字符进行计数，直到遇到代表字符串结尾的空字符为止，这个操作的复杂度为O(N)。

• 和C字符串不同，因为SDS在len属性中记录了SDS本身的长度,所以获取一个SDS长度的复杂度仅为O(1)。

3.2 杜绝缓冲区溢出

3.2.1 C字符串的缓冲区溢出问题

strcat函数可以将src字符串中的内容拼接到dest字符串的末尾,因为C字符串不记录自身的长度，所以strcat假定用户在执行这个函数时，已经为dest分配了足够多的内存，可以容纳src字符串中的所有内容，而一旦这个假定不成立时，就会产生缓冲区溢出。

假设程序里有两个在内存中紧邻着的C字符串s1和s2，其中s1保存了字符串"Redis"，而s2则保存了字符串"MongoDB"，如图2-7所示。

如果一个程序员决定通过执行:strcat (s1, " cluster" ) ;将s1的内容修改为"Redis cluster"，但粗心的他却 忘了在执行strcat之前为s1分配足够的空间，那么在strcat函数执行之后，s1的数据将溢出到s2所在的空间中，导致s2保存的内容被意外地修改,如图2-8所示。

3.2.2 SDS杜绝缓冲区区溢出

当SDS API需要对SDS进行修改时，API会先检查SDS的空间是否满足修改所需的要求， 如果不满足的话，API会自动将SDS的空间扩展至执行修改所需的大小，然后才执行实际的修改操作，所以使用SDS既不需要手动修改SDS的空间大小，也不会出现前面所说的缓冲区溢出问题。

SDS的API里面也有一个用于执行拼接操作的 sdscat函数，它可以将一个C字符串拼接到给定SDS所保存的字符串的后面，但是在执行拼接操作之前，sdscat会先检查给定SDS的空间是否足够，如果不够的话，sdscat就会先扩展SDS的空间，然后才执行拼接操作。

其中SDS值s 如图2-9所示，那么sdscat将在执行拼接操作之前检查s的长度是否足够，在发现s目前的空间不足以拼接"cluster"之后，sdscat就会先扩展s的空间，然后才执行拼接"cluster"的操作，拼接操作完成之后的SDS 如图2-10所示。

图2-10所示的SDS， sdscat不仅对这个SDS进行了拼接操作，它还为SDS分配了13字节的未使用空间，并且拼接之后的字符串也正好是13字节长，这种现象既不是bug 也不是巧合，它和SDS的空间分配策略有关

3.3 减少修改字符串的内存重分配次数

3.3.1 内存重分配

• C字符串并不记录自身的长度，所以对于一个包含了N个字符的C字符串来说，这个C字符串的底层实现总是一个N+1个字符长的数组（额外的一个字符空间用于保存空字符)。因为C字符串的长度和底层数组的长度之间存在着这种关联性，所以每次增长或者缩短一个C字符串，程序都总要对保存这个C字符串的数组进行一次内存重分配操作:

• 内存重分配的隐患

如果程序执行的是增长字符串的操作，比如拼接操作（( append )，那么在执行这个操作之前， 程序需要先通过内存重分配来扩展底层数组的空间大小——如果忘了这一步就会产生缓冲区溢出。

如果程序执行的是缩短字符串的操作，比如截断操作( trim )，那么在执行这个操作之后， 程序需要通过内存重分配来释放字符串不再使用的那部分空间——如果忘了这一步就会产生内存泄漏。

• 内存重分配的缺点

因为内存重分配涉及复杂的算法，并且可能需要执行系统调用，所以它 通常是一个比较耗时的操作:

Redis作为数据库，经常被用于速度要求严苛、数据被频繁修改的场合，如果每次修改字符串的长度都需要执行一次内存重分配的话，那么光是执行内存重分配的时间就会占去修改字符串所用时间的一大部分， 如果这种修改频繁地发生的话，可能还会对性能造成影响。

3.3.2 SDS优化策略

• 为了避免C字符串的这种缺陷，SDS通过未使用空间解除了字符串长度和底层数组长度之间的关联:在SDS 中，buf数组的长度不一定就是字符数量加一，数组里面可以包含未使用的字节，而这些字节的数量就由SDS的free属性记录。通过未使用空间，SDS实现了空间预分配和惰性空间释放两种优化策略

• 优化策略-空间预分配

空间预分配用于优化SDS 的字符串增长操作:当SDS 的API对一个SDS进行修改,并且需要对SDS进行空间扩展的时候，程序不仅会为SDS分配修改所必须要的空间，还会为SDS 分配额外的未使用空间。其中，额外分配的未使用空间数量由以下公式决定

如果对SDS进行修改之后， SDS的长度（也即是len属性的值）将小于1MB,那么程序分配和len属性同样大小的未使用空间，这时SDS len属性的值将和free属性的值相同。举个例子，如果进行修改之后，SDS的len将变成13字节，那么程序也会分配13字节的未使用空间，SDS的buf数组的实际长度将变成 13+13+1=27字节（(额外的一字节用于保存空字符)。

如果对SDS进行修改之后， SDS的长度将大于等于1MB，那么程序会分配1MB的未使用空间。举个例子，如果进行修改之后，SDS的len 将变成30MB，那么程序会分配1MB的未使用空间，SDS的buf数组的实际长度将为 30 MB + 1MB + 1byte。

之后再次增长字符串长度时就无需进行内存重分配了，通过这种预分配策略，SDS将连续增N次字符串所需的内存重分配次数从必定N次降低为最多N次。

• 优化策略-惰性空间释放

惰性空间释放用于优化SDS的字符串缩短操作:当SDS的API需要缩短SDS保存的字符串时，程序并不立即使用内存重分配来回收缩短后多出来的字节，而是使用free属性将这些字节的数量记录起来，并等待将来使用。

3.4 二进制安全

• C字符串无法存储二进制数据

C字符串中的字符必须符合某种编码（比如ASCII )，并且除了字符串的末尾之外，字符串里面不能包含空字符，否则最先被程序读入的空字符将被误认为是字符串结尾，这些限制使得C字符串只能保存文本数据，而不能保存像图片、音频、视频、压缩文件这样的二进制数据。

举个例子，如果有一种使用空字符来分割多个单词的特殊数据格式，如图2-17所示，,那么这种格式就不能使用C字符串来保存，因为C字符串所用的函数 只会识别出其中的"Redis"，而忽略之后的"cluster"。

SDS可以存储二进制数据

因为SDS 使用len属性的值而不是空字符来判断字符串是否结束，所以使用SDS来保存之前提到的特殊数据格式没有任何问题

3.5 兼容部分C字符串函数

• 我们有一个保存文本数据的SDS值sds，那么我们就可以重用<string.h>/strcasecmp 函数，使用它来对比SDS保存的字符串和另一个C字符串:

strcasecmp(sds->buf,"hello world");

• 这样Redis就不用自己专门去写一个函数来对比 SDS值和C字符串值了。与此类似，我们还可以将一个保存文本数据的SDS作为strcat函数的第二个参数，将SDS保存的字符串追加到一个C字符串的后面:

strcat (c_string,sds->buf) ;

• 这样Redis就不用专门编写一个将SDS字符串追加到C字符串之后的函数了。通过遵循C字符串以空字符结尾的惯例，SDS可以在有需要时重用<string.h>函数库，从而避免了不必要的代码重复。

3.6 总结对比

• C字符串和SDS之间的区别如下表所示

3.7 SDS常用API

• SDS常用API如下表所示