首页 > 代码库 > SQLite剖析之数据类型
SQLite剖析之数据类型
许多SQL数据库引擎(除SQLite之外的各种SQL数据库引擎)使用静态、严格的数据类型。对于静态类型,一个值的数据类型由它的容器,即存储这个值的列来决定。SQLite则使用更加通用的动态类型系统。在SQLite中,一个值的数据类型被关联到这个值本身,而不是它的容器。SQLite的动态类型系统向后兼容一般静态类型系统的数据库引擎。在某种意义上,工作在静态类型数据库上的SQL声明也同样能工作在SQLite上。但是SQLite动态类型还允许做一些在传统严格类型的数据库中不能做的事情。
一、存储类别及数据类型
在SQLite数据库中存储(或被数据库引擎操作)的每个值,都属于下面存储类别之一:
* NULL: 值为一个NULL空值。
* INTEGER: 值被标识为整数,依据值的大小可以依次被存储为1,2,3,4,6或8个字节。
* REAL: 所有值都是浮点数值,被存储为8字节的IEEE浮点数。
* TEXT: 值为文本字符串,使用数据库编码存储,如UTF-8、UTF-16BE或UTF-16-LE。
* BLOB: 值是数据的二进制对象,如何输入就如何存储,不改变格式。
注意一个存储类别比一个数据类型更通用。例如INTEGER存储类别就包括6个不同长度的整型数据类型,这在磁盘上是不同的。不过只要INTEGER值从磁盘上读到内存中进行处理,它们会转换成最通用的数据类型(8字节的整型),因此在大多数情况下,对“存储类别”和“数据类型”并不做严格区分,这两个术语可交换使用。
在SQLite3数据库中,除了INTEGER PRIMARY KEY这一列,任何列都可以存储任何类型的数据。SQL语句中的所有值,不管是嵌入到SQL语句文本中的字面值还是绑定到预先编译好的SQL语句中的参数值,都有一个隐式存储类别。在下述情况中,数据库引擎将在执行查询时,可以让存储的值在数值类型(INTEGER和REAL)和文本类型之间转换。
(1)Boolean数据类型
SQLite没有单独的布尔数据类型。相应的,布尔值被存储为整数0(false)和1(true)。
(2)日期和时间数据类型
SQLite没有单独的日期/时间数据类型。相应的,内建的日期和时间函数能够把日期和时间存储为文本、实数或整数值:
* 文本值为ISO8601字符串("YYYY-MM-DD HH:MM:SS.SSS")。
* 实数值为儒略日数,即从公元前4714年11月24日格林威治正午时刻开始的天数,按公历来算。
* 整数值为Unix时间,即从1970-01-01 00:00:00 UTC开始的秒数。
应用程序可以选择其中的一种格式来存储日期和时间,也可以通过内建的日期和时间函数在这些格式之间转换。
二、列的亲和类型
在SQLite 3中,值被定义作什么类型只和值自身有关,和列没有关系,和变量也没有关系(这有时被称作弱类型)。所有其它的我们所使用的数据库引擎都受静态类型系统的限制,其值的类型是由其所属列的属性决定的,而与值本身无关。为了最大限度的增加SQLite数据库和其他数据库的兼容性,SQLite支持列的“亲和类型”概念。列的亲和类型是指为该列所存储的数据建议一个类型,要注意这个类型是建议而不是强迫。任何列依然是可以存储任何类型的数据的。只是针对某些列,如果有建议类型的话,数据库将优先按所建议的类型存储。这个被优先使用的数据类型称为“亲和类型”。
SQLite3的每个列可以使用以下亲和类型中的一种:TEXT, NUMERIC, INTEGER, REAL, NONE。
带有文本亲和类型的列可以使用NULL, TEXT或BLOB类型来存储所有数据。如果数值数据被插入到这样的列中,会在存储之前转换成文本类型。
带有数值亲和类型的列可以使用所有五种类型来存储值。当文本数据被插入到数据值型的列中时,如果转换是无损的且可逆的,则文本会被转换成INTEGER或REAL(按优先顺序)。为了在TEXT和REAL之间转换,SQLite尝试无损且可逆地转换文本的开头15个有效十进制数字。如果不能成功转换的话,值则只能按文本类型存储了,而不会被转换成NULL类型或BLOB类型来存储。带有小数点或指数记法的字符串可能看起来像一个浮点字面值,但只要值能表示为一个整数,数值亲和类型将把它转换成一个整数。因此,字符串‘3.0e+5‘会被转换成整数300000,而不是浮点数300000.0。
使用整数亲和类型的列,其行为与数值亲和类型的列一样。但也有些区别,比如没有小数部分的实数字面值被插入整数亲和类型的列时,它将被转换成整数并按整数类型存储。
使用实数亲和类型的列,其行为与数值亲和类型的列一样。有一个区别就是整数会强制用浮点数来表示。(作为一个内部优化,没有小数部分的小浮点数会当作整数写入磁盘,以占用更少的空间。当读出这个值时会自动转换回浮点数。这个优化在SQL级别完全不可见,并且只有通过检测数据库文件的原始比特位才能发现)。
使用NONE亲和类型的列不会优先选择使用哪个类型,在数据被存储前也不会强迫转换它的类型。而是直接按它声明时的原始类型来存储。
(1)列亲和类型的确定
列的亲和类型由列的声明类型(在写SQL语句时指定)来确定,根据以下规则顺序来判断:
1)如果声明类型包含字符中"INT",则被定义为整数亲和类型。
2)如果列的声明类型包含字符串"CHAR", "CLOB"或"TEXT"中的某一个,则列具有文本亲和类型。注意VARCHAR类型包含字符串"CHAR",因此被定义为文本亲和类型。
3)如果列的声明类型包含字符串"BLOB",或者没有为列声明数据类型,则列具有NONE亲和类型。
4)如果列的声明类型包含字符串"REAL", "FLOA"或"DOUB"中的某一个,则列具有REAL亲和类型。
5)否则,列的亲和类型为NUMERIC。
注意确定列亲和类型的规则顺序非常重要。声明类型为"CHARINT"的列匹配规则1和2,但按顺序优先使用规则1,因此列被定义为整数亲和类型。
(2)亲和类型名称实例
按照上面5条规则,下面例子显示传统SQL实现中的各种通用数据类型(CREATE TABLE语句或CAST表达式中的数据类型)怎样被转化成SQLite中的亲和类型。这里只是所有传统数据类型中的一部分,它们能够被SQLite接受。注意跟在类型名后面的括号中的数字参数在SQLite中被忽略。SQLite不在字符串、BLOB对象或数值上强加任何长度限制(除了大的全局SQLITE_MAX_LENGTH限制)。
* INT, INTEGER, TINYINT, SMALLINT, MEDIUMINT, BIGINT, UNSIGNED BIG INT, INT2, INT8: 定义为INTEGER亲和类型(按规则1)。
* CHARACTER(20), VARCHAR(255), VARYING CHARACTER(255), NCHAR(255), NATIVE CHARACTER(70), NVARCHAR(100), TEXT, CLOB: 定义为TEXT亲和类型(按规则2)。
* BLOB, 不声明类型: 定义为NONE亲和类型(按规则3)。
* REAL, DOUBLE, DOUBLE PRECISION, FLOAT: 定义为REAL亲和类型(按规则4)。
* NUMERIC, DECIMAL(10,5), BOOLEAN, DATE, DATETIME: 定义为NUMERIC亲和类型(按规则5)。
注意声明类型"FLOATING POINT"将得到INTEGER亲和类型,而不是REAL亲和类型,因为"POINT"中有子串"INT"。声明类型"STRING"为NUMERIC亲和类型,而不是TEXT。
(3)列亲和类型转化实例
SQL示范:当值被插入到表中时,SQLite是怎样使用亲和类型来做类型转换。
CREATE TABLE t1( t TEXT, -- text affinity by rule 2 nu NUMERIC, -- numeric affinity by rule 5 i INTEGER, -- integer affinity by rule 1 r REAL, -- real affinity by rule 4 no BLOB -- no affinity by rule 3 ); -- Values stored as TEXT, INTEGER, INTEGER, REAL, TEXT. INSERT INTO t1 VALUES(‘500.0‘, ‘500.0‘, ‘500.0‘, ‘500.0‘, ‘500.0‘); SELECT typeof(t), typeof(nu), typeof(i), typeof(r), typeof(no) FROM t1; text|integer|integer|real|text -- Values stored as TEXT, INTEGER, INTEGER, REAL, REAL. DELETE FROM t1; INSERT INTO t1 VALUES(500.0, 500.0, 500.0, 500.0, 500.0); SELECT typeof(t), typeof(nu), typeof(i), typeof(r), typeof(no) FROM t1; text|integer|integer|real|real -- Values stored as TEXT, INTEGER, INTEGER, REAL, INTEGER. DELETE FROM t1; INSERT INTO t1 VALUES(500, 500, 500, 500, 500); SELECT typeof(t), typeof(nu), typeof(i), typeof(r), typeof(no) FROM t1; text|integer|integer|real|integer -- BLOBs are always stored as BLOBs regardless of column affinity. DELETE FROM t1; INSERT INTO t1 VALUES(x‘0500‘, x‘0500‘, x‘0500‘, x‘0500‘, x‘0500‘); SELECT typeof(t), typeof(nu), typeof(i), typeof(r), typeof(no) FROM t1; blob|blob|blob|blob|blob -- NULLs are also unaffected by affinity DELETE FROM t1; INSERT INTO t1 VALUES(NULL,NULL,NULL,NULL,NULL); SELECT typeof(t), typeof(nu), typeof(i), typeof(r), typeof(no) FROM t1; null|null|null|null|null
三、比较表达式
SQLite版本3有常用的SQL比较运算符集,包括"=", "==", "<", "<=", ">", ">=", "!=", "<>", "IN", "NOT IN", "BETWEEN", "IS"和"IS NOT"。
比较的结果取决于操作数的存储类型,根据以下规则来判断:
* NULL类型的值被认为小于任何值(包括另外一个值也是NULL类型时)。
* INTEGER或REAL类型的值小于任何TEXT或BLOB类型的值。当一个INTEGER或REAL与另一个INTEGER或REAL比较时,则按照实际数值来比较。
* TEXT值小于BLOB值。当两个文本值进行比较时,指定的比较序列(默认规则为使用memcmp())会被用来确定比较结果。
* 当两个BLOB值比较时,由memcmp()确定比较结果。
在开始比较前,SQLite尝试着把值在数值类型(整数和实数)和文本之间相互转换。转换是否要进行取决于操作数的亲和类型。操作数亲和类型根据以下规则确定:
* 若表达式只是列值的简单引用,则亲和类型与列的亲和类型一样。注意如果X和Y.Z是列名,则+X和+Y.Z是用来确定亲和类型的表达式。
* "CAST(expr AS type)"形式的表达式,其亲和类型与声明类型为"type"的列相同。
* 否则,表达式为NONE亲和类型。
“应用亲和类型”表示转换一个操作数为特定的存储类型,当且仅当转换是无损且可逆的。应用于比较运算符的操作数的亲和类型根据下面规则来确定:
* 如果一个操作数是INTEGER, REAL或NUMERIC亲和类型,另一个操作数是TEXT或NONE亲和类型,则NUMERIC亲和类型被应用于另外一个操作数。
* 如果一个操作数是TEXT亲和类型,另一个操作数是NONE亲和类型,则TEXT亲和类型被应用于另一个操作数。
* 否则,没有亲和类型需要转换,两个操作数按照原有亲和类型进行比较。
表达式"a BETWEEN b AND c"被当作两个分开的二进制表达式"a >= b AND a <= c",即使两次比较中‘a‘应用了不同的亲和类型也是如此。表达式"x IN (SELECT y ...)"实际执行的是"x=y"。例如如果‘b‘是一个列值,‘a‘是一个表达式,那么在开始比较前,‘b‘的亲和性就被转换为‘a‘的亲和性了。"a IN(x,y,z,...)"形式的表达式等价于"a = +x OR a = +y OR a = +z OR ..."。也就是说,IN运算符右边的值(这里的"x", "y"和"z")的类型被认为没有亲和性,即使它们是列值或CAST表达式。
SQL示范:比较运算。
CREATE TABLE t1( a TEXT, -- text affinity b NUMERIC, -- numeric affinity c BLOB, -- no affinity d -- no affinity ); -- Values will be stored as TEXT, INTEGER, TEXT, and INTEGER respectively INSERT INTO t1 VALUES(‘500‘, ‘500‘, ‘500‘, 500); SELECT typeof(a), typeof(b), typeof(c), typeof(d) FROM t1; text|integer|text|integer -- Because column "a" has text affinity, numeric values on the -- right-hand side of the comparisons are converted to text before -- the comparison occurs. SELECT a < 40, a < 60, a < 600 FROM t1; 0|1|1 -- Text affinity is applied to the right-hand operands but since -- they are already TEXT this is a no-op; no conversions occur. SELECT a < ‘40‘, a < ‘60‘, a < ‘600‘ FROM t1; 0|1|1 -- Column "b" has numeric affinity and so numeric affinity is applied -- to the operands on the right. Since the operands are already numeric, -- the application of affinity is a no-op; no conversions occur. All -- values are compared numerically. SELECT b < 40, b < 60, b < 600 FROM t1; 0|0|1 -- Numeric affinity is applied to operands on the right, converting them -- from text to integers. Then a numeric comparison occurs. SELECT b < ‘40‘, b < ‘60‘, b < ‘600‘ FROM t1; 0|0|1 -- No affinity conversions occur. Right-hand side values all have -- storage class INTEGER which are always less than the TEXT values -- on the left. SELECT c < 40, c < 60, c < 600 FROM t1; 0|0|0 -- No affinity conversions occur. Values are compared as TEXT. SELECT c < ‘40‘, c < ‘60‘, c < ‘600‘ FROM t1; 0|1|1 -- No affinity conversions occur. Right-hand side values all have -- storage class INTEGER which compare numerically with the INTEGER -- values on the left. SELECT d < 40, d < 60, d < 600 FROM t1; 0|0|1 -- No affinity conversions occur. INTEGER values on the left are -- always less than TEXT values on the right. SELECT d < ‘40‘, d < ‘60‘, d < ‘600‘ FROM t1; 1|1|1
如果交换比较方向,例子中的所有结果还是一样的。例如表达式"a<40"交换成"40>a"。
四、运算符
所有数学运算符(+, -, *, /, %, <<, >>, &和|)在执行计算前会把两边的操作数转换成NUMERIC存储类型,即使转换有损或不可逆也会进行。若运算符上有NULL操作数,则运算产生NULL结果。若操作数不是NULL,也不是任何数值,则转换成0或0.0。
五、排序、分组和复合式SELECT
当查询结果被一个ORDER BY子句排序时,NULL类型的值排在最前面,然后是INTERGER和REAL值,按数值大小排序。接着时文本值,按指定的比较序列排序。最后是BLOB值,按memcmp()比较来排序。在排序时没有存储类型的转换。
当用GROUP BY子句对值进行分组时,不同存储类型的值是分开来的,但对INTERGER和REAL值,如果它们数值上相等,则被认为是相等的。对GROUP BY子句的结果,不会应用任何亲和类型。
复合式SELECT操作符,包括UNION, INTERSECT和EXCEPT在值之间执行隐式的比较,在比较时不使用亲和类型转换,只是按照它们原有类型进行比较。
六、比较序列
当SQLite比较两个字符串时,它使用一个比较序列(即比较函数)来确定哪个字符串更大,或者相等。SQLite有3个内建的比较函数:BINARY, NOCASE和RTRIM。
* BINARY: 使用memcmp()来比较字符串,即进行二进制比较,不管什么文本编码。
* NOCASE: 与BINARY相同,但在比较前26个大写的ASCII字母会被折叠成对应小写字母。注意只有ASCII字母才会做大小写折叠。由于UTF字符表比较庞大,因此SQLite并不尝试做全部UTF字符的大小写折叠。
* RTRIM: 与BINARY相同,但是忽略掉尾部的空格。
每个表的每列都有一个关联的比较函数。如果没有显式地自定义比较函数,则默认使用BINARY。列定义的COLLATE子句用来为列定义可选的比较函数。
要确定二进制比较运算符(=, <, >, <=, >=, !=, IS和IS NOT)使用哪个比较函数,可根据以下规则来判断:
1)如果有一个操作数通过尾部的COLLATE声明符分配了显式的比较函数,则用这个显式的比较函数来做比较,并且在左边操作数上优先使用这个比较函数。
2)如果有一个操作数是列,则在左边操作数上优先使用这个列的比较函数。注意这时带有"+"的列名仍然被认为是一个列名。
3)否则,使用默认的BINARY比较函数来进行比较。
如果不是操作数,而是操作数的某个子表达式通过尾部的COLLATE声明符分配了显式的比较函数,则这个操作数也被认为有一个显式的比较函数。因此,单个COLLATE声明符可用在一个比较表达式任何地方,由它定义的比较函数用于字符串比较,无论这个比较表达式使用了表的哪个列。如果一个表达式中有多个带COLLATE声明的子表达式,则使用最左边的显式比较函数,无论COLLATE声明符嵌套得有多深,也无论表达式有多少嵌套的括号。
表达式"x BETWEEN y and z"在逻辑上与"x >= y AND x <= z"等价,因此使用两个独立比较的比较函数。表达式"x IN (SELECT y ...)"在确定比较函数时与表达式"x = y"的方法相同。 "x IN (y, z, ...)"形式的表达式,其比较函数是x的比较函数。
SELECT语句中的ORDER BY子句也可以使用COLLATE声明符来分配一个比较函数,这个比较函数将被用来进行排序。否则,如果ORDER BY子句排序的表达式是一个列,则使用列的比较函数来确定排序顺序。如果表达式不是一个列且没有COLLATE子句,则使用BINARY比较函数。
SQL示范:用于确定文本比较结果的比较函数,这可用在各种各样的SQL语句中(注意文本比较并不是必需的,如果是数值、BLOB或NULL值,则无需比较函数)。
CREATE TABLE t1( x INTEGER PRIMARY KEY, a, /* collating sequence BINARY */ b COLLATE BINARY, /* collating sequence BINARY */ c COLLATE RTRIM, /* collating sequence RTRIM */ d COLLATE NOCASE /* collating sequence NOCASE */ ); /* x a b c d */ INSERT INTO t1 VALUES(1,‘abc‘,‘abc‘, ‘abc ‘,‘abc‘); INSERT INTO t1 VALUES(2,‘abc‘,‘abc‘, ‘abc‘, ‘ABC‘); INSERT INTO t1 VALUES(3,‘abc‘,‘abc‘, ‘abc ‘, ‘Abc‘); INSERT INTO t1 VALUES(4,‘abc‘,‘abc ‘,‘ABC‘, ‘abc‘); /* Text comparison a=b is performed using the BINARY collating sequence. */ SELECT x FROM t1 WHERE a = b ORDER BY x; --result 1 2 3 /* Text comparison a=b is performed using the RTRIM collating sequence. */ SELECT x FROM t1 WHERE a = b COLLATE RTRIM ORDER BY x; --result 1 2 3 4 /* Text comparison d=a is performed using the NOCASE collating sequence. */ SELECT x FROM t1 WHERE d = a ORDER BY x; --result 1 2 3 4 /* Text comparison a=d is performed using the BINARY collating sequence. */ SELECT x FROM t1 WHERE a = d ORDER BY x; --result 1 4 /* Text comparison ‘abc‘=c is performed using the RTRIM collating sequence. */ SELECT x FROM t1 WHERE ‘abc‘ = c ORDER BY x; --result 1 2 3 /* Text comparison c=‘abc‘ is performed using the RTRIM collating sequence. */ SELECT x FROM t1 WHERE c = ‘abc‘ ORDER BY x; --result 1 2 3 /* Grouping is performed using the NOCASE collating sequence (Values ** ‘abc‘, ‘ABC‘, and ‘Abc‘ are placed in the same group). */ SELECT count(*) FROM t1 GROUP BY d ORDER BY 1; --result 4 /* Grouping is performed using the BINARY collating sequence. ‘abc‘ and ** ‘ABC‘ and ‘Abc‘ form different groups */ SELECT count(*) FROM t1 GROUP BY (d || ‘‘) ORDER BY 1; --result 1 1 2 /* Sorting or column c is performed using the RTRIM collating sequence. */ SELECT x FROM t1 ORDER BY c, x; --result 4 1 2 3 /* Sorting of (c||‘‘) is performed using the BINARY collating sequence. */ SELECT x FROM t1 ORDER BY (c||‘‘), x; --result 4 2 3 1 /* Sorting of column c is performed using the NOCASE collating sequence. */ SELECT x FROM t1 ORDER BY c COLLATE NOCASE, x; --result 2 4 3 1
SQLite剖析之数据类型