首页 > 代码库 > sql
sql
阅读目录
- 一.概述
- 二.sql初探
- 三.总结
一.概述
书写sql是我们程序猿在开发中必不可少的技能,优秀的sql语句,执行起来吊炸天,性能杠杠的。差劲的sql,不仅使查询效率降低,维护起来也十分不便。一切都是为了性能,一切都是为了业务,你觉得你的sql技能如何?所有的伟大来自于点滴的积累,不积跬步无以至千里,让sql性能飞起来吧!
二.sql初探
1.常见sql写法注意点
(1)字符类型建议采用varchar/nvarchar数据类型
- char
char是定长的,也就是当你输入的字符小于你指定的数目时,char(8),你输入的字符小于8时,它会再后面补空值。当你输入的字符大于指定的数时,它会截取超出的字符。
nvarchar(n)
包含 n 个字符的可变长度 Unicode 字符数据。n 的值必须介于 1 与 4,000 之间。字节的存储大小是所输入字符个数的两倍。所输入的数据字符长度可以为零。
varchar[(n)]
长度为 n 个字节的可变长度且非 Unicode 的字符数据。n 必须是一个介于 1 和 8,000 之间的数值。存储大小为输入数据的字节的实际长度,而不是 n 个字节。所输入的数据字符长度可以为零。
[1]—CHAR。CHAR存储定长数据很方便,CHAR字段上的索引效率级高,比如定义char(10),那么不论你存储的数据是否达到了10个字节,都要占去10个字节的空间。
[2]—VARCHAR。存储变长数据,但存储效率没有CHAR高。如果一个字段可能的值是不固定长度的,我们只知道它不可能超过10个字符,把它定义为 VARCHAR(10)是最合算的。VARCHAR类型的实际长度是它的值的实际长度+1。为什么“+1”呢?这一个字节用于保存实际使用了多大的长度。 从空间上考虑,用varchar合适;从效率上考虑,用char合适,关键是根据实际情况找到权衡点。
[3]—TEXT。text存储可变长度的非Unicode数据,最大长度为2^31-1(2,147,483,647)个字符。
[4]—NCHAR、NVARCHAR、NTEXT。这三种从名字上看比前面三种多了个“N”。它表示存储的是Unicode数据类型的字符。我们知道字符中,英文字符只需要一个字节存储就足够了,但汉字众多,需要两个字节存储,英文与汉字同时存在时容易造成混乱,Unicode字符集就是为了解决字符集这种不兼容的问题而产生的,它所有的字符都用两个字节表示,即英文字符也是用两个字节表示。nchar、nvarchar的长度是在1到4000之间。和char、varchar比较起来,nchar、nvarchar则最多存储4000个字符,不论是英文还是汉字;而char、varchar最多能存储8000个英文,4000个汉字。可以看出使用nchar、nvarchar数据类型时不用担心输入的字符是英文还是汉字,较为方便,但在存储英文时数量上有些损失。
所以一般来说,如果含有中文字符,用nchar/nvarchar,如果纯英文和数字,用char/varchar。
举例说明:
两字段分别有字段值:我和coffee
那么varchar字段占2×2+6=10个字节的存储空间,而nvarchar字段占8×2=16个字节的存储空间。
如字段值只是英文可选择varchar,而字段值存在较多的双字节(中文、韩文等)字符时用nvarchar
(2)金额货币建议采用money数据类型 (一般常用,最大四位小数)
(3)科学计数建议采用numeric数据类型-- (建议巨额资金交易用numeric)
(4)自增长标识建议采用bigint数据类型 (数据量一大,用int类型就装不下,那以后改造就麻烦了)
(5)时间类型建议采用为datetime数据类型
(6)禁止使用text、ntext、image老的数据类型(已过时)
(7)禁止使用xml数据类型、varchar(max)、nvarchar(max)
(8)禁止在数据库做复杂运算 (业务处理逻辑最好在代码层实现,不要让所有的代码逻辑存在于sql中,不便于后期的问题定位)
(9)禁止使用SELECT * (按需所取,查找自己所需要的列)
(10)禁止在索引列上使用函数或计算
例如:
我们查询注册时间在2015-11-11的店铺账号,找出它们进行活动奖励,我们如果不加注意,很可能写成这样:
select * from T_Account where Convert(varchar(10,Regtime,121)=‘2015-11-11‘
这样写的话,我们就无法命中索引字段Regtime,如果T_Account的数据量超大的时候,数据库查询分析器走表扫描,查询效率就降低了;要实现上面的查询结果,其实我们可以换一种写法:
select * from T_Account where Regtime>=‘2015-11-11 00:00:00‘ and Regtime<‘2015-11-12 00:00:00‘
(11)禁止使用游标
由于游标在处理大数据量的时候,占有的内存较大,效率低。可能造成其他的数据库查询堵塞的现象,除非是当你使用while循环,子查询,临时表,表变量,自建函数或其他方式都无法处理某种操作的时候,再考虑使用游标。
举例说明一下在实际运用中的一个游标处理:
--定义店铺ID declare @accId int set @accId=218424 --1.创建临时表并插入数据 select gsid,gid into #gidlist from T_Goods_Sku where accid=@accId and gid in (select gid from T_GoodsInfo where accid=@accId and isService=0 and IsExtend=1) select gsId,gaVName into #gsidlist from T_Goods_Relation where gsid in (select gsid from T_Goods_Sku where accid=@accId and gid in (select gid from T_GoodsInfo where accid=@accId and isService=0 and IsExtend=1)) order by gsId select a.gid gid,a.gsId gsId,b.gaVName gaVName into #tempgid from #gidlist a left join #gsidlist b on a.gsId=b.gsId drop table #gidlist drop table #gsidlist --2.开始事务 BEGIN TRANSACTION --3.定义变量,累积事务执行过程中的错误 DECLARE @error INT SET @error = 0 --4.声明游标 DECLARE goodsCursor CURSOR SCROLL FOR SELECT gid ,gsId ,gaVName FROM #tempgid --5.打开游标 OPEN goodsCursor --6.声明游标提取数据所要存放的变量 DECLARE @gid INT ,@gsId INT ,@gaVName NVARCHAR(400) ,@gUnionKey NVARCHAR(400) --7.定位游标到哪一行 FETCH First FROM goodsCursor INTO @gid ,@gsId ,@gaVName --8.提取成功,对数据操作,进行下一条数据的提取操作 WHILE @@fetch_status = 0 BEGIN SET @gUnionKey = ‘‘ SELECT @gUnionKey = gUnionKey from T_GoodsInfo where accid=@accId and isService=0 and IsExtend=1 and gid=@gid SELECT @gUnionKey=@gUnionKey+‘|‘+@gaVName PRINT ‘-----start-------‘ PRINT @gid PRINT @gsId PRINT @gaVName PRINT @gUnionKey --更新gUnionKey update T_GoodsInfo set gUnionKey=@gUnionKey where accid=@accId and isService=0 and IsExtend=1 and gid=@gid PRINT ‘-----end--------‘ --移动游标 FETCH NEXT FROM goodsCursor INTO @gid ,@gsId ,@gaVName END --9.判读事务错误数,提交或回滚事务 IF @error <> 0 --有误 BEGIN PRINT ‘回滚事务‘ ROLLBACK TRANSACTION END ELSE BEGIN PRINT ‘提交事务‘ COMMIT TRANSACTION END --10.关闭并删除游标,删除临时表 CLOSE goodsCursor DEALLOCATE goodsCursor drop table #tempgid
(12)禁止使用触发器
触发器在开发角度来讲,不知道具体什么时候执行,对于业务来讲不跟代码逻辑一样是显示的呈现,所以导致后期的维护比较困难,所以要处理触发器完成的服务,最好通过服务或者中间件去完成。
例如:
在微信收单的过程中,我们销售结账完成以后,需要通过短信向用户手机推送消费消息,这时候用触发器可能就是在结账以后,触发sql触发器,写入一条消息记录到短信表记录,走消息队列,将短信发送出去。
反之,我们采用中间件,就可以将结账以后的记录,发送给消息中间件EasyNetQ,中间件将记录异步写入记录,这样有问题的话,只用确认中间件消息接受和发送的问题。
(13)禁止在查询里指定索引
在sql里面指定索引索引是这样定义的:
SELECT 字段名表 FROM 表名表 WITH (INDEX(索引名)) WHERE 查询条件
如果在搜索的时候,指定了索引搜索,就会导致新建的索引无法生效,假如删除了指定的索引,会导致程序崩溃,所以建议不采用指定索引进行搜索。
(14)变量/参数/关联字段类型必须与字段类型一致
所谓的变量、参数、关联字段类型一致指的是,数据库中是什么类型,那么我们在成程序中传入参数的过程中,建议保持一直,避免在查询的时候,进行类型转换,在大批量数据处理过程中,可能影响性能。
图1类型:(程序中类型)
图二类型:(数据中类型)
图1、图2中字段类型保持一致。
(15)参数化查询
所谓的“参数化SQL”就是在应用程序设置SqlCommand.CommandText的时候使用参数(如:param1),然后通过SqlCommand.Parameters.Add来设置这些参数的值。这种做法会把你准备好的命令通过sp_executesql系统存储过程来执行,使用参数化,最直接的好处就是防止SQL注入。也就是说使用这种方法,主要是为了保证数据库的安全。禁止拼接sql语句。
另外参数化查询有利于数据库查询计划的复用,比如我们查询注册日期大于2015-12-12和注册日期大于2016-12-12不同的店铺记录,我们可能这样写:
select * from T_Account where Regtime>‘2015-12-12‘ select * from T_Account where Regtime>‘2016-12-12‘
上面两条语句,可以完成我们上面的查询结果集,但是sql查询计划会进行两次分析,导致查询计划不能够复用,如果用参数化查询,则可以复用查询计划:
declare @Regtime datetime; set @Regtime=‘2015-12-12‘; select * from T_Account where Regtime>@Regtime set @Regtime=‘2016-12-12‘; select * from T_Account where Regtime>@Regtime
只需要改变参数的值就可以了。
(16)限制JOIN个数
join表的次数不要过多,写代码的人,看到过多的join表记录都会懵逼,何况数据库了?会导致数据库执行错误的执行计划,影响性能。
(17)关闭影响的行计数信息返回
在sql语句中,可以设置Set NoAccount on,关闭查询受影响的行数,从而减少流量。
(18)除非必要SELECT语句都必须加上NOLOCK
这个是我们经常在开发中忽略的,加上nolock以后,在查询的时候,不锁表。不要只要自己爽,别人也要查询数据的,占这茅坑不拉shi是不好哦。这也是我们内部工程师的必修课提高的。
(19)使用UNION ALL替换UNION
使用union 的时候,必须满足两个表具体相同数目的列。
union all 包含全部的记录,union 包含去除重复后的结果集
Employees_China:
| E_ID| E_Name|
| :-------- | --------:|
| 01| Zhang, Hua|
| 02| Wang, Wei|
| 03| Carter, Thomas|
| 04| Yang, Ming|
Employees_USA:
E_ID E_Name 01 Adams, John 02 Bush, George 03 Carter, Thomas 04 Gates,Bill
使用 UNION 命令 列出所有在中国和美国的不同的雇员名: SELECT E_Name FROM Employees_China UNION SELECT E_Name FROM Employees_USA
结果集:
> Zhang, Hua Wang, Wei Carter, Thomas Yang, Ming Adams, John Bush, George Gates, Bill
使用 UNION ALL 命令 列出在中国和美国的所有的雇员: SELECT E_Name FROM Employees_China UNION ALL SELECT E_Name FROM Employees_USA
结果集:
> Zhang, Hua Wang, Wei Carter, Thomas Yang, Ming Adams, John Bush, George Carter, Thomas Gates, Bill
(20)查询大量数据使用分页或TOP
通过分页批量获取数据,避免全表扫描。
在.Net中,我们可以这样写来分页获取数据,通过分页获取图片数据,进行地址替换操作。
/// <summary> /// 批量替换图片地址 /// </summary> /// <param name="index"></param> /// <param name="size"></param> public static void BatchReplaceImgAddress(int index, int size) { const string strSql = "select Id,AccId,ImgAddress from (select ROW_NUMBER() OVER ( ORDER BY id ) as rownumber,id as Id,accid as AccId,ge_Details as ImgAddress " + "from t_GoodsExtend (nolock) ) as T where rownumber BETWEEN (@index-1)*@size+1 AND @size*@index"; var imgAddressesItems = DapperHelper.Query<ImgAddressModel>(strSql, new { index = index, size = size }).ToList(); if (!imgAddressesItems.Any()) { return; } try { Console.WriteLine("正在处理{0}~{1}条数据:", (index - 1)*size + 1, ((index - 1)*size) + size); foreach (var item in imgAddressesItems) { var imgItem = item; if (string.IsNullOrWhiteSpace(imgItem.ImgAddress)) continue; var imgAddress = imgItem.ImgAddress; const string targetReplaceStr = "baidu.com/umupload"; const string targetNewStr = "baidu.com/mobileweb/detail2"; if (imgAddress.Contains(targetReplaceStr)) { var newImgAddress = imgAddress.Replace(targetReplaceStr, targetNewStr); const string updateImgStrSql = "update t_GoodsExtend set ge_Details = @ge_Details where id= @id"; var updateResult = DapperHelper.Execute(updateImgStrSql, new { id = imgItem.Id, ge_Details = newImgAddress, }); if (updateResult > 0) { var message = string.Format("当前的店铺Id为:{0},处理记录的Id为:{1}", imgItem.AccId,imgItem.Id); Console.WriteLine(message); SimpleLog.Instance.WriteLogForFile("批量替换图片地址日志", message); } } } } catch (Exception ex) { SimpleLog.Instance.WriteLogForFile("批量替换图片地址异常", ex); } BatchReplaceImgAddress(index + 1, size); }
(21)NOT EXISTS替代NOT IN
1、in和exists in是把外表和内表作hash连接,而exists是对外表作loop循环,每次loop循环再对内表进行查询,一直以来认为exists比in效率高的说法是不准确的。如果查询的两个表大小相当,那么用in和exists差别不大;如果两个表中一个较小一个较大,则子查询表大的用exists,子查询表小的用in; 例如:表A(小表),表B(大表) select * from A where cc in(select cc from B) -->效率低,用到了A表上cc列的索引; select * from A where exists(select cc from B where cc=A.cc) -->效率高,用到了B表上cc列的索引。 相反的: select * from B where cc in(select cc from A) -->效率高,用到了B表上cc列的索引 select * from B where exists(select cc from A where cc=B.cc) -->效率低,用到了A表上cc列的索引。 2、not in 和not exists not in 逻辑上不完全等同于not exists,如果你误用了not in,小心你的程序存在致命的BUG,请看下面的例子: create table #t1(c1 int,c2 int); create table #t2(c1 int,c2 int); insert into #t1 values(1,2); insert into #t1 values(1,3); insert into #t2 values(1,2); insert into #t2 values(1,null); select * from #t1 where c2 not in(select c2 from #t2); -->执行结果:无 select * from #t1 where not exists(select c2 from #t2 where #t2.c2=#t1.c2) -->执行结果:1 3 正如所看到的,not in出现了不期望的结果集,存在逻辑错误。如果看一下上述两个select 语句的执行计划,也会不同,后者使用了hash_aj,所以,请尽量不要使用not in(它会调用子查询),而尽量使用not exists(它会调用关联子查询)。如果子查询中返回的任意一条记录含有空值,则查询将不返回任何记录。如果子查询字段有非空限制,这时可以使用not in,并且可以通过提示让它用hasg_aj或merge_aj连接。 如果查询语句使用了not in,那么对内外表都进行全表扫描,没有用到索引;而not exists的子查询依然能用到表上的索引。所以无论哪个表大,用not exists都比not in 要快。 3、in 与 = 的区别 select name from student where name in(‘zhang‘,‘wang‘,‘zhao‘); 与 select name from student where name=‘zhang‘ or name=‘wang‘ or name=‘zhao‘ 的结果是相同的。
(22)尽量避免使用OR运算符
举例说明我们在查找当当前是行业版和高级版店铺的账号时,我们可能会这样写:
select id from T_Account where id in( select accountId from T_Bussiness where aotjob=3 or aotjob=5 )
where后面使用了aotjob=3 or aotjob=5,这样会导致数据库查询无法命中索引,会走全表扫描。所以在这里我们使用in则会比较好:
select id from T_Account where id in( select accountId from T_Bussiness where aotjob in (3,5) )
(23)like的查询的索引
1.[Col1] like "abc%" --index seek 这个就用到了索引查询 2.[Col1] like "%abc%" --index scan 而这个就并未用到索引查询 3.[Col1] like "%abc" --index scan 这个也并未用到索引查询
我想从上而三个例子中,大家应该明白,最好不要在LIKE条件前面用模糊匹配,否则就用不到索引查询。
2.合理使用NULL属性
新加的表,所有字段禁止NULL
(新表为什么不允许NULL?
允许NULL值,会增加应用程序的复杂性。你必须得增加特定的逻辑代码,以防止出现各种意外的bug
三值逻辑,所有等号(“=”)的查询都必须增加isnull的判断。
Null=Null、Null!=Null、not(Null=Null)、not(Null!=Null) 都为unknown,不为true
举例来说明一下:
如果表里面的数据如图所示:
你想来找查找除了name等于aa的所有数据,然后你就不经意间用了
SELECT * FROM USERS WHERE NAME<>’aa’
结果发现与预期不一样,事实上它只查出了name=bb而没有查找出name=NULL的数据记录
那我们如何查找除了name等于aa的所有数据,只能用ISNULL函数了
SELECT * FROM USERS WHERE ISNULL(NAME,1)<>’aa’
但是大家可能不知道ISNULL会引起很严重的性能瓶颈 ,所以很多时候最好是在应用层面限制用户的输入,确保用户输入有效的数据再进行查询。
旧表新加字段,需要允许为NULL(避免全表数据更新 ,长期持锁导致阻塞)(这个主要是考虑之前表的改造问题)
3.理解执行计划
所谓的执行计划,就是数据库根据sql语句生成的一个执行顺序。先执行什么,再执行什么。类似于我们的工作计划,先做什么,后做什么,从而使我们的效率达到最高。所以合理的执行计划,会让数据库干正确的事,提高效率。
在我们使用sql查询的时候,通常是根据sql内部的查询计划来进行的,也就是说不同的sql语句生成的查询计划不同,所以要优化sql,我们写出的sql要让数据库能够生成正确执行计划,才能提高性能;反之写出的sql语句,不容易被数据库翻译成合理的执行计划,就容易导致性能瓶颈。
例如:
select id from T_Account
select id From T_Account
这两句查询语句我们可以看出只是from关键字大小的区别,但是查询分析器会认为是不同的语句,进行两次解析。所以针对同一个查询语句,在不同的地方我们应该保持一致,大小写一致,查找字段一致。在数据库中针对查询,数据库会缓存查询计划,如果查询的时候,存在已经解析的查询计划,就会按照存在的查询计划走,这样就节省了解析生成查询计划的时间,提高了查询性能。
三.总结
关于查询计划,准备细致的学习一下,明白不同查询计划具体的含义。从而可以进行对应的优化。上面讲到不对的地方,希望大家指出,一起学习,一起进步!
sql