mysql系列一、mysql数据库规范
一、 表设计
- 库名、表名、字段名必须使用小写字母,“_”分割。
- 库名、表名、字段名必须不超过12个字符。
- 库名、表名、字段名见名知意,建议使用名词而不是动词。
- 表必须使用InnoDB存储引擎。 表必须使用“t_”开头命名。
- 表字符集选择UTF8。
- 存储精确浮点数必须使用DECIMAL替代FLOAT和DOUBLE。金额建议使用BIGINT。
- 建议使用UNSIGNED存储非负数值。
- 建议使用INT UNSIGNED存储IPV4。
- 整形定义中不添加长度,比如使用INT,而不是INT(4)。
- 使用短数据类型,比如取值范围为0-80时,使用TINYINT UNSIGNED。
- 不建议使用ENUM类型,使用TINYINT来代替。
- 尽可能不使用TEXT、BLOB类型。
- VARCHAR(N),N表示的是字符数不是字节数,比如VARCHAR(255),可以最大可存储255个汉字,需要根据实际的宽度来选择N。
- VARCHAR(N),N尽可能小,因为MySQL一个表中所有的VARCHAR字段最大长度是65535个字节,进行排序和创建临时表一类的内存操作时,会使用N的长度申请内存。 每行储存汉字数(65535-1-2)/3
减1是因为实际存储从第2个字节开始
减2则因为要在列表长度存储实际字符长度
除3是因为utf8编码限制 - 使用VARBINARY存储变长字符串。
- 存储年使用YEAR类型。 存储日期使用DATE类型。
- 存储时间(精确到秒)建议使用TIMESTAMP类型,因为TIMESTAMP使用4字节,DATETIME使用8个字节。
- 建议字段定义为NOT NULL。
- 将过大字段拆分到其他表中。
- 禁止在数据库中使用VARBINARY、BLOB存储图片、文件等。
- 表结构变更需要通知DBA审核
二、 索引
非唯一索引必须按照“idx_字段名称_字段名称[_字段名]”进行命名。
唯一索引必须按照“uk_字段名称_字段名称[_字段名]”进行命名。
索引名称必须使用小写。
索引中的字段数建议不超过5个。
单张表的索引数量控制在5个以内。
唯一键由3个以下字段组成,并且字段都是整形时,使用唯一键作为主键。
没有唯一键或者唯一键不符合5中的条件时,使用自增(或者通过发号器获取)id作为主键。 唯一键不和主键重复。
索引字段的顺序需要考虑字段值去重之后的个数,重复个数多的放在前面。
ORDER BY,GROUP BY,DISTINCT的字段需要添加在索引的后面。
使用EXPLAIN判断SQL语句是否合理使用索引,尽量避免extra列出现: Using File Sort,Using Temporary。
UPDATE、DELETE语句需要根据WHERE条件添加索引。
不建议使用%前缀模糊查询,例如LIKE “%weibo”。%会使索引会失效。
对长度过长的VARCHAR字段建立索引时,添加crc32或者MD5 Hash字段,对Hash字段建立索引。
合理创建联合索引(避免冗余),(a,b,c) 相当于 (a) 、(a,b) 、(a,b,c)。 左前缀原则。
合理利用覆盖索引。
SQL变更需要确认索引是否需要变更并通知DBA。
三、 SQL语句
使用prepared statement,可以提供性能并且避免SQL注入。
SQL语句中IN包含的值不应过多,不能超过1000个参数。
UPDATE、DELETE语句不使用LIMIT。
WHERE条件中必须使用合适的类型,避免MySQL进行隐式类型转化。
SELECT语句只获取需要的字段。
SELECT、INSERT语句必须显式的指明字段名称,不使用SELECT *,不使用INSERT INTO table()。
使用SELECT column_name1, column_name2 FROM table WHERE [condition]而不是SELECT column_name1 FROM table WHERE [condition]和SELECT column_name2 FROM table WHERE [condition]。
WHERE条件中的非等值条件(IN、BETWEEN、<、<=、>、>=)会导致后面的条件使用不了索引。
避免在SQL语句进行数学运算或者函数运算,容易将业务逻辑和DB耦合在一起。
INSERT语句使用batch提交(INSERT INTO table VALUES(),(),()……),values的个数不应过多。
避免使用存储过程、触发器、函数等,容易将业务逻辑和DB耦合在一起,并且MySQL的存储过程、触发器、函数中存在一定的bug。
避免使用JOIN。
使用合理的SQL语句减少与数据库的交互次数。
不使用ORDER BY RAND(),使用其他方法替换。
建议使用合理的分页方式以提高分页的效率。
统计表中记录数时使用COUNT(*),而不是COUNT(primary_key)和COUNT(1)。
禁止在从库上执行后台管理和统计类型功能的QUERY。
四、 散表
每张表数据量建议控制在5000w以下。
可以结合使用hash、range、lookup table进行散表。
散表如果使用md5(或者类似的hash算法)进行散表,表名后缀使用16进制,比如user_ff。
推荐使用CRC32求余(或者类似的算术算法)进行散表,表名后缀使用数字,数字必须从0开始并等宽,比如散100张表,后缀从00-99。
使用时间散表,表名后缀必须使用特定格式,比如按日散表user_20110209、按月散表user_201102。
五、 其他
批量导入、导出数据需要DBA进行审查,并在执行过程中观察服务。
批量更新数据,如update,delete 操作,需要DBA进行审查,并在执行过程中观察服务。
产品出现非数据库平台运维导致的问题和故障时,如前端被抓站,请及时通知DBA,便于维护服务稳定。
业务部门程序出现bug等影响数据库服务的问题,请及时通知DBA,便于维护服务稳定。
业务部门推广活动,请提前通知DBA进行服务和访问评估。
如果出现业务部门人为误操作导致数据丢失,需要恢复数据,请在第一时间通知DBA,并提供准确时间,误操作语句等重要线索。
FAQ
1-1.库名、表名、字段名必须使用小写字母,“_”分割。
- MySQL有配置参数lower_case_table_names,不可动态更改,linux系统默认为0,即库表名以实际情况存储,大小写敏感。
- 如果是1,以小写存储,大小写不敏感。如果是2,以实际情况存储,但以小写比较。
- 如果大小写混合用,可能存在abc,Abc,ABC等多个表共存,容易导致混乱。
- 字段名显示区分大小写,但实际使用不区分,即不可以建立两个名字一样但大小写不一样的字段。
- 为了统一规范, 库名、表名、字段名使用小写字母。
1-2.库名、表名、字段名必须不超过12个字符。
库名、表名、字段名支持最多64个字符,但为了统一规范、易于辨识以及减少传输量,必须不超过12字符。
1-3.库名、表名、字段名见名知意,建议使用名词而不是动词。
- 用户评论可用表名usercomment或者comment。
- 库表是一种客观存在的事物,一种对象,所以建议使用名词。
1-4.建议使用InnoDB存储引擎。
- 5.5以后的默认引擘,支持事务,行级锁,更好的恢复性,高并发下性能更好,对多核,大内存,ssd等硬件支持更好。
- 具体比较可见附件的官方白皮书。
1-5.存储精确浮点数必须使用DECIMAL替代FLOAT和DOUBLE。
- mysql中的数值类型(不包括整型): IEEE754浮点数: float (单精度) , double 或 real (双精度) 定点数: decimal 或 numeric 单精度浮点数的有效数字二进制是24位,按十进制来说,是8位;双精度浮点数的有效数字二进制是53位,按十进制来说,是16 位 一个实数的有效数字超过8位,用单精度浮点数来表示的话,就会产生误差!同样,如果一个实数的有效数字超过16位,用双精度浮点数来表示,也会产生误差
- IEEE754标准的计算机浮点数,在内部是用二进制表示的,但在将一个十进制数转换为二进制浮点数时,也会造成误差,原因是不是所有的数都能转换成有限长度的二进制数。 即一个二进制可以准确转换成十进制,但一个带小数的十进制不一定能够准确地用二进制来表示。
1-3.库名、表名、字段名见名知意,建议使用名词而不是动词。
- 用户评论可用表名usercomment或者comment。
- 库表是一种客观存在的事物,一种对象,所以建议使用名词。
实例:
drop table if exists t;
create table t(value float(,));
insert into t values(131072.67),(131072.68);
select value from t;
+———–+
| value |
+———–+
| 131072.67 |
| 131072.69 |
+———–+
1-6.建议使用UNSIGNED存储非负数值。
同样的字节数,存储的数值范围更大。如tinyint 有符号为 -128-127,无符号为0-255 1-7. 如何使用INT UNSIGNED存储ip? 使用INT UNSIGNED而不是char(15)来存储ipv4地址,通过MySQL函数inet_ntoa和inet_aton来进行转化。Ipv6地址目前没有转化函数,需要使用DECIMAL或者两个bigINT来存储。例如:
SELECT INET_ATON(‘209.207.224.40′);
SELECT INET_NTOA();
209.207.224.40
1-7. INT[M],M值代表什么含义
注意数值类型括号后面的数字只是表示宽度而跟存储范围没有关系,比如INT(3)默认显示3位,空格补齐,超出时正常显示,python、java客户端等不具备这个功能。
1-8.不建议使用ENUM、SET类型,使用TINYINT来代替。
a) ENUM,有三个问题:添加新的值要做DDL,默认值问题(将一个非法值插入ENUM(也就是说,允许的值列之外的字符串),将插入空字符串以作为特殊错误值),索引值问题(插入数字实际是插入索引对应的值) 实例:
drop table if exists t; create table t(sex enum(‘′,’′));
insert into t values();
insert into t values(‘′);
select * from t;
+——+
| sex |
+——+
| | ||
+——+
rows in set (0.00 sec)
1-9.尽可能不使用TEXT、BLOB类型
- a) 索引排序问题,只能使用max_sort_length的长度或者手工指定ORDER BY SUBSTRING(column, length)的长度来排序
- b) Memory引擘不支持text,blog类型,会在磁盘上生成临时表
- c) 可能浪费更多的空间
- d) 可能无法使用adaptive hash index e) 导致使用where没有索引的语句变慢
1-10. VARCHAR中会产生额外存储吗?
VARCHAR(M),如果M<256时会使用一个字节来存储长度,如果M>=256则使用两个字节来存储长度。
1-11.表字符集选择UTF8。
- a) 使用utf8字符集,如果是汉字,占3个字节,但ASCII码字符还是1个字节。
- b) 统一,不会有转换产生乱码风险
- c) 其他地区的用户(美国、印度、台湾)无需安装简体中文支持,就能正常看您的文字,并且不会出现乱码
- d) ISO-8859-1编码(latin1)使用了单字节内的所有空间,在支持ISO-8859-1的系统中传输和存储其他任何编码的字节流都不会被抛弃。
- e) 即把其他任何编码的字节流当作ISO-8859-1编码看待都没有问题,保存的是原封不动的字节流。
1-12.使用VARBINARY存储变长字符串。
二进制字节流,不存在编码问题
1-13. 为什么建议使用TIMESTAMP来存储时间而不是DATETIME?
DATETIME和TIMESTAMP都是精确到秒,优先选择TIMESTAMP,因为TIMESTAMP只有4个字节,而DATETIME8个字节。
同时TIMESTAMP具有自动赋值以及自动更新的特性。
如何使用TIMESTAMP的自动赋值属性?
- a) 将当前时间作为ts的默认值:ts TIMESTAMP DEFAULT CURRENT_TIMESTAMP。
- b) 当行更新时,更新ts的值:ts TIMESTAMP DEFAULT 0 ON UPDATE CURRENT_TIMESTAMP。
- c) 可以将1和2结合起来:ts TIMESTAMP DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP。
1-14.建议字段定义为NOT NULL。
- a)如果null字段被索引,需要额外的1字节
- b)使索引,索引统计,值的比较变得更复杂
- c)可用0,”代替
- d)如果是索引字段,一定要定义为not null
1-15.禁止在数据库中使用VARBINARY、BLOB存储图片、文件等。
采用分布式文件系统更高效
2-1. 为什么MySQL的性能依赖于索引?
MySQL的查询速度依赖良好的索引设计,因此索引对于高性能至关重要。合理的索引会加快查询速度(包括UPDATE和DELETE的速度,MySQL会将包含该行的page加载到内存中,然后进行UPDATE或者DELETE操作),不合理的索引会降低速度。
MySQL索引查找类似于新华字典的拼音和部首查找,当拼音和部首索引不存在时,只能通过一页一页的翻页来查找。当MySQL查询不能使用索引时,MySQL会进行全表扫描,会消耗大量的IO。
2-2. 为什么一张表中不能存在过多的索引?
InnoDB的secondary index使用b+tree来存储,因此在UPDATE、DELETE、INSERT的时候需要对b+tree进行调整,过多的索引会减慢更新的速度。
2-3. EXPLAIN语句
EXPLAIN 语句(在MySQL客户端中执行)可以获得MySQL如何执行SELECT语句的信息。通过对SELECT语句执行EXPLAIN,可以知晓MySQL执 行该SELECT语句时是否使用了索引、全表扫描、临时表、排序等信息。尽量避免MySQL进行全表扫描、使用临时表、排序等。详见官方文档。
2-4.不建议使用%前缀模糊查询,例如LIKE “%weibo”。
2-5. 如何对长度大于50的VARCHAR字段建立索引
下面的表增加一列url_crc32,然后对url_crc32建立索引,减少索引字段的长度,提高效率。
CREATE TABLE url( ……
url VARCHAR() NOT NULL DEFAULT ,
url_crc32 INT UNSIGNED NOT NULL DEFAULT ,
…… index idx_url(url_crc32) )
2-6. 什么是覆盖索引?
InnoDB 存储引擎中,secondary index(非主键索引)中没有直接存储行地址,存储主键值。如果用户需要查询secondary index中所不包含的数据列时,需要先通过secondary index查找到主键值,然后再通过主键查询到其他数据列,因此需要查询两次。 覆盖索引的概念就是查询可以通过在一个索引中完成,覆盖索引效率会比较高,主键查询是天然的覆盖索引。 合理的创建索引以及合理的使用查询语句,当使用到覆盖索引时可以获得性能提升。 比如SELECT email,uid FROM user_email WHERE uid=xx,如果uid不是主键,适当时候可以将索引添加为index(uid,email),以获得性能提升。
3-1.UPDATE、DELETE语句不使用LIMIT。
- a) 可能导致主从数据不一致
- b) 会记录到错误日志,导致日志占用大量空间
3-2. 为什么需要避免MySQL进行隐式类型转化?
因为MySQL进行隐式类型转化之后,可能会将索引字段类型转化成=号右边值的类型,导致使用不到索引,原因和避免在索引字段中使用函数是类似的。
3-3.为什么不建议使用SELECT *?
增加很多不必要的消耗(cpu、io、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前段也需要更新。
3-4. 如何减少与数据库的交互次数?
使用下面的语句来减少和db的交互次数: INSERT … ON DUPLICATE KEY UPDATE REPLACE INSERT IGNORE INSERT INTO values(),()如何结合使用多个纬度进行散表散库? 例如微博message,先按照crc32(message_id)将message散到16个库中,然后针对每个库中的表,一天生成一张新表。
3-5. 为什么不能使用ORDER BY rand()?
因为ORDER BY rand()会将数据从磁盘中读取,进行排序,会消耗大量的IO和CPU,可以在程序中获取一个rand值,然后通过在从数据库中获取对应的值。
3-6. MySQL中如何进行分页?
假如有类似下面分页语句: SELECT * FROM table ORDER BY TIME DESC LIMIT 10000,10;这种分页方式会导致大量的io,因为MySQL使用的是提前读取策略。
推荐分页方式:
SELECT * FROM table WHERE TIME<last_TIME ORDER BY TIME DESC LIMIT .
SELECT * FROM table inner JOIN(SELECT id FROM table ORDER BY TIME LIMIT ,) as t USING(id)
3-7.为什么避免使用复杂的SQL?
拒绝使用复杂的SQL,将大的SQL拆分成多条简单SQL分步执行。原因:简单的SQL容易使用到MySQL的query cache;减少锁表时间特别是MyISAM;可以使用多核cpu。
3-8. InnoDB存储引擎为什么避免使用COUNT(*)?
InnoDB表避免使用COUNT(*)操作,计数统计实时要求较强可以使用memcache或者redis,非实时统计可以使用单独统计表,定时更新。
mysql系列一、mysql数据库规范的更多相关文章
- MySQL系列:走进数据库,相关概念你都明白吗?
数据库,一个我们常常提到的名词,但是你有没有想过,它到底是什么意思呢,而我们常说的 MySQL.Oracle 等又到底指什么呢? 数据库 数据库(DataBase),简称 DB,是数据库是存储数据的集 ...
- Mysql系列五:数据库分库分表中间件mycat的安装和mycat配置详解
一.mycat的安装 环境准备:准备一台虚拟机192.168.152.128 1. 下载mycat cd /softwarewget http:-linux.tar.gz 2. 解压mycat tar ...
- Mysql系列四:数据库分库分表基础理论
一.数据处理分类 1. 海量数据处理,按照使用场景主要分为两种类型: 联机事务处理(OLTP) 面向交易的处理系统,其基本特征是原始数据可以立即传送到计算机中心进行处理,并在很短的时间内给出处理结果. ...
- Mysql系列二:Mysql 开发标准规范
原文链接:http://www.cnblogs.com/liulei-LL/p/7729983.html 一.表设计 1. 库名.表名.字段名使用小写字母,“_”分割. 2. 库名.表名.字段名不超过 ...
- MySQL系列(二)--MySQL存储引擎
影响数据库性能的因素: 1.硬件环境:CPU.内存.存盘IO.网卡流量等 2.存储引擎的选择 3.数据库参数配置(影响最大) 4.数据库结构设计和SQL语句 MySQL采用插件式存储引擎,可以自行选择 ...
- MySQL系列:MySQL的基本使用
数据库的基本操作 在MySQL数据库中,对于一个MySQL示例,是可以包含多个数据库的. 在连接MySQL后,我们可以通过 show databases; 来进行查看有那么数据库.这里已经存在一些库了 ...
- 【MySql系列】MySql踩坑系列
问题一:远程登录报错Host '192.168.181.201' is not allowed to connect to this MySQL server 解决: 问题二:MySql access ...
- Mysql系列八:Mycat和Sharding-jdbc的区别、Mycat分片join、Mycat分页中的坑、Mycat注解、Catlet使用
一.Mycat和Sharding-jdbc的区别 1)mycat是一个中间件的第三方应用,sharding-jdbc是一个jar包 2)使用mycat时不需要改代码,而使用sharding-jdbc时 ...
- Mysql系列九:使用zookeeper管理远程Mycat配置文件、Mycat监控、Mycat数据迁移(扩容)
一.使用zookeeper管理远程Mycat配置文件 环境准备: 虚拟机192.168.152.130: zookeeper,具体参考前面文章 搭建dubbo+zookeeper+dubboadmin ...
- Mysql系列七:分库分表技术难题之分布式全局唯一id解决方案
一.前言 在前面的文章Mysql系列四:数据库分库分表基础理论中,已经说过分库分表需要应对的技术难题有如下几个: 1. 分布式全局唯一id 2. 分片规则和策略 3. 跨分片技术问题 4. 跨分片事物 ...
随机推荐
- BZOJ 1778: [Usaco2010 Hol]Dotp 驱逐猪猡
1778: [Usaco2010 Hol]Dotp 驱逐猪猡 Time Limit: 10 Sec Memory Limit: 64 MBSubmit: 563 Solved: 216[Submi ...
- 【BZOJ3413】匹配(后缀自动机,线段树合并)
[BZOJ3413]匹配(后缀自动机,线段树合并) 题面 BZOJ 题解 很好的一道题目. 做一个转化,匹配的次数显然就是在可以匹配的区间中,每个前缀的出现次数之和. 首先是空前缀的出现次数,意味着你 ...
- [BZOJ5248] 2018九省联考 D1T1 一双木棋 | 博弈论 状压DP
题面 菲菲和牛牛在一块\(n\)行\(m\)列的棋盘上下棋,菲菲执黑棋先手,牛牛执白棋后手. 棋局开始时,棋盘上没有任何棋子,两人轮流在格子上落子,直到填满棋盘时结束. 落子的规则是:一个格子可以落子 ...
- jar的打包与共享
做成jar包的,有个弊处,打包apk时会暴露源码,当然也有解决方案,放在最后讲. 先来解释如何生成jar: 新建工程,将工程编译至无错,右键工程Export... 在弹出的提示框中选择Java文件夹下 ...
- 解决centos6.5不能识别NTFS格式的移动硬盘或U盘问题
0.说明 从windows8拷了一些东西到移动硬盘,然后转到新安装的centos6.5系统上,但是插上移动硬盘的时候发现不能识别,无法正常挂载移动硬盘.到网上一搜,发现原来centos系统默认不识别N ...
- A1071. Speech Patterns
People often have a preference among synonyms of the same word. For example, some may prefer "t ...
- 树莓派 3b 串口启用
网上搜到的方法都没用,不知道是不是系统版本的原因.以下方法是试出来的... uname -aLinux raspberrypi 4.14.79-v7+ #1159 SMP Sun Nov 4 17:5 ...
- k8s部署prometheus
https://www.kancloud.cn/huyipow/prometheus/527092 https://songjiayang.gitbooks.io/prometheus/content ...
- 超级牛皮的oracle的分析函数over(Partition by...) 及开窗函数
over(Partition by...) 一个超级牛皮的ORACLE特有函数. 天天都用ORACLE,用了快2年了.最近才接触到这个功能强大而灵活的函数.真实惭愧啊! oracle的分析函数over ...
- 20190417 Spring Security
参考资料 Spring-Security的4.2.12版本官方文档 Spring Security简介