DDL(Data Definition Language)数据库定义语言
CREATE,ALTER,DROP,TRUNCATE,COMMENT,RENAME
DML(Data Manipulation Language)数据操纵语言
SELECT,INSERT,UPDATE,DELETE,MERGE,CALL,EXPLAIN PLAN,LOCK TABLE
左连接, 右连接, 内连接, 全连接
INNER JOIN(内连接)
内连接是一种一一映射关系, 就是两张表都有的才能显示出来
- SELECT A.PK AS A_PK,A.Value AS A_Value,B.PK AS B_PK,B.Value AS B_Value
- FROM table_a A
- INNER JOIN table_b B
- ON A.PK = B.PK;
LEFT JOIN (左连接)
左连接是左边表的所有数据都有显示出来, 右边的表数据只显示共同有的那部分, 没有对应的部分只能补空显示, 所谓的左边表其实就是指放在 left join 的左边的表
- SELECT A.PK AS A_PK,A.Value AS A_Value,B.PK AS B_PK,B.Value AS B_Value
- FROM table_a A
- LEFT JOIN table_b B
- ON A.PK = B.PK;
RIGHT JOIN(右连接)
右连接正好是和左连接相反的, 这里的右边也是相对 right join 来说的, 在这个右边的表就是右表
- SELECT A.PK AS A_PK,A.Value AS A_Value,B.PK AS B_PK,B.Value AS B_Value
- FROM table_a A
- RIGHT JOIN table_b B
- ON A.PK = B.PK;
OUTER JOIN(外连接, 全连接)
查询出左表和右表所有数据, 但是去除两表的重复数据
因为 MySQL 不支持全连接, 只能用以下代码实现效果, 含义是左连接 + 右连接 + 去重 = 全连接:
- SELECT A.PK AS A_PK,A.Value AS A_Value,B.PK AS B_PK,B.Value AS B_Value
- FROM table_a A
- LEFT JOIN table_b B
- ON A.PK = B.PK
- UNION
- SELECT A.PK AS A_PK,A.Value AS A_Value,B.PK AS B_PK,B.Value AS B_Value
- FROM table_a A
- RIGHT JOIN table_b B
- ON A.PK = B.PK;
交叉连接
没有 WHERE 子句的交叉联接将产生联接所涉及的表的笛卡尔积. 第一个表的行数乘以第二个表的行数等于笛卡尔积结果集的大小. 用法: A CROSS JOIN B (不要 ON)
参考
数据库左连接, 右连接, 内连接, 全连接笔记
范式
关系数据库中的关系是要满足一定要求的, 满足不同程度要求的为不同范式.
第一范式(1NF): 符合 1NF 的关系中的每个属性都不可再分. 是指数据库表的每一列都是不可分割的基本数据项, 同一列中不能有多个值, 即实体中的某个属性不能有多个值或者不能有重复的属性.
第二范式(2NF):2NF 在 1NF 的基础之上, 消除了非主属性对于码的部分函数依赖.
第三范式(3NF):3NF 在 2NF 的基础之上, 消除了非主属性对于码的传递函数依赖.
详细内容参考: 知乎 -- 解释一下关系数据库的第一第二第三范式?_刘慰 https://www.zhihu.com/question/24696366
数据库索引
索引是一种数据结构 . 数据库索引, 是数据库管理系统中一个排序的数据结构, 以协助快速查询, 更新数据库表中数据. 索引的实现通常使用 B 树及其变种 B + 树.
B 树和 B + 树的区别
在 B 树中, 你可以将键和值存放在内部节点和叶子节点; 但在 B + 树中, 内部节点都是键, 没有值, 叶子节点同时存放键和值.
B + 树的叶子节点有一条链相连, 而 B + 树的叶子节点各自独立.
使用 B 树的好处
B 树可以在内部节点同时存储键和值, 因此, 把频繁访问的数据放在靠近根节点的地方将会大大提高热点数据的查询效率. 这种特性使得 B 树在特定数据重复多次查询的场景中更加高效.
使用 B + 树的好处
由于 B + 树的内部节点只存放键, 不存放值, 因此, 一次读取, 可以在内存页中获取更多的键, 有利于更快地缩小查找范围. B + 树的叶节点由一条链相连, 因此, 当需要进行一次全数据遍历的时候, B + 树只需要使用 O(logN)时间找到最小的一个节点, 然后通过链进行 O(N)的顺序遍历即可. 而 B 树则需要对树的每一层进行遍历, 这会需要更多的内存置换次数, 因此也就需要花费更多的时间
数据库为什么使用 B + 树而不是 B 树
B 树只适合随机检索, 而 B + 树同时支持随机检索和顺序检索;
B + 树空间利用率更高, 可减少 I/O 次数, 磁盘读写代价更低. 一般来说, 索引本身也很大, 不可能全部存储在内存中, 因此索引往往以索引文件的形式存储的磁盘上. 这样的话, 索引查找过程中就要产生磁盘 I/O 消耗. B + 树的内部结点并没有指向关键字具体信息的指针, 只是作为索引使用, 其内部结点比 B 树小, 盘块能容纳的结点中关键字数量更多, 一次性读入内存中可以查找的关键字也就越多, 相对的, IO 读写次数也就降低了. 而 IO 读写次数是影响索引检索效率的最大因素;
B + 树的查询效率更加稳定. B 树搜索有可能会在非叶子结点结束, 越靠近根节点的记录查找时间越短, 只要找到关键字即可确定记录的存在, 其性能等价于在关键字全集内做一次二分查找. 而在 B + 树中, 顺序检索比较明显, 随机检索时, 任何关键字的查找都必须走一条从根节点到叶节点的路, 所有关键字的查找路径长度相同, 导致每一个关键字的查询效率相当.
B - 树在提高了磁盘 IO 性能的同时并没有解决元素遍历的效率低下的问题. B + 树的叶子节点使用指针顺序连接在一起, 只要遍历叶子节点就可以实现整棵树的遍历. 而且在数据库中基于范围的查询是非常频繁的, 而 B 树不支持这样的操作.
增删文件 (节点) 时, 效率更高. 因为 B + 树的叶子节点包含所有关键字, 并以有序的链表结构存储, 这样可很好提高增删效率.
索引类型
主键索引: 数据列不允许重复, 不允许为 NULL. 一个表只能有一个主键.
唯一索引: 数据列不允许重复, 允许为 NULL 值, 一个表允许多个列创建唯一索引.
普通索引: 基本的索引类型, 没有唯一性的限制, 允许为 NULL 值.
聚集索引 (Clustered): 表中各行的物理顺序与键值的逻辑(索引) 顺序相同, 每个表只能有一个
非聚集索引(Non-clustered): 非聚集索引指定表的逻辑顺序. 数据存储在一个位置, 索引存储在另一个位置, 索引中包含指向数据存储位置的指针. 可以有多个, 小于 249 个
索引的缺点
时间方面: 创建索引和维护索引要耗费时间, 具体地, 当对表中的数据进行增加, 删除和修改的时候, 索引也要动态的维护, 这样就降低了数据的维护速度;
空间方面: 索引需要占物理空间.
创建索引时需要注意什么?
非空字段: 应该指定列为 NOT NULL, 除非你想存储 NULL. 在 MySQL 中, 含有空值的列很难进行查询优化, 因为它们使得索引, 索引的统计信息以及比较运算更加复杂. 你应该用 0, 一个特殊的值或者一个空串代替空值;
取值离散大的字段:(变量各个取值之间的差异程度)的列放到联合索引的前面, 可以通过 count()函数查看字段的差异值, 返回值越大说明字段的唯一值越多字段的离散程度高;
索引字段越小越好: 数据库的数据存储以页为单位一页存储的数据越多一次 IO 操作获取的数据越大效率越高.
最左匹配原则
最左前缀匹配原则, 非常重要的原则, MySQL 会一直向右匹配直到遇到范围查询 (>,<,between,like) 就停止匹配, 比如 a = 1 and b = 2 and c> 3 and d = 4 如果建立 (a,b,c,d) 顺序的索引, d 是用不到索引的, 如果建立 (a,b,d,c) 的索引则都可以用到, a,b,d 的顺序可以任意调整.
= 和 in 可以乱序, 比如 a = 1 and b = 2 and c = 3 建立 (a,b,c) 索引可以任意顺序, MySQL 的查询优化器会帮你优化成索引可以识别的形式
数据库事务
事务是一个不可分割的数据库操作序列, 也是数据库并发控制的基本单位, 其执行的结果必须使数据库从一种一致性状态变到另一种一致性状态.
四大特性(简称 ACID)
数据库如果支持事务的操作, 那么就具备以下四个特性:
原子性(Atomicity) 事务是数据库的逻辑工作单位, 事务中包括的诸操作要么全做, 要么全不做.
一致性(Consistency) 事务执行的结果必须是使数据库从一个一致性状态变到另一个一致性状态. 一致性与原子性是密切相关的.
隔离性(Isolation) 一个事务的执行不能被其他事务干扰.
持续性 / 永久性(Durability) 一个事务一旦提交, 它对数据库中数据的改变就应该是永久性的.
事务的隔离性
数据库事务的隔离级别有 4 个, 由低到高依次为 Read uncommitted,Read committed,Repeatable read,Serializable, 这四个级别可以逐个解决脏读, 不可重复读, 幻读这几类问题.
脏读 | 不可重复读 | 幻读 | |
---|---|---|---|
Read uncommitted | √ | √ | √ |
Read committed--Sql Server , Oracle | × | √ | √ |
Repeatable read--MySQL | × | √ | |
Serializable | × | × | × |
脏读(Drity Read): 某个事务已更新一份数据, 另一个事务在此时读取了同一份数据, 由于某些原因, 前一个 RollBack 了操作, 则后一个事务所读取的数据就会是不正确的.
不可重复读(Non-repeatable read): 在一个事务的两次查询之中数据不一致, 这可能是两次查询过程中间插入了一个事务更新的原有的数据.
幻读 (Phantom Read): 在一个事务的两次查询中数据笔数不一致, 例如有一个事务查询了几列(Row) 数据, 而另一个事务却在此时插入了新的几列数据, 先前的事务在接下来的查询中, 就会发现有几列数据是它先前所没有的.
隔离级别
Read uncommitted 读未提交
公司发工资了, 领导把 5000 元打到 singo 的账号上, 但是该事务并未提交, 而 singo 正好去查看账户, 发现工资已经到账, 是 5000 元整, 非常高兴. 可是不幸的是, 领导发现发给 singo 的工资金额不对, 是 2000 元, 于是迅速回滚了事务, 修改金额后, 将事务提交, 最后 singo 实际的工资只有 2000 元, singo 空欢喜一场.
出现上述情况, 即我们所说的脏读, 两个并发的事务,"事务 A: 领导给 singo 发工资","事务 B:singo 查询工资账户", 事务 B 读取了事务 A 尚未提交的数据.
当隔离级别设置为 Read uncommitted 时, 就可能出现脏读, 如何避免脏读, 请看下一个隔离级别.
Read committed 读提交
singo 拿着工资卡去消费, 系统读取到卡里确实有 2000 元, 而此时她的老婆也正好在网上转账, 把 singo 工资卡的 2000 元转到另一账户, 并在 singo 之前提交了事务, 当 singo 扣款时, 系统检查到 singo 的工资卡已经没有钱, 扣款失败, singo 十分纳闷, 明明卡里有钱, 为何......
出现上述情况, 即我们所说的不可重复读, 两个并发的事务,"事务 A:singo 消费","事务 B:singo 的老婆网上转账", 事务 A 事先读取了数据, 事务 B 紧接了更新了数据, 并提交了事务, 而事务 A 再次读取该数据时, 数据已经发生了改变.
当隔离级别设置为 Read committed 时, 避免了脏读, 但是可能会造成不可重复读.
大多数数据库的默认级别就是 Read committed, 比如 Sql Server , Oracle. 如何解决不可重复读这一问题, 请看下一个隔离级别.
Repeatable read 重复读
当隔离级别设置为 Repeatable read 时, 可以避免不可重复读. 当 singo 拿着工资卡去消费时, 一旦系统开始读取工资卡信息(即事务开始),singo 的老婆就不可能对该记录进行修改, 也就是 singo 的老婆不能在此时转账.
虽然 Repeatable read 避免了不可重复读, 但还有可能出现幻读.
singo 的老婆工作在银行部门, 她时常通过银行内部系统查看 singo 的信用卡消费记录. 有一天, 她正在查询到 singo 当月信用卡的总消费金额 (select sum(amount) from transaction where month = 本月) 为 80 元, 而 singo 此时正好在外面胡吃海塞后在收银台买单, 消费 1000 元, 即新增了一条 1000 元的消费记录(insert transaction ... ), 并提交了事务, 随后 singo 的老婆将 singo 当月信用卡消费的明细打印到 A4 纸上, 却发现消费总额为 1080 元, singo 的老婆很诧异, 以为出现了幻觉, 幻读就这样产生了.
注: MySQL 的默认隔离级别就是 Repeatable read.
Serializable 序列化
Serializable 是最高的事务隔离级别, 同时代价也花费最高, 性能很低, 一般很少使用, 在该级别下, 事务顺序执行, 不仅可以避免脏读, 不可重复读, 还避免了幻像读.
总结
Read Uncommitted(读取未提交内容)
在该隔离级别, 所有事务都可以看到其他未提交事务的执行结果. 本隔离级别很少用于实际应用, 因为它的性能也不比其他级别好多少. 读取未提交的数据, 也被称之为脏读(Dirty Read).
Read Committed(读取提交内容)
这是大多数数据库系统的默认隔离级别(但不是 MySQL 默认的). 它满足了隔离的简单定义: 一个事务只能看见已经提交事务所做的改变. 这种隔离级别 也支持所谓的不可重复读(Nonrepeatable Read), 因为同一事务的其他实例在该实例处理其间可能会有新的 commit, 所以同一 select 可能返回不同结果.
Repeatable Read(可重读)
这是 MySQL 的默认事务隔离级别, 它确保同一事务的多个实例在并发读取数据时, 会看到同样的数据行. 不过理论上, 这会导致另一个棘手的问题: 幻读 (Phantom Read). 简单的说, 幻读指当用户读取某一范围的数据行时, 另一个事务又在该范围内插入了新行, 当用户再读取该范围的数据行时, 会发现有新的 "幻影" 行. InnoDB 和 Falcon 存储引擎通过多版本并发控制 (MVCC,Multiversion Concurrency Control) 机制解决了该问题.
Serializable(可串行化)
这是最高的隔离级别, 它通过强制事务排序, 使之不可能相互冲突, 从而解决幻读问题. 简言之, 它是在每个读的数据行上加上共享锁. 在这个级别, 可能导致大量的超时现象和锁竞争.
隔离级别与锁的关系
在 Read Uncommitted 级别下, 读操作不加 S 锁; 在 Read Committed 级别下, 读操作需要加 S 锁, 但是在语句执行完以后释放 S 锁; 在 Repeatable Read 级别下, 读操作需要加 S 锁, 但是在事务提交之前并不释放 S 锁, 也就是必须等待事务执行完毕以后才释放 S 锁. 在 Serialize 级别下, 会在 Repeatable Read 级别的基础上, 添加一个范围锁. 保证一个事务内的两次查询结果完全一样, 而不会出现第一次查询结果是第二次查询结果的子集.
参考
MySQL 事务隔离级别详解 http://xm-king.iteye.com/blog/770721
数据库隔离级别
存储过程
存储过程是一个预编译的 SQL 语句, 优点是允许模块化的设计, 就是说只需要创建一次, 以后在该程序中就可以调用多次. 如果某次操作需要执行多次 SQL, 使用存储过程比单纯 SQL 语句执行要快.
优点
1)存储过程是预编译过的, 执行效率高. 2)存储过程的代码直接存放于数据库中, 通过存储过程名直接调用, 减少网络通讯. 3)安全性搞, 执行存储过程需要有一定权限的用户. 4)存储过程可以重复使用, 减少数据库开发人员的工作量.
缺点
1)调试麻烦, 但是用 PL/SQL Developer 调试很方便! 弥补这个缺点. 2)移植问题, 数据库端代码当然是与数据库相关的. 但是如果是做工程型项目, 基本不存在移植问题. 3)重新编译问题, 因为后端代码是运行前编译的, 如果带有引用关系的对象发生改变时, 受影响的存储过程, 包将需要重新编译 (不过也可以设置成运行时刻自动编译). 4) 如果在一个程序系统中大量的使用存储过程, 到程序交付使用的时候随着用户需求的增加会导致数据结构的变化, 接着就是系统的相关问题了, 最后如果用户想维护该系统可以说是很难很难, 而且代价是空前的, 维护起来更麻烦.
视图
视图是从一个或几个基本表 (或视图) 导出的表. 它与基本表不同, 是一个虚表. 数据库中只存放视图的定义, 而不存放视图对应的数据, 这些数据仍存放在原来的基本表中. 所以一旦基本表中的数据发生变化, 从视图中查询出的数据也就随之改变了. 从这个意义上讲, 视图就像一个窗口, 透过它可以看到数据库中自己感兴趣的数据及其变化. 视图一经定义, 就可以和基本表一样被查询, 被删除. 也可以在一个视图上再定义新的视图, 但对视图的更新 (增, 删, 改) 操作则有一定的限制.
视图的优点
查询简单化. 视图能简化用户的操作
数据安全性. 视图使用户能以多种角度看待同一数据, 能够对机密数据提供安全保护
逻辑数据独立性. 视图对重构数据库提供了一定程度的逻辑独立性
视图的缺点
性能. 数据库必须把视图的查询转化成对基本表的查询, 如果这个视图是由一个复杂的多表查询所定义, 那么, 即使是视图的一个简单查询, 数据库也把它变成一个复杂的结合体, 需要花费一定的时间.
修改限制. 当用户试图修改视图的某些行时, 数据库必须把它转化为对基本表的某些行的修改. 事实上, 当从视图中插入或者删除时, 情况也是这样. 对于简单视图来说, 这是很方便的, 但是, 对于比较复杂的视图, 可能是不可修改的, 这些视图有如下特征: a. 有 UNIQUE 等集合操作符的视图. b. 有 GROUP BY 子句的视图. c. 有诸如 AVG\SUM\MAX 等聚合函数的视图. d. 使用 DISTINCT 关键字的视图. e. 连接表的视图(其中有些例外)
游标
游标是系统为用户开设的一个数据缓冲区, 存放 SQL 语句的执行结果, 每个游标区都有一个名字. 用户可以通过游标逐一获取记录并赋给主变量, 交由主语言进一步处理.
触发器
触发器是用户定义在关系表上的一类由事件驱动的特殊过程. 一旦定义, 触发器将被保存在数据库服务器中. 任何用户对表的增, 删, 改操作均由服务器自动激活相应的触发器, 在关系数据库管理系统核心层进行集中的完整性控制. 触发器类似于约束, 但是比约束更加灵活, 可以实施更为复杂的检查和操作, 具有更精细和更强大的数据控制能力.
drop,delete 与 truncate 的区别
三者都表示删除, 但是三者有一些差别:
Delete | Truncate | Drop | |
---|---|---|---|
类型 | 属于 DML | 属于 DDL | 属于 DDL |
回滚 | 可回滚 | 不可回滚 | 不可回滚 |
删除内容 | 表结构还在,删除表的全部或者一部分数据行 | 表结构还在,删除表中的所有数据 | 从数据库中删除表,所有的数据行,索引和权限也会被删除 |
删除速度 | 删除速度慢, 需要逐行删除 | 删除速度快 | 删除速度快 |
因此, 在不再需要一张表的时候, 用 drop; 在想删除部分数据行时候, 用 delete; 在保留表而删除所有数据的时候用 truncate.
主从复制
将主数据库中的 DDL 和 DML 操作通过二进制日志 (BINLOG) 传输到从数据库上, 然后将这些日志重新执行(重做); 从而使得从数据库的数据与主数据库保持一致.
主从复制的作用
主数据库出现问题, 可以切换到从数据库.
可以进行数据库层面的读写分离.
可以在从数据库上进行日常备份.
复制过程
Binary log: 主数据库的二进制日志 Relay log: 从服务器的中继日志 第一步: master 在每个事务更新数据完成之前, 将该操作记录串行地写入到 binlog 文件中. 第二步: salve 开启一个 I/O Thread, 该线程在 master 打开一个普通连接, 主要工作是 binlog dump process. 如果读取的进度已经跟上了 master, 就进入睡眠状态并等待 master 产生新的事件. I/O 线程最终的目的是将这些事件写入到中继日志中. 第三步: SQL Thread 会读取中继日志, 并顺序执行该日志中的 SQL 事件, 从而与主数据库中的数据保持一致.
大表数据查询, 怎么优化
优化 shema,sql 语句 + 索引;
第二加缓存, Memcached, Redis;
主从复制, 读写分离;
垂直拆分, 根据你模块的耦合度, 将一个大的系统分为多个小的系统, 也就是分布式系统;
水平切分, 针对数据量大的表, 这一步最麻烦, 最能考验技术水平, 要选择一个合理的 sharding key, 为了有好的查询效率, 表结构也要改动, 做一定的冗余, 应用也要改, sql 中尽量带 sharding key, 将数据定位到限定的表上去查, 而不是扫描全部的表;
来源: https://juejin.im/post/5ba4b65be51d450e51627f33