java如何实现缓存技术(MySQL知识点总结[修订版])java教程 / Java Web应用程序中的缓存策略与实现...

wufei123 发布于 2024-06-09 阅读(5)

花了几天时间对之前总结的MySQL知识点做了完善,这篇文章可以用来回顾MySQL基础知识以及备战MySQL常见面试问题相关内容推荐MySQL高性能优化规范建议一条SQL语句在MySQL中如何执行的腾讯面试:一条SQL语句执行得很慢的原因有哪些?---不看后悔系列。

一千行 MySQL 学习笔记书籍推荐《SQL基础教程(第2版)》 (入门级)《高性能MySQL : 第3版》 (进阶)常见问题总结存储引擎一些常用命令查看MySQL提供的所有存储引擎mysql> show

engines;

查看MySQL提供的所有存储引擎从上图我们可以查看出 MySQL 当前默认的存储引擎是InnoDB,并且在5.7版本所有的存储引擎中只有 InnoDB 是事务性存储引擎,也就是说只有 InnoDB 支持事务。

查看MySQL当前默认的存储引擎我们也可以通过下面的命令查看默认的存储引擎mysql> showvariableslike%storage_engine%;查看表的存储引擎showtablestatus。

like"table_name" ;

查看表的存储引擎MyISAM和InnoDB区别MyISAM是MySQL的默认数据库引擎(5.5版之前)虽然性能极佳,而且提供了大量的特性,包括全文索引、压缩、空间函数等,但MyISAM不支持事务和行级锁,而且最大的缺陷就是崩溃后无法安全恢复。

不过,5.5版本之后,MySQL引入了InnoDB(事务性数据库引擎),MySQL 5.5版本后默认的存储引擎为InnoDB大多数时候我们使用的都是 InnoDB 存储引擎,但是在某些情况下使用 MyISAM 也是合适的比如读密集的情况下。

(如果你不介意 MyISAM 崩溃回复问题的话)两者的对比:是否支持行级锁 : MyISAM 只有表级锁(table-level locking),而InnoDB 支持行级锁(row-level locking)和表级锁,默认为行级锁。

是否支持事务和崩溃后的安全恢复: MyISAM 强调的是性能,每次查询具有原子性,其执行数度比InnoDB类型更快,但是不提供事务支持但是InnoDB 提供事务支持事务,外部键等高级数据库功能 具有事务(commit)、回滚(rollback)和崩溃修复能力(crash recovery capabilities)的事务安全(transaction-safe (ACID compliant))型表。

是否支持外键: MyISAM不支持,而InnoDB支持是否支持MVCC :仅 InnoDB 支持应对高并发事务, MVCC比单纯的加锁更高效;MVCC只在 READ COMMITTED 和 REPEATABLE READ。

 两个隔离级别下工作;MVCC可以使用 乐观(optimistic)锁 和 悲观(pessimistic)锁来实现;各数据库中MVCC实现并不统一推荐阅读:MySQL-InnoDB-MVCC多版本并发控制https://segmentfault.com/a/1190000012650596。

……《MySQL高性能》上面有一句话这样写到:不要轻易相信“MyISAM比InnoDB快”之类的经验之谈,这个结论往往不是绝对的在很多我们已知场景中,InnoDB的速度都可以让MyISAM望尘莫及,尤其是用到了聚簇索引,或者需要访问的数据都可以放入内存的应用。

一般情况下我们选择 InnoDB 都是没有问题的,但是某事情况下你并不在乎可扩展能力和并发能力,也不需要事务支持,也不在乎崩溃后的安全恢复问题的话,选择MyISAM也是一个不错的选择但是一般情况下,我们都是需要考虑到这些问题的。

字符集及校对规则字符集指的是一种从二进制编码到某类字符符号的映射校对规则则是指某种字符集下的排序规则MySQL中每一种字符集都会对应一系列的校对规则MySQL采用的是类似继承的方式指定字符集的默认值,每个数据库以及每张数据表都有自己的默认值,他们逐层继承。

比如:某个库中所有表的默认字符集将是该数据库所指定的字符集(这些表在没有指定字符集的情况下,才会采用默认字符集) PS:整理自《Java工程师修炼之道》索引MySQL索引使用的数据结构主要有BTree索引

 和 哈希索引 对于哈希索引来说,底层的数据结构就是哈希表,因此在绝大多数需求为单条记录查询的时候,可以选择哈希索引,查询性能最快;其余大部分场景,建议选择BTree索引MySQL的BTree索引使用的是B数中的B+Tree,但对于主要的两种存储引擎的实现方式是不同的。

MyISAM: B+Tree叶节点的data域存放的是数据记录的地址在索引检索的时候,首先按照B+Tree搜索算法搜索索引,如果指定的Key存在,则取出其 data 域的值,然后以 data 域的值为地址读取相应的数据记录。

这被称为“非聚簇索引”InnoDB: 其数据文件本身就是索引文件相比MyISAM,索引文件和数据文件是分离的,其表数据文件本身就是按B+Tree组织的一个索引结构,树的叶节点data域保存了完整的数据记录。

这个索引的key是数据表的主键,因此InnoDB表数据文件本身就是主索引这被称为“聚簇索引(或聚集索引)”而其余的索引都作为辅助索引,辅助索引的data域存储相应记录主键的值而不是地址,这也是和MyISAM不同的地方。

在根据主索引搜索时,直接找到key所在的节点即可取出数据;在根据辅助索引查找时,则需要先取出主键的值,再走一遍主索引因此,在设计表的时候,不建议使用过长的字段作为主键,也不建议使用非单调的字段作为主键,这样会造成主索引频繁分裂。

 PS:整理自《Java工程师修炼之道》更多关于索引的内容可以查看文档首页MySQL目录下关于索引的详细总结查询缓存的使用执行查询语句的时候,会先查询缓存不过,MySQL 8.0 版本后移除,因为这个功能不太实用。

my.cnf加入以下配置,重启MySQL开启查询缓存query_cache_type=1query_cache_size=600000MySQL执行以下命令也可以开启查询缓存set global  query_cache_type=1;

set global  query_cache_size=600000;如上,开启查询缓存后在同样的查询条件以及数据情况下,会直接在缓存中返回结果这里的查询条件包括查询本身、当前要查询的数据库、客户端协议版本号等一些可能影响结果的信息。

因此任何两个查询在任何字符上的不同都会导致缓存不命中此外,如果查询中包含任何用户自定义函数、存储函数、用户变量、临时表、MySQL库中的系统表,其查询结果也不会被缓存缓存建立之后,MySQL的查询缓存系统会跟踪查询中涉及的每张表,如果这些表(数据或结构)发生变化,那么和这张表相关的所有缓存数据都将失效。

缓存虽然能够提升数据库的查询性能,但是缓存同时也带来了额外的开销,每次查询后都要做一次缓存操作,失效后还要销毁 因此,开启缓存查询要谨慎,尤其对于写密集的应用来说更是如此如果开启,要注意合理控制缓存空间大小,一般来说其大小设置为几十MB比较合适。

此外,还可以通过sql_cache和sql_no_cache来控制某个查询语句是否需要缓存:select sql_no_cache count(*) from usr;什么是事务?事务是逻辑上的一组操作,要么都执行,要么都不执行。

事务最经典也经常被拿出来说例子就是转账了假如小明要给小红转账1000元,这个转账会涉及到两个关键操作就是:将小明的余额减少1000元,将小红的余额增加1000元万一在这两个操作之间突然出现错误比如银行系统崩溃,导致小明余额减少而小红的余额没有增加,这样就不对了。

事务就是保证这两个关键操作要么都成功,要么都要失败事物的四大特性(ACID)

事物的特性原子性: 事务是最小的执行单位,不允许分割事务的原子性确保动作要么全部完成,要么完全不起作用;一致性: 执行事务前后,数据保持一致,多个事务对同一个数据读取的结果是相同的;隔离性: 并发访问数据库时,一个用户的事务不被其他事务所干扰,各并发事务之间数据库是独立的;。

持久性: 一个事务被提交之后它对数据库中数据的改变是持久的,即使数据库发生故障也不应该对其有任何影响并发事务带来哪些问题?在典型的应用程序中,多个事务并发运行,经常会操作相同的数据来完成各自的任务(多个用户对统一数据进行操作)。

并发虽然是必须的,但可能会导致以下的问题脏读(Dirty read): 当一个事务正在访问数据并且对数据进行了修改,而这种修改还没有提交到数据库中,这时另外一个事务也访问了这个数据,然后使用了这个数据因为这个数据是还没有提交的数据,那么另外一个事务读到的这个数据是“脏数据”,依据“脏数据”所做的操作可能是不正确的。

丢失修改(Lost to modify): 指在一个事务读取一个数据时,另外一个事务也访问了该数据,那么在第一个事务中修改了这个数据后,第二个事务也修改了这个数据这样第一个事务内的修改结果就被丢失,因此称为丢失修改。

例如:事务1读取某表中的数据A=20,事务2也读取A=20,事务1修改A=A-1,事务2也修改A=A-1,最终结果A=19,事务1的修改被丢失不可重复读(Unrepeatableread): 指在一个事务内多次读同一数据。

在这个事务还没有结束时,另一个事务也访问该数据那么,在第一个事务中的两次读数据之间,由于第二个事务的修改导致第一个事务两次读取的数据可能不太一样这就发生了在一个事务内两次读到的数据是不一样的情况,因此称为不可重复读。

幻读(Phantom read): 幻读与不可重复读类似它发生在一个事务(T1)读取了几行数据,接着另一个并发事务(T2)插入了一些数据时在随后的查询中,第一个事务(T1)就会发现多了一些原本不存在的记录,就好像发生了幻觉一样,所以称为幻读。

不可重复度和幻读区别:不可重复读的重点是修改比如多次读取一条记录发现其中某些列的值被修改,幻读的重点在于新增或者删除比如多次读取一条记录发现记录增多或减少了事务隔离级别有哪些?MySQL的默认隔离级别是?。

SQL 标准定义了四个隔离级别:READ-UNCOMMITTED(读取未提交): 最低的隔离级别,允许读取尚未提交的数据变更,可能会导致脏读、幻读或不可重复读READ-COMMITTED(读取已提交):。

 允许读取并发事务已经提交的数据,可以阻止脏读,但是幻读或不可重复读仍有可能发生REPEATABLE-READ(可重复读): 对同一字段的多次读取结果都是一致的,除非数据是被本身事务自己所修改,可以阻止脏读和不可重复读,但幻读仍有可能发生。

SERIALIZABLE(可串行化): 最高的隔离级别,完全服从ACID的隔离级别所有的事务依次逐个执行,这样事务之间就完全不可能产生干扰,也就是说,该级别可以防止脏读、不可重复读以及幻读隔离级别脏读不可重复读

幻影读READ-UNCOMMITTED√√√READ-COMMITTED×√√REPEATABLE-READ××√SERIALIZABLE×××MySQL InnoDB 存储引擎的默认支持的隔离级别是 

REPEATABLE-READ(可重读)我们可以通过SELECT @@tx_isolation;命令来查看mysql> SELECT @@tx_isolation;+-----------------+。

| @@tx_isolation  |+-----------------+| REPEATABLE-READ |+-----------------+这里需要注意的是:与 SQL 标准不同的地方在于 InnoDB 存储引擎在 

REPEATABLE-READ(可重读)事务隔离级别下使用的是Next-Key Lock 锁算法,因此可以避免幻读的产生,这与其他数据库系统(如 SQL Server)是不同的所以说InnoDB 存储引擎的默认支持的隔离级别是 。

REPEATABLE-READ(可重读) 已经可以完全保证事务的隔离性要求,即达到了 SQL标准的SERIALIZABLE(可串行化)隔离级别因为隔离级别越低,事务请求的锁越少,所以大部分数据库系统的隔离级别都是。

READ-COMMITTED(读取提交内容):,但是你要知道的是InnoDB 存储引擎默认使用 REPEATABLE-READ(可重读)并不会有任何性能损失InnoDB 存储引擎在 分布式事务 的情况下一般会用到。

SERIALIZABLE(可串行化)隔离级别锁机制与InnoDB锁算法MyISAM和InnoDB存储引擎使用的锁:MyISAM采用表级锁(table-level locking)InnoDB支持行级锁(row-level locking)和表级锁,默认为行级锁。

表级锁和行级锁对比:表级锁: MySQL中锁定 粒度最大 的一种锁,对当前操作的整张表加锁,实现简单,资源消耗也比较少,加锁快,不会出现死锁其锁定粒度最大,触发锁冲突的概率最高,并发度最低,MyISAM和 InnoDB引擎都支持表级锁。

行级锁: MySQL中锁定 粒度最小 的一种锁,只针对当前操作的行进行加锁 行级锁能大大减少数据库操作的冲突其加锁粒度最小,并发度高,但加锁的开销也最大,加锁慢,会出现死锁InnoDB存储引擎的锁的算法有三种:。

Record lock:单个行记录上的锁Gap lock:间隙锁,锁定一个范围,不包括记录本身Next-key lock:record+gap 锁定一个范围,包含记录本身相关知识点:innodb对于行的查询使用next-key lock

Next-locking keying为了解决Phantom Problem幻读问题当查询的索引含有唯一属性时,将next-key lock降级为record keyGap锁设计的目的是为了阻止多个事务将记录插入到同一范围内,而这会导致幻读问题的产生

有两种方式显式关闭gap锁:(除了外键约束和唯一性检查外,其余情况仅使用record lock) A. 将事务隔离级别设置为RC B. 将参数innodb_locks_unsafe_for_binlog设置为1

大表优化当MySQL单表记录数过大时,数据库的CRUD性能会明显下降,一些常见的优化措施如下:1. 限定数据的范围务必禁止不带任何限制数据范围条件的查询语句比如:我们当用户在查询订单历史的时候,我们可以控制在一个月的范围内;。

2. 读/写分离经典的数据库拆分方案,主库负责写,从库负责读;3. 垂直分区根据数据库里面数据表的相关性进行拆分 例如,用户表中既有用户的登录信息又有用户的基本信息,可以将用户表拆分成两个单独的表,甚至放到单独的库做分库。

简单来说垂直拆分是指数据表列的拆分,把一张列比较多的表拆分为多张表。 如下图所示,这样来说大家应该就更容易理解了。

数据库垂直分区垂直拆分的优点: 可以使得列数据变小,在查询时减少读取的Block数,减少I/O次数此外,垂直分区可以简化表的结构,易于维护垂直拆分的缺点: 主键会出现冗余,需要管理冗余列,并会引起Join操作,可以通过在应用层进行Join来解决。

此外,垂直分区会让事务变得更加复杂;4. 水平分区保持数据表结构不变,通过某种策略存储数据分片这样每一片数据分散到不同的表或者库中,达到了分布式的目的 水平拆分可以支撑非常大的数据量水平拆分是指数据表行的拆分,表的行数超过200万行时,就会变慢,这时可以把一张的表的数据拆成多张表来存放。

举个例子:我们可以将用户信息表拆分成多个用户信息表,这样就可以避免单一表数据量过大对性能造成影响

数据库水平拆分水平拆分可以支持非常大的数据量需要注意的一点是:分表仅仅是解决了单一表数据过大的问题,但由于表的数据还是在同一台机器上,其实对于提升MySQL并发能力没有什么意义,所以 水平拆分最好分库 。

水平拆分能够 支持非常大的数据量存储,应用端改造也少,但 分片事务难以解决 ,跨节点Join性能较差,逻辑复杂《Java工程师修炼之道》的作者推荐 尽量不要对数据进行分片,因为拆分会带来逻辑、部署、运维的各种复杂度。

 ,一般的数据表在优化得当的情况下支撑千万以下的数据量是没有太大问题的如果实在要分片,尽量选择客户端分片架构,这样可以减少一次和中间件的网络I/O下面补充一下数据库分片的两种常见方案:客户端代理:分片逻辑在应用端,封装在jar包中,通过修改或者封装JDBC层来实现。

 当当网的 Sharding-JDBC 、阿里的TDDL是两种比较常用的实现中间件代理:在应用和数据中间加了一个代理层分片逻辑统一维护在中间件服务中 我们现在谈的 Mycat 、360的Atlas、网易的DDB等等都是这种架构的实现。

一条SQL语句在MySQL中如何执行的一条SQL语句在MySQL中如何执行的MySQL高性能优化规范建议MySQL高性能优化规范建议一条SQL语句执行得很慢的原因有哪些?腾讯面试:一条SQL语句执行得很慢的原因有哪些?---不看后悔系列

推荐阅读推荐20个5月最热门的Java开源项目15个经典的Spring面试常见问题面试官:“谈谈Spring中都用到了那些设计模式?”不就是个短信登录API嘛,有这么复杂吗?漫画的方式带你了解重构!原来重构如此简单!!。

后端开发实践系列——Spring Boot项目模板盘点阿里巴巴 15 款开发者工具蚂蚁金服2019实习生面经总结(已拿口头offer)记一次蚂蚁金服的面试经历Java学习必备书籍推荐终极版!我觉得技术人员该有的提问方式

Java 8 新特性最佳指南做公众号这一年的经历和一件“大事”(2018-03-10)盘点一下Github上开源的Java面试/学习相关的仓库,看完弄懂薪资至少增加10k( 2018-12-24)可能是一份最适合你的后端面试指南(部分内容前端同样适用)

欢迎关注

点个再看

欢迎置顶本公众号,第一时间获取最新更新

点击阅读原文查看更多内容

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

河南中青旅行社综合资讯 奇遇综合资讯 盛世蓟州综合资讯 综合资讯 游戏百科综合资讯 新闻70135