热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

数据库性能优化(MySQL)

2019独角兽企业重金招聘Python工程师标准序:即使有较长的缓存有效期和较理想的缓存命中率,但是缓存的创建和缓存过期后的重建都是需要访问数据库

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

序:

    即使有较长的缓存有效期和较理想的缓存命中率,但是缓存的创建和缓存过期后的重建都是需要访问数据库的。对数据库写操作不是很容易引入缓存策略。

11.1 查看数据库状态

    可以通过show status、show innodb status 来查看MySQL数据库的状态,使用mysqlreport这个第三方工具可使数据库状态报告更好看(mysqlreport本质是通过MySQL内部命令和工具来统计状态的)。

11.2 正确使用索引

    在影响数据库查询性能的众多因素中,索引绝对是一个重量级的因素,如果索引使用不当,则数据库的其它优化可能无济于事。

    索引是用于快速定位到表记录所在地址的一种数据结构(BTree、Hash、RTree等)。通过索引去查找记录即为索引扫描。

    索引扫描不一定比全表扫描性能更好,要看情况。查询优化器会为一次查询是否使用索引以及决定使用哪个索引,当然,有时查询优化器也会犯错误。

    数据库的索引需要定位到每行记录,所有索引项的数量也会非常多,通过索引列表查找某索引项也会存在一定的小开销。

    除了普通索引外还有唯一索引、主键索引、非空索引、全文索引等,不同的索引只是约束和用途不一样。像唯一索引在插入数据时就会增加一定的开销,因为它每插入一次都要判断是否重复。

    一般如果一个字段出现在查询语句基于行的选择、分组和排序,那么为该字段建立索引可能是有价值的。

    explain只可分析查询语句,不能用于分析更新操作的语句。

    在explain中,若type为const,说明查询可以通过索引直接找到匹配行,key为PRIMARY说明使用了主键索引。若type为all,说明使用了全表扫描,索引未使用上,此时的key 为空。若type为ref,说明查询的结果可能有多个匹配行。若type为index,说明查询只需要在索引中扫描即可。

    一次查询对一个数据表只能使用一个索引,不能进行索引效应叠加。

    最左前缀是使用组合索引的最基本原则。

    非顺序的索引类型如hash对order by是无效的。

    对于包含group by的查询,数据库一般是先将记录分组后放到临时表中,然后对其进行函数运算。这时若有恰当索引时,可使用索引来代替临时表的使用。

    可以使用慢查询配置来记录查询慢的语句,也可以记录未使用索引的查询语句。

    为了节省查找索引的时间,可以将索引缓存起来放到内存中,这样最理想的情况,索引可以直接在内存中查找而不需要访问磁盘。MyISAM表包括3个文件,分别是.frm、.MYI、.MYD。也即MyISAM表类型只缓存索引不缓存数据文件。由于存在索引写缓存机制,MyISAM表类型对于索引的写操作存在延迟。

    在使用索引时也要考虑到其代价,索引会占据更多的磁盘空间,有时甚至比数据文件还要大。当在建立了索引的字段上进行更新时,其索引也需要更新,这个开销可不小。索引也需要花时间来维护。

11.3 锁定与等待

    锁机制是影响查询性能的另一个因素,当多个并发用户同时访问同一资源时,数据库为保证并发访问的一致性,使用数据库锁来协调访问。

    查询时间的开销包括查询本身的计算时间和查询前的等待时间,索引影响的是前者,锁机制影响的是后者。

    MySQL为MyISAM表类型提供的是表锁。表锁允许多个线程同时读取数据(select),但对于更新操作会排斥所有其它的查询包括select,而且更新操作具有默认的高优先级。

    如果大部分为查询操作,只有少许更新操作,则不会存在太多的锁等待。

    MySQL为InnoDB表类型提供的是行锁。行锁可以带来update和select不同线程对不同的行记录可以并发地进行。

    行锁并不一定比表锁快,开销不一定比表锁小,尤其是涉及全表扫描时行锁的开销更大。

11.4 事务性表的性能

    InnoDB除了支持行锁外,它还支持事务,InnoDB实现事务的方法是通过预写日志的方式。当有事务提交时,InnoDB将它写入到内存的事务日志缓冲区中,随后将事务日志写入磁盘,从而更新实际的数据和索引。

    事务日志写入磁盘的时机:

    innodb_flush_log_at_trx_commit=1时,代表事务提交时事务日志立即写入磁盘,同时更新数据和索引。

    innodb_flush_log_at_trx_commit=0时,代表事务提交时事务日志不立即写入磁盘,而是每隔1秒写入磁盘文件一次,并刷新到磁盘同时更新数据和索引。

    innodb_flush_log_at_trx_commit=2时,代表事务提交时事务日志立即写入磁盘文件,每隔1秒刷新到磁盘同时更新数据和索引。

    通过以上3种时机可以对比出它们的可靠性和性能。

11.5 使用查询缓存

    查询缓存就是将select查询结果放在内存中,key是select语句,value是该查询语句的结果。不论是MyISAM还是InnoDB引擎,查询缓存都可以很好地工作,起到提升性能的作用。查询缓存要注意缓存过期策略,在MySQL中,若一个表中有更新操作,则该表的所有查询缓存将失效。因此,对于select密集型更新很少的应用很适合使用查询缓存。

11.6 临时表

    在explain查询语句时,有时可以看到Using temporary状态,这说明查询过程使用了临时表来存储中间数据,可以通过合理使用索引来避免创建临时表情况。若临时表的使用不可避免,那么也应该尽量减少临时表本身的开销。

    MySQL的临时表可以创建在磁盘、内存和临时文件中。当然,创建在磁盘上的开销最大。有时在使用show processlist可以看到查询状态中有Coping to tmp table on disk,这说明MySQL在将临时表从内存中复制到磁盘上以节省内存空间。

    可以通过tmp_table_size选项来设置用于存储临时表的内存空间大小。一旦空间不够用才会使用磁盘来存储。

11.7 线程池

    MySQL使用多线程来处理并发连接。为减少重复线程的创建可以尽量使用持久连接或将连接缓存起来(通过在my.cnf中配置thread_table_size=个数来设置)。

11.8 反范式设计

    所谓范式就是对关系数据库中的关系的要求或约束,有不同程序的要求就有不同的范式。通常遵循到3NF即可,3NF就是非主键字段之间不能存在依赖关系,这样可以避免删除、更新、插入异常,保持关系的一致性,减少数据冗余。

    反范式化就是违背关系设计的要求或约束,用于减少读取数据的开销,增加一定的数据冗余,但这样同时也增加了写数据的开销,因为要保持冗余数据的一致性。当然,为了保证数据库写性能可以异步写数据。若不想反范式则可以使用非关系型数据库。

11.9 使用非关系数据库

    key-value数据库使用半结构化存储数据,所有数据只有一个索引即key,可以将反范式化引发的数据副本保存到key-value数据库中,这样比关系数据库具有更出色的并发性能。

    MemcacheDB在性能方面比较出色,是一个分布式的key-value数据库,使用Memcache协议,这意味着使用了Memcache的web应用可以不进行任何的修改而迁移到MemcacheDB上。

    不是所有的应用都适合用key-value数据库,该用关系查询的时候还是得用关系数据库,key-value数据库只是为避免反范式化引发的写数据开销方案之一。当然,MemcacheDB封装了Berkeley DB的复制功能,可以通过主从复制来扩展MemcacheDB的规模,提升可用性。



转:https://my.oschina.net/u/2429470/blog/493436



推荐阅读
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • 关于我们EMQ是一家全球领先的开源物联网基础设施软件供应商,服务新产业周期的IoT&5G、边缘计算与云计算市场,交付全球领先的开源物联网消息服务器和流处理数据 ... [详细]
  • MySQL中的MVVC多版本并发控制机制的应用及实现
    本文介绍了MySQL中MVCC的应用及实现机制。MVCC是一种提高并发性能的技术,通过对事务内读取的内存进行处理,避免写操作堵塞读操作的并发问题。与其他数据库系统的MVCC实现机制不尽相同,MySQL的MVCC是在undolog中实现的。通过undolog可以找回数据的历史版本,提供给用户读取或在回滚时覆盖数据页上的数据。MySQL的大多数事务型存储引擎都实现了MVCC,但各自的实现机制有所不同。 ... [详细]
  • 篇首语:本文由编程笔记#小编为大家整理,主要介绍了软件测试知识点之数据库压力测试方法小结相关的知识,希望对你有一定的参考价值。 ... [详细]
  • Centos下安装memcached+memcached教程
    本文介绍了在Centos下安装memcached和使用memcached的教程,详细解释了memcached的工作原理,包括缓存数据和对象、减少数据库读取次数、提高网站速度等。同时,还对memcached的快速和高效率进行了解释,与传统的文件型数据库相比,memcached作为一个内存型数据库,具有更高的读取速度。 ... [详细]
  • MySQL数据库锁机制及其应用(数据库锁的概念)
    本文介绍了MySQL数据库锁机制及其应用。数据库锁是计算机协调多个进程或线程并发访问某一资源的机制,在数据库中,数据是一种供许多用户共享的资源,如何保证数据并发访问的一致性和有效性是数据库必须解决的问题。MySQL的锁机制相对简单,不同的存储引擎支持不同的锁机制,主要包括表级锁、行级锁和页面锁。本文详细介绍了MySQL表级锁的锁模式和特点,以及行级锁和页面锁的特点和应用场景。同时还讨论了锁冲突对数据库并发访问性能的影响。 ... [详细]
  • 2021最新总结网易/腾讯/CVTE/字节面经分享(附答案解析)
    本文分享作者在2021年面试网易、腾讯、CVTE和字节等大型互联网企业的经历和问题,包括稳定性设计、数据库优化、分布式锁的设计等内容。同时提供了大厂最新面试真题笔记,并附带答案解析。 ... [详细]
  • 本文由编程笔记小编整理,介绍了PHP中的MySQL函数库及其常用函数,包括mysql_connect、mysql_error、mysql_select_db、mysql_query、mysql_affected_row、mysql_close等。希望对读者有一定的参考价值。 ... [详细]
  • Java String与StringBuffer的区别及其应用场景
    本文主要介绍了Java中String和StringBuffer的区别,String是不可变的,而StringBuffer是可变的。StringBuffer在进行字符串处理时不生成新的对象,内存使用上要优于String类。因此,在需要频繁对字符串进行修改的情况下,使用StringBuffer更加适合。同时,文章还介绍了String和StringBuffer的应用场景。 ... [详细]
  • 如何在php中将mysql查询结果赋值给变量
    本文介绍了在php中将mysql查询结果赋值给变量的方法,包括从mysql表中查询count(学号)并赋值给一个变量,以及如何将sql中查询单条结果赋值给php页面的一个变量。同时还讨论了php调用mysql查询结果到变量的方法,并提供了示例代码。 ... [详细]
  • MyBatis多表查询与动态SQL使用
    本文介绍了MyBatis多表查询与动态SQL的使用方法,包括一对一查询和一对多查询。同时还介绍了动态SQL的使用,包括if标签、trim标签、where标签、set标签和foreach标签的用法。文章还提供了相关的配置信息和示例代码。 ... [详细]
  • 一句话解决高并发的核心原则
    本文介绍了解决高并发的核心原则,即将用户访问请求尽量往前推,避免访问CDN、静态服务器、动态服务器、数据库和存储,从而实现高性能、高并发、高可扩展的网站架构。同时提到了Google的成功案例,以及适用于千万级别PV站和亿级PV网站的架构层次。 ... [详细]
  • 上图是InnoDB存储引擎的结构。1、缓冲池InnoDB存储引擎是基于磁盘存储的,并将其中的记录按照页的方式进行管理。因此可以看作是基于磁盘的数据库系统。在数据库系统中,由于CPU速度 ... [详细]
  • 一次上线事故,30岁+的程序员踩坑经验之谈
    本文主要介绍了一位30岁+的程序员在一次上线事故中踩坑的经验之谈。文章提到了在双十一活动期间,作为一个在线医疗项目,他们进行了优惠折扣活动的升级改造。然而,在上线前的最后一天,由于大量数据请求,导致部分接口出现问题。作者通过部署两台opentsdb来解决问题,但读数据的opentsdb仍然经常假死。作者只能查询最近24小时的数据。这次事故给他带来了很多教训和经验。 ... [详细]
  • 深入理解Java虚拟机的并发编程与性能优化
    本文主要介绍了Java内存模型与线程的相关概念,探讨了并发编程在服务端应用中的重要性。同时,介绍了Java语言和虚拟机提供的工具,帮助开发人员处理并发方面的问题,提高程序的并发能力和性能优化。文章指出,充分利用计算机处理器的能力和协调线程之间的并发操作是提高服务端程序性能的关键。 ... [详细]
author-avatar
雅白斋ab
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有