热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

《架构师36项修炼》分布式系统集群的搭建存储篇

概述

在网络层的背后,每一个业务都需要数据的支撑,数据库的优化在整个系统中就显得至关重要了

虽然 NoSQL 在并发性能上要优于传统的 DBA,但由于 MySQL 在扩展性等方面的优势,MySQL 依然作为企业级数据存储的首选

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

MySQL 数据库内部缓存使用

 

建立适当索引

 

对于 MySQL 优化,最简单的做法就是建立索引,在表数据量较大时可以起到快速检索数据的作用

主要的成本在于其磁盘开销比较大,占用空间甚至可能比源数据更大,同时,由于需要维护和更新索引,所以 insert、update、delete 操作耗时会随之增加

对于主要以 select 操作为主的字段,合理建立索引对系统性能的提升是有明显作用的

 

 

数据库连接线程池缓存

 

MySQL 是一个多线程并发模型数据库,因此数据库的访问常常伴随着线程的创建和销毁,这个工作是非常耗时的

可以通过配置 thread_cache_size 选项来改变线程池的大小,减少线程的创建和销毁

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

还有另一种办法,那就是使用 pconnect(数据库长连接),线程一旦创建在很长时间内都保持着

但是,这样在数据库连接访问量大的时候会出现数据连接数耗尽的情况,因此,长连接的用法通常需要在CGI和MySQL之间实现一个“连接池”服务,控制CGI机器“盲目”创建连接数

 

建立数据库连接池服务,有很多实现的方式,PHP的话,可以使用swoole(PHP的一个网络通讯拓展)来实现

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

 

Innodb缓存设置(innodb_buffer_pool_size)

 

innodb_buffer_pool_size这是个用来保存索引和数据的内存缓存区,如果机器是MySQL独占的机器,一般推荐为机器物理内存的 80%

在取表数据的场景中,它可以减少磁盘IO

一般来说,这个值设置越大,cache命中率会越高

 

 

分库/分表/分区

 

MySQL 数据库表一般承受数据量在百万级别,再往上增长,各项性能将会出现大幅度下降

因此,当我们预见数据量会超过这个量级的时候,建议进行分库、分表、分区等操作

最好的做法,是服务在搭建之初就设计为分库分表的存储模式,从根本上杜绝中后期的风险

不过,会牺牲一些便利性,例如列表式的查询,同时,也增加了维护的复杂度,不过,到了数据量千万级别或者以上的时候,它们都是值得的

 

分布式 MySQL 数据库集群搭建

单点部署 MySQL 数据库具有很多风险,如数据的持久化、服务的持续性,如果一旦数据库服务挂掉,整个系统都将无法继续工作

有以下几种分布式部署方案可以选择:

 

 

建立MySQL主从,从库作为备份

 

这样的部署方式是纯粹为了解决单点故障的问题的,在主库故障时切换从库继续提供服务

日常工作中,从库仅通过 binlog 从主库备份数据,作为数据备份使用,这样的策略造成资源很大程度上的浪费

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

 

MySQL 读写分离

 

两台数据库做读写分离,主库负责写入类的操作,从库负责读的操作。并且,如果主库发生故障,仍然不影响读的操作,同时也可以将全部读写都临时切换到从库中

但这个策略需要注意流量,可能会因为流量过大,把从库也拖垮

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

 

主主互备

 

两台MySQL之间互为彼此的从库,同时又是主库

这种方案,既做到了访问量的压力分流,同时也解决了“单点故障”问题

任何一台故障,都还有另外一套可供使用的服务

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

这种方案的缺陷在于,只能使用两台服务器搭建集群,如果业务拓展很快,应该选择将业务分离,建立多个主主互备集群

 

MySQL 数据库机器之间的数据同步

当我们有多台 MySQL,在业务高峰期,很可能出现两个库之间的数据有延迟的场景。并且,网络和机器负载等,也会影响数据同步的延迟

如果从服务器的数据严重慢于主服务器的数据,则从服务器已经失去其备份的效用了

 

有以下方案解决数据同步问题:

 

 

MySQL自带多线程同步

 

MySQL5.6 开始支持主从数据库通过多线程同步

但是,这个方式只支持以库为单位的备份

同时,这一过程是通过主数据库的 binlog 进行的,由于 binlog 有严格的操作顺序,所以备份过程只能单进程进行,所以效率也较低

 

 

自己解析 binlog 实现以表为单位的多线程备份

 

以数据库的表为单位,解析binlog多张表同时做数据同步,这样能够加快数据同步的效率

但是,如果表和表之间存在结构关系或者数据依赖的话,则同样存在写入顺序的问题

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

这种方式,可用于一些比较稳定并且相对独立的数据表

国内一线互联网公司,大部分都是通过这种方式,来加快数据同步效率

 

在 Web 服务器和数据库之间建立缓存

二八定律出现在生活的方方面面,在 web 系统搭建的时候也符合这一原理,80% 的请求只关注在 20% 的热点数据上

因此,将这 20% 的数据放在高速缓存中,既可以缓解后端数据库的访问压力,也可以提高 web 服务的性能,即便是用磁盘作为缓存,也可以很大程度的缓解后端数据库的压力

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

 

页面静态化

 

对于大多数用户访问的页面,很长的时间内是不会发生变化的

而重复的向服务器请求不仅降低访问效率占用带宽,还会增加网站展现延时

这样的话,通过CGI生成的静态html页面缓存到Web服务器的磁盘本地。除了第一次,是通过动态CGI查询数据库获取之外,之后都直接将本地磁盘文件返回给用户是一个不错的解决方案

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

但是,一旦Web系统规模变大,例如当我有100台的Web服务器的时候。那样这些磁盘文件,将会有100份,这个是资源浪费

 

 

单台内存缓存

 

通过页面静态化的例子中,我们可以知道将“缓存”搭建在Web机器本机是不好维护的,会带来更多问题(实际上,通过PHP的apc拓展,可通过Key/value操作Web服务器的本机内存)。因此,我们选择搭建的内存缓存服务,也必须是一个独立的服务

 

内存缓存的选择,主要有redis/memcache。从性能上说,两者差别不大,从功能丰富程度上说,Redis更胜一筹

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

 

内存缓存集群

 

当我们搭建单台内存缓存完毕,我们又会面临单点故障的问题,因此,我们必须将它变成一个集群

简单的做法,是给他增加一个slave作为备份机器

但是,如果请求量真的很多,我们发现cache命中率不高,需要更多的机器内存

因此,我们更建议将它配置成一个集群。例如,类似redis cluster

 

Redis cluster集群内的Redis互为多组主从,同时每个节点都可以接受请求,在拓展集群的时候比较方便

客户端可以向任意一个节点发送请求,如果是它的“负责”的内容,则直接返回内容。否则,查找实际负责Redis节点,然后将地址告知客户端,客户端重新请求

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

对于使用缓存服务的客户端来说,这一切是透明的

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

内存缓存服务在切换的时候,是有一定风险的。从A集群切换到B集群的过程中,必须保证B集群提前做好“预热”(B集群的内存中的热点数据,应该尽量与A集群相同,否则,切换的一瞬间大量请求内容,在B集群的内存缓存中查找不到,流量直接冲击后端的数据库服务,很可能导致数据库宕机)

 

 

减少数据库“写”

 

上面的机制,都实现减少数据库的“读”的操作,

是,写的操作也是一个大的压力

写的操作,虽然无法减少,但是可以通过合并请求,来起到减轻压力的效果

这个时候,我们就需要在内存缓存集群和数据库集群之间,建立一个修改同步机制

 

先将修改请求生效在cache中,让外界查询显示正常,然后将这些sql修改放入到一个队列中存储起来,队列满或者每隔一段时间,合并为一个请求到数据库中更新数据库

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

除了上述通过改变系统架构的方式提升写的性能外,MySQL本身也可以通过配置参数innodb_flush_log_at_trx_commit来调整写入磁盘的策略。如果机器成本允许,从硬件层面解决问题,可以选择老一点的RAID(Redundant Arrays of independent Disks,磁盘列阵)或者比较新的SSD(Solid State Drives,固态硬盘)

 

 

NoSQL存储

 

不管数据库的读还是写,当流量再进一步上涨,终会达到“人力有穷时”的场景。

续加机器的成本比较高,并且不一定可以真正解决问题的时候

这个时候,部分核心数据,就可以考虑使用NoSQL的数据库

NoSQL存储,大部分都是采用key-value的方式,这里比较推荐使用上面介绍过Redis,Redis本身是一个内存cache,同时也可以当做一个存储来使用,让它直接将数据落地到磁盘

 

这样的话,我们就将数据库中某些被频繁读写的数据,分离出来,放在我们新搭建的Redis存储集群中,又进一步减轻原来MySQL数据库的压力,同时因为Redis本身是个内存级别的Cache,读写的性能都会大幅度提升

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

国内一线互联网公司,架构上采用的解决方案很多是类似于上述方案,不过,使用的cache服务却不一定是Redis,他们会有更丰富的其他选择,甚至根据自身业务特点开发出自己的NoSQL服务

 

 

空节点查询问题

 

当我们搭建完前面所说的全部服务,认为Web系统已经很强的时候

我们还是那句话,新的问题还是会来的

空节点查询,是指那些数据库中根本不存在的数据请求

例如,我请求查询一个不存在人员信息,系统会从各级缓存逐级查找,最后查到到数据库本身,然后才得出查找不到的结论,返回给前端。因为各级cache对它无效,这个请求是非常消耗系统资源的,而如果大量的空节点查询,是可以冲击到系统服务的

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇

 

 

因此,为了维护Web系统的稳定性,设计适当的空节点过滤机制,非常有必要

我们当时采用的方式,就是设计一张简单的记录映射表。将存在的记录存储起来,放入到一台内存cache中,这样的话,如果还有空节点查询,则在缓存这一层就被阻挡了

《架构师36项修炼》分布式系统集群的搭建 -- 存储篇


推荐阅读
  • 本文由编程笔记小编整理,介绍了PHP中的MySQL函数库及其常用函数,包括mysql_connect、mysql_error、mysql_select_db、mysql_query、mysql_affected_row、mysql_close等。希望对读者有一定的参考价值。 ... [详细]
  • 计算机存储系统的层次结构及其优势
    本文介绍了计算机存储系统的层次结构,包括高速缓存、主存储器和辅助存储器三个层次。通过分层存储数据可以提高程序的执行效率。计算机存储系统的层次结构将各种不同存储容量、存取速度和价格的存储器有机组合成整体,形成可寻址存储空间比主存储器空间大得多的存储整体。由于辅助存储器容量大、价格低,使得整体存储系统的平均价格降低。同时,高速缓存的存取速度可以和CPU的工作速度相匹配,进一步提高程序执行效率。 ... [详细]
  • 本文介绍了在Oracle数据库中创建序列时如何选择cache或nocache参数。cache参数可以提高序列的存取速度,但可能会导致序列丢失;nocache参数可以避免序列丢失,但在高并发访问时可能导致性能问题。文章详细解释了两者的区别和使用场景。 ... [详细]
  • Java学习笔记之使用反射+泛型构建通用DAO
    本文介绍了使用反射和泛型构建通用DAO的方法,通过减少代码冗余度来提高开发效率。通过示例说明了如何使用反射和泛型来实现对不同表的相同操作,从而避免重复编写相似的代码。该方法可以在Java学习中起到较大的帮助作用。 ... [详细]
  • 本文介绍了OkHttp3的基本使用和特性,包括支持HTTP/2、连接池、GZIP压缩、缓存等功能。同时还提到了OkHttp3的适用平台和源码阅读计划。文章还介绍了OkHttp3的请求/响应API的设计和使用方式,包括阻塞式的同步请求和带回调的异步请求。 ... [详细]
  • 本文详细介绍了SQL日志收缩的方法,包括截断日志和删除不需要的旧日志记录。通过备份日志和使用DBCC SHRINKFILE命令可以实现日志的收缩。同时,还介绍了截断日志的原理和注意事项,包括不能截断事务日志的活动部分和MinLSN的确定方法。通过本文的方法,可以有效减小逻辑日志的大小,提高数据库的性能。 ... [详细]
  • eclipse学习(第三章:ssh中的Hibernate)——11.Hibernate的缓存(2级缓存,get和load)
    本文介绍了eclipse学习中的第三章内容,主要讲解了ssh中的Hibernate的缓存,包括2级缓存和get方法、load方法的区别。文章还涉及了项目实践和相关知识点的讲解。 ... [详细]
  • Java String与StringBuffer的区别及其应用场景
    本文主要介绍了Java中String和StringBuffer的区别,String是不可变的,而StringBuffer是可变的。StringBuffer在进行字符串处理时不生成新的对象,内存使用上要优于String类。因此,在需要频繁对字符串进行修改的情况下,使用StringBuffer更加适合。同时,文章还介绍了String和StringBuffer的应用场景。 ... [详细]
  • 本文详细介绍了在ASP.NET中获取插入记录的ID的几种方法,包括使用SCOPE_IDENTITY()和IDENT_CURRENT()函数,以及通过ExecuteReader方法执行SQL语句获取ID的步骤。同时,还提供了使用这些方法的示例代码和注意事项。对于需要获取表中最后一个插入操作所产生的ID或马上使用刚插入的新记录ID的开发者来说,本文提供了一些有用的技巧和建议。 ... [详细]
  • 开发笔记:select from具体执行相关知识介绍及案例分析
    本文由编程笔记小编整理,主要介绍了select from具体执行相关的知识,包括数据插入、查询最小rowID、查询每个重复名字的最小rowID、删除重复数据等操作,并提供了案例分析。希望对读者有一定的参考价值。 ... [详细]
  • Java中包装类的设计原因以及操作方法
    本文主要介绍了Java中设计包装类的原因以及操作方法。在Java中,除了对象类型,还有八大基本类型,为了将基本类型转换成对象,Java引入了包装类。文章通过介绍包装类的定义和实现,解答了为什么需要包装类的问题,并提供了简单易用的操作方法。通过本文的学习,读者可以更好地理解和应用Java中的包装类。 ... [详细]
  • 本文介绍了关于smarty自定义缓存名的解决思路,通过放弃生成缓存,直接生成html的静态页面来提高速度。同时提供了一个参考链接供参考。 ... [详细]
  • 一句话解决高并发的核心原则
    本文介绍了解决高并发的核心原则,即将用户访问请求尽量往前推,避免访问CDN、静态服务器、动态服务器、数据库和存储,从而实现高性能、高并发、高可扩展的网站架构。同时提到了Google的成功案例,以及适用于千万级别PV站和亿级PV网站的架构层次。 ... [详细]
  • 本文介绍了操作系统的定义和功能,包括操作系统的本质、用户界面以及系统调用的分类。同时还介绍了进程和线程的区别,包括进程和线程的定义和作用。 ... [详细]
  • Todayatworksomeonetriedtoconvincemethat:今天在工作中有人试图说服我:{$obj->getTableInfo()}isfine ... [详细]
author-avatar
天崖人B
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有