高并发简单介绍说明

一、什么是高并发

高并发&＃xff08;High Concurrency&＃xff09;是互联网分布式系统架构设计中必须考虑的因素之一&＃xff0c;它通常是指&＃xff0c;通过设计保证系统能够同时并行处理很多请求。

高并发相关常用的一些指标有响应时间&＃xff08;Response Time&＃xff09;&＃xff0c;吞吐量&＃xff08;Throughput&＃xff09;&＃xff0c;每秒查询率QPS&＃xff08;Query Per Second&＃xff09;&＃xff0c;并发用户数等。

响应时间&＃xff1a;系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms&＃xff0c;这个200ms就是系统的响应时间。

吞吐量&＃xff1a;单位时间内处理的请求数量。

QPS&＃xff1a;每秒响应请求数。在互联网领域&＃xff0c;这个指标和吞吐量区分的没有这么明显。

并发用户数&＃xff1a;同时承载正常使用系统功能的用户数量。例如一个即时通讯系统&＃xff0c;同时在线量一定程度上代表了系统的并发用户数。

二&＃xff0c;常见的互联网分层架构

常见互联网分布式架构如上&＃xff0c;分为&＃xff1a;

&＃xff08;1&＃xff09;客户端层&＃xff1a;典型调用方是浏览器browser或者手机应用APP

&＃xff08;2&＃xff09;反向代理层&＃xff1a;系统入口&＃xff0c;反向代理

&＃xff08;3&＃xff09;站点应用层&＃xff1a;实现核心应用逻辑&＃xff0c;返回html或者json

&＃xff08;4&＃xff09;服务层&＃xff1a;如果实现了服务化&＃xff0c;就有这一层

&＃xff08;5&＃xff09;数据-缓存层&＃xff1a;缓存加速访问存储

&＃xff08;6&＃xff09;数据-数据库层&＃xff1a;数据库固化数据存储

高并发&＃xff08;High Concurrency&＃xff09;是互联网分布式系统架构设计中必须考虑的因素之一&＃xff0c;它通常是指&＃xff0c;通过设计保证系统能够同时并行处理很多请求。

提高系统并发能力的方式&＃xff0c;方法论上主要有两种&＃xff1a;垂直扩展&＃xff08;Scale Up&＃xff09;与水平扩展&＃xff08;Scale Out&＃xff09;。前者垂直扩展可以通过提升单机硬件性能&＃xff0c;或者提升单机架构性能&＃xff0c;来提高并发性&＃xff0c;但单机性能总是有极限的&＃xff0c;互联网分布式架构设计高并发终极解决方案还是后者&＃xff1a;水平扩展。

互联网分层架构中&＃xff0c;各层次水平扩展的实践又有所不同&＃xff1a;

&＃xff08;1&＃xff09;反向代理层可以通过“DNS轮询”的方式来进行水平扩展&＃xff1b;

&＃xff08;2&＃xff09;站点层可以通过nginx来进行水平扩展&＃xff1b;

&＃xff08;3&＃xff09;服务层可以通过服务连接池来进行水平扩展&＃xff1b;

&＃xff08;4&＃xff09;数据库可以按照数据范围&＃xff0c;或者数据哈希的方式来进行水平扩展&＃xff1b;

各层实施水平扩展后&＃xff0c;能够通过增加服务器数量的方式来提升系统的性能&＃xff0c;做到理论上的性能无限。