热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

学习笔记SQLSERVER的LATCH

昨天聊了下SQLSERVER的spinlock,当时我认为spinlock是与Orac
昨天聊了下SQLSERVER的spinlock,当时我认为spinlock是与Oracle LATCH相对应的结构,事实上碎片化的阅读会带来一些知识掌握的不准确。Oracle的LATCH是通过spin来实现锁的获取的,spin是LATCH获取轻量级锁的一种方式。而在SQLSERVER中,LATCH和spinlock被设计成两种轻量级锁,分别用于不同的场景。Oracle有shared pool,library cache等结构,可以用shared pool闩锁来保护整个共享池,共享池中新增的一些乱七八糟的数据结构可以通过shared pool闩锁以及mutex来实现串行化访问保护。
SQLSERVER中并无此类机制,因此对于一些重度访问的内存结构,设计了LATCH来保护,而其他的一些数据结构,使用spinlock。在SQLSERVER中,总是使用spinlock来保护那些访问十分快速的内存结构。
LATCH是 SQL Server 的SQL引擎用来保证内存结构的一致性的轻量级原子操作用来保护索引、数据页和内部结构等结构,例如 B 树中的非叶页。LATCH仅存在于SQL引擎内部。SQL Server 使用缓冲LATCH来保护缓冲池中的页面,并使用 I/O LATCH来保护尚未加载到缓冲池中的页面。每当向 SQL Server 缓冲池中的页面写入或读取数据时,工作线程必须首先获取该页面的缓冲LATCH。有多种缓冲LATCH类型可用于访问缓冲池中的页面,包括独占LATCH (PAGELATCH_EX) 和共享LATCH(PAGELATCH_SH)。
当 SQL Server访问一个尚未加载到缓冲池中的页面时,将通过一个异步 I/O操作将该页面加载到缓冲池中。如果 SQL Server 需要等待 I/O 子系统响应,它将根据请求类型等待独占 (PAGEIOLATCH_EX) 或共享 (PAGEIOLATCH_SH) I/O LATCH;这样做是为了防止另一个工作线程使用不兼容的LATCH将同一页面加载到缓冲池中。LATCH还用于保护对缓冲池页面以外的内部存储器结构的访问;这些被称为非缓冲LATCH。
PAGELATCH的争用在多 CPU 系统十分常见。当多个线程同时尝试获取相同内存结构的不兼容LATCH时,就会发生LATCH争用。闩锁是一种内部并发控制机制,SQL 引擎会自动确定何时使用它们。因为闩锁的行为是确定性的,数据库SCHEMA的设计,表、索引等的设计会影响闩锁争用。
非缓存页的闩锁名称为LATCH_XX,其中“_XX”后缀表示了闩锁的模式(PAGEIOLATCH/PAGELATCH也使用后缀表示模式)。SQL Server 的闩锁模式可以总结如下:

lKP——保持LATCH,确保引用的结构不会被破坏。当线程想要查看缓冲区结构时使用。因为 KP LATCH兼容除销毁(DT)之外的所有LATCH,因此 KP 闩锁被认为是“轻量级”的,这意味着使用它时对性能的影响最小。由于 KP 闩锁与 DT 闩锁不兼容,它会阻止任何其他线程破坏引用的结构。KP 闩锁将防止它引用的结构被lazywriter 进程破坏(脏块写盘并释放缓冲);

lSH -- 共享闩锁,需要读取引用的结构(例如读取数据页)。多个线程可以同时访问共享闩锁下的资源以进行读取。

lUP——更新闩锁,与 SH(共享闩锁)和 KP 兼容,但不兼容其他闩锁,因此不允许 EX 闩锁写入引用的结构。

lEX——独占闩锁,阻止其他线程写入或读取引用的结构。一个使用示例是修改页面内容以保护页面损坏。

lDT -- 销毁闩锁,必须在销毁引用结构的内容之前获取。例如,lazywriter 进程必须获取一个 DT 闩锁以释放一个干净的页面,然后再将其添加到可供其他线程使用的空闲缓冲区列表中。

上面的描述中关于闩锁兼容性的描述,可以用上表来表示。如果我们看到一个闩锁,可以通过”_”之后的后缀来区分其模式。比如PAGEIOLATCH_EX是一个独享的PAGEIOLATCH,LATCH_DT是一个非缓冲区保护的销毁闩锁。
和Oracle的子闩锁类似,SQLSERVER也存在类似的结构,称为superlatch或者sublatch。目的是使用多个子闩锁来提高闩锁的并发性能。SQLSERVER使用多线程结构,并采用缓冲区动态扩展的方式。因此superlatch机制与NUMA架构做了一些优化,使之更好的适应NUMA。
随着基于 NUMA 的多路/多核系统的出现越来越多,SQL Server 2005开始引入了 SuperLatches,也称为子闩锁,superlatch仅在具有 32 个或更多逻辑处理器的系统上自动启用。Superlatch 提高了 SQL 引擎在高并发 OLTP 工作负载中某些场景的效率;例如,当某些页面具有重度只读共享 (SH) 访问模式,但很少写入。具有这种访问模式的页面的一个示例是 B 树(即索引)根页面;SQL 引擎要求在 B 树中的任何级别发生页面拆分时,在根页面上保留一个共享闩锁。在插入繁重和高并发的 OLTP 工作负载中,页面拆分的数量将随着吞吐量的增加而大幅增加,这会降低性能。
SuperLatches 可以提高访问共享页面的性能,其中多个并发运行的工作线程需要 SH 闩锁。为此,SQL Server 引擎会将此类页面上的闩锁动态提升为 SuperLatch。
SuperLatch 将单个闩锁划分为一组子闩锁结构,每个 CPU 内核分配一个子闩锁,因此主闩锁成为代理重定向器,只读闩锁不需要全局状态同步。这样做时,访问某个内存总是分配给特定 CPU 的worker线程只需要获取分配给本地调度程序的共享 (SH) 子闩锁。
在为大型服务器设计的高吞吐量系统上,必定会出现高并发的闩锁争用,在此类系统中存在闩锁争用是十分正常的现象。但是当闩锁争用和闩锁等待类型等待时间大到足以降低 CPU 利用率的情况下,系统的整体吞吐量会严重下降。识别和识别闩锁争用的迹象很重要,所以让我们必须有能力来分析这种情况。SQL Server 闩锁的预期行为(与每秒事务数相关)是每秒事务数将随着平均 SQL Server 闩锁等待时间的增加而增加,其本身以缓慢的速度增加。如果数据库并发增长的趋势与闩锁等待的趋势十分接近,那么闩锁争用并没有产生额外的负面影响。如果闩锁等待幅度远远超过数据库负载的增长,那么就说明闩锁出现了严重的争用。这个判断原则在大多数情况下是有效的。
我已经比较长时间没有仔细阅读数据库厂商官方的白皮书了,通过这两天的学习,我学到了一个分析数据的方法。实际上有些指标之间是存在较为同步的关联关系的,通过上升或者下降的幅度(可以通过统计学方法计算出一个可评估的度量)之间的对比,可以发现一些系统的性能问题。以前我们做了一个指标关联性分析工具,用于发现数据库某个指标异常可能存在的问题。实际上用这种更为简单的算法,也可以发现系统中存在的一些背离预期行为的场景,并用于告警。
可能有朋友有些疑问,高并发必然有LATCH争用,必然有spinlock问题,为什么还要去这么较真的分析其原理呢?分析闩锁与spinlock的一些原理的问题并不是仅仅为了分析原理,而是要更好的用到诊断中。通过理解这些内部原理,我们可以更好的了解SQL SERVER的缓存区、IO、SQL引擎的工作原理,掌握SQL SERVER复杂问题的分析诊断与问题溯源的能力。
通过这几天的SQL SERVER内部原理的一些零散的学习,在我的脑子里SQL SERVER与Oracle的差别越来越清晰。分析问题的时候,既可以运用Oracle的一些已知原理去分析SQL SERVER的问题,又可以不僵化的刻舟求剑。今天早上我重新梳理了一下SQL SERVER IO问题分析的诊断思路,为这个思维导图增加了一些细节。
利用上面这张图去分析SQL SERVER的问题,基本上能够覆盖大部分常见问题了。我们将把这个知识图谱建立在D-SMART中。利用自动化工具来自动分析SQL SERVERIO性能问题。实际上大多数知识图谱都是通过这样的方法构建出来的。有一些是基于专家经验,有一些是基于官方文档,有一些是基于生产环境中遇到的案例与实践。


推荐阅读
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • 基于PgpoolII的PostgreSQL集群安装与配置教程
    本文介绍了基于PgpoolII的PostgreSQL集群的安装与配置教程。Pgpool-II是一个位于PostgreSQL服务器和PostgreSQL数据库客户端之间的中间件,提供了连接池、复制、负载均衡、缓存、看门狗、限制链接等功能,可以用于搭建高可用的PostgreSQL集群。文章详细介绍了通过yum安装Pgpool-II的步骤,并提供了相关的官方参考地址。 ... [详细]
  • t-io 2.0.0发布-法网天眼第一版的回顾和更新说明
    本文回顾了t-io 1.x版本的工程结构和性能数据,并介绍了t-io在码云上的成绩和用户反馈。同时,还提到了@openSeLi同学发布的t-io 30W长连接并发压力测试报告。最后,详细介绍了t-io 2.0.0版本的更新内容,包括更简洁的使用方式和内置的httpsession功能。 ... [详细]
  • 本文介绍了在Oracle数据库中创建序列时如何选择cache或nocache参数。cache参数可以提高序列的存取速度,但可能会导致序列丢失;nocache参数可以避免序列丢失,但在高并发访问时可能导致性能问题。文章详细解释了两者的区别和使用场景。 ... [详细]
  • Oracle优化新常态的五大禁止及其性能隐患
    本文介绍了Oracle优化新常态中的五大禁止措施,包括禁止外键、禁止视图、禁止触发器、禁止存储过程和禁止JOB,并分析了这些禁止措施可能带来的性能隐患。文章还讨论了这些禁止措施在C/S架构和B/S架构中的不同应用情况,并提出了解决方案。 ... [详细]
  • 一句话解决高并发的核心原则
    本文介绍了解决高并发的核心原则,即将用户访问请求尽量往前推,避免访问CDN、静态服务器、动态服务器、数据库和存储,从而实现高性能、高并发、高可扩展的网站架构。同时提到了Google的成功案例,以及适用于千万级别PV站和亿级PV网站的架构层次。 ... [详细]
  • MySQL中的MVVC多版本并发控制机制的应用及实现
    本文介绍了MySQL中MVCC的应用及实现机制。MVCC是一种提高并发性能的技术,通过对事务内读取的内存进行处理,避免写操作堵塞读操作的并发问题。与其他数据库系统的MVCC实现机制不尽相同,MySQL的MVCC是在undolog中实现的。通过undolog可以找回数据的历史版本,提供给用户读取或在回滚时覆盖数据页上的数据。MySQL的大多数事务型存储引擎都实现了MVCC,但各自的实现机制有所不同。 ... [详细]
  • 本文介绍了如何使用Power Design(PD)和SQL Server进行数据库反向工程的方法。通过创建数据源、选择要反向工程的数据表,PD可以生成物理模型,进而生成所需的概念模型。该方法适用于SQL Server数据库,对于其他数据库是否适用尚不确定。详细步骤和操作说明可参考本文内容。 ... [详细]
  • eclipse学习(第三章:ssh中的Hibernate)——11.Hibernate的缓存(2级缓存,get和load)
    本文介绍了eclipse学习中的第三章内容,主要讲解了ssh中的Hibernate的缓存,包括2级缓存和get方法、load方法的区别。文章还涉及了项目实践和相关知识点的讲解。 ... [详细]
  • 本文介绍了Hyperledger Fabric外部链码构建与运行的相关知识,包括在Hyperledger Fabric 2.0版本之前链码构建和运行的困难性,外部构建模式的实现原理以及外部构建和运行API的使用方法。通过本文的介绍,读者可以了解到如何利用外部构建和运行的方式来实现链码的构建和运行,并且不再受限于特定的语言和部署环境。 ... [详细]
  • 图解redis的持久化存储机制RDB和AOF的原理和优缺点
    本文通过图解的方式介绍了redis的持久化存储机制RDB和AOF的原理和优缺点。RDB是将redis内存中的数据保存为快照文件,恢复速度较快但不支持拉链式快照。AOF是将操作日志保存到磁盘,实时存储数据但恢复速度较慢。文章详细分析了两种机制的优缺点,帮助读者更好地理解redis的持久化存储策略。 ... [详细]
  • 基于事件驱动的并发编程及其消息通信机制的同步与异步、阻塞与非阻塞、IO模型的分类
    本文介绍了基于事件驱动的并发编程中的消息通信机制,包括同步和异步的概念及其区别,阻塞和非阻塞的状态,以及IO模型的分类。同步阻塞IO、同步非阻塞IO、异步阻塞IO和异步非阻塞IO等不同的IO模型被详细解释。这些概念和模型对于理解并发编程中的消息通信和IO操作具有重要意义。 ... [详细]
  • soatest新建db工具,执行sql语句的步骤和注意事项
    本文介绍了在soatest中新建db工具并执行sql语句的步骤和注意事项,包括设置数据库连接参数、使用配置文件的方法编写sql查询语句、增加oracle驱动连接jar包、运行测试用例以及查看查询结果。详细说明了每个步骤的操作和相关注意事项。 ... [详细]
  • 如何利用 Myflash 解析 binlog ?
    本文主要介绍了对Myflash的测试,从准备测试环境到利用Myflash解析binl ... [详细]
  • Oracle :修改数据库服务器字符集 ... [详细]
author-avatar
艺静不循环_545_191
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有