CPUCache模型

    计算机中&＃xff0c;所有的运算操作都是由CPU的寄存器来完成的&＃xff0c;CPU指令的执行过程需要涉及数据的读取和写入操作&＃xff0c;CPU所能访问的所有数据只能是计算机的主存&＃xff08;通常RAM&＃xff09;。

    CPU和主存两边的速度严重的不对等&＃xff0c;通过传统FSB(Front Side Bus)直接内存的访问方式很明显会导致CPU资源受到大量的限制&＃xff0c;降低CPU整体的吞吐量&＃xff0c;于是才有了在CPU和主内存之间增加缓存的设计&＃xff0c;缓存有一级缓存&＃xff08;一级缓存又分为一级指令缓存和一级数据缓存&＃xff09;、二级缓存、三级缓存&＃xff0c;主存到CPU之间的缓存的访问速度是越来越快的&＃xff0c;这种方式极大的提高了CPU的吞吐能力&＃xff0c;缓存模型如下&＃xff1a;

CPU Cache中的最小缓存单位是Cache Line&＃xff0c;CPU缓存由许多个Cache Line构成&＃xff0c;一个缓存行64个字节。由于缓存的出现&＃xff0c;虽然提高了CPU的吞吐能力&＃xff0c;但是同时也引入了缓存不一致的问题。比如在多线程时i&＃43;&＃43;就可能会产生缓存不一致性的问题。主流的解决方案是&＃xff1a;

1、锁总线

2、通过缓存一致性协议

锁总线是一种悲观的实现方式&＃xff0c;CPU和其他组建的通信都是通过总线&＃xff08;数据总线、控制总线、地址总线&＃xff09;来进行&＃xff0c;如果采用总线加锁的方式&＃xff0c;则会阻塞其他CPU对其他组建的访问&＃xff0c;从而使得只有一个CPU能够访问这个变量的内存&＃xff0c;这种方式效率低下&＃xff0c;一般都是通过第二种方式来解决不一致的问题。

缓存一致性协议中的MESI协议保证了每个缓存中使用的共享变量副本都是一致的。当CPU在操作Cache中的数据时&＃xff0c;如果发现该变量是一个共享变量&＃xff0c;也就是说在其他的CPU Cache中也存在一个副本&＃xff0c;那么进行如下操作&＃xff1a;

1、读取操作&＃xff0c;不做任何处理&＃xff0c;只是将Cache中的数据读取到寄存器。

2、写入操作&＃xff0c;发出信号通知其他CPU将该变量的Cache Line置为无效状态&＃xff0c;其他CPU在进行该变量读取的时候不得不到主内存中再次获取。

这里举个栗子&＃xff1a;如果x&＃xff0c;y变量在一个缓存行里&＃xff0c;开启两个线程对x和y变量进行修改&＃xff0c;那么一个线程修改x/y变量时得通知另一个线程修改过了x/y变量&＃xff0c;这样会影响它的性能。

如果我们把x和y放在不同的缓存行里&＃xff0c;那么它们之间就不会相互影响&＃xff0c;这个也叫缓存行对齐。

补充知识&＃xff1a;

一个java对象在内存中的存储布局&＃xff1a;对象头markword&＃xff08;8个字节&＃xff09;、类型指针class pointer&＃xff08;8个字节&＃xff0c;经过压缩后是4个字节&＃xff09;、实例数据instance data(看实际的数据大小&＃xff0c;比如一个long类型对象占8个字节)&＃xff0c;对齐padding&＃xff08;这块是看前面的数据量能否被8个字节整除&＃xff0c;不能才去补齐&＃xff0c;比如markword—8字节&＃43;class pointer—8字节&＃43;instance data—long类型&＃43;int类型—8&＃43;4字节&＃xff0c;那么padding就是4字节&＃xff09;。

那么x所在的对象里加上一些冗余的数据使得该对象为64字节&＃xff0c;那么x和y就不在一个缓存行了。实际应用中&＃xff0c;如disruptor就采用了缓存行对齐伪共享的技术提升了性能。