1. 并发编程的 3 个概念
并发编程时, 要想并发程序正确地执行, 必须要保证原子性, 可见性和有序性. 只要有一个没有被保证, 就有可能会导致程序运行不正确.
1.1. 原子性
原子性: 即一个或多个操作要么全部执行并且执行过程中不会被打断, 要么都不执行.
一个经典的例子就是银行转账: 从账户 A 向账户 B 转账 1000 元, 此时包含两个操作: 账户 A 减去 1000 元, 账户 B 加上 1000 元. 这两个操作必须具备原子性才能保证转账安全. 假如账户 A 减去 1000 元之后, 操作被打断了, 账户 B 却没有收到转过来的 1000 元, 此时就出问题了.
1.2. 可见性
可见性: 即多个线程访问同一个变量时, 一个线程修改了这个变量的值, 其他线程能够立即看得到修改的最新值.
例如下段代码, 线程 1 修改 i 的值, 线程 2 却没有立即看到线程 1 修改的 i 的最新值:
- // 线程 1 执行的代码
- int i = 0;
- i = 10;
- // 线程 2 执行的代码
- j = i;
假如执行线程 1 的是 CPU1, 执行线程 2 的是 CPU2. 当线程 1 执行 i=10 时, 会将 CPU1 的高速缓存中 i 的值赋值为 10, 却没有立即写入主内存中. 此时线程 2 执行 j=i, 会先从主内存中读取 i 的值并加载到 CPU2 的高速缓存中, 此时主内存中的 i=0, 那么就会使得 j 最终赋值为 0, 而不是 10.
1.3. 有序性
有序性: 即程序执行的顺序按代码的先后顺序执行.
例如下面这段代码:
- int i = 0;
- boolean flag = false;
- i = 1;
- flag = true;
在代码顺序上
i=1
在
flag=true
前面, 而 JVM 在真正执行代码的时候不一定能保证
i=1 在 flag=true 前面执行, 这里就发生了指令重排序.
指令重排序
一般是为了提升程序运行效率, 编译器或处理器通常会做指令重排序:
编译器重排序: 编译器在不改变单线程程序语义的前提下, 可以重新安排语句的执行顺序
处理器重排序: 如果不存在数据依赖性, 处理器可以改变语句对应机器指令的执行顺序. CPU 在指令重排序时会考虑指令之间的数据依赖性, 如果指令 2 必须依赖用到指令 1 的结果, 那么 CPU 会保证指令 1 在指令 2 之前执行.
指令重排序不保证程序中各个语句的执行顺序和代码中的一致, 但会保证程序最终执行结果和代码顺序执行的结果是一致的. 比如上例中的代码,
i=1
和 flag=true 两个语句先后执行对最终的程序结果没有影响, 就有可能 CPU 先执行 flag=true, 后执行 i=1.
2. java 内存模型
由于 volatile 关键字是与 java 内存模型相关的, 因此了解 volatile 前, 需要先了解下 java 内存模型相关概念
2.1. 硬件效率与缓存一致性
计算机执行程序时, 每条指令都是在 CPU 中执行的, 而执行指令过程中, 势必涉及到数据的读取和写入. CPU 在与内存交互时, 需要读取运算数据, 存储结果数据, 这些 I/O 操作的速度与 CPU 的处理速度有几个数量级的差距, 所以不得不加入一层读写速度尽可能接近 CPU 运算速度的高速缓存 (Cache) 来作为内存与 CPU 之间的缓冲: 将运算需要使用的数据复制到高速 Cache 中; 运算结束后再从高速 Cache 同步回内存中. 这样 CPU 就无需等待缓慢的内存读写了.
这在单线程中运行是没有问题的, 但在多线程中运行就引入了 缓存一致性 的问题: 在多处理系统中, 每个处理器都有自己的高速缓存, 而它们又共享同一主内存. 当多个 CPU 的运算任务都涉及同一主内存区域时, 将可能导致各自的缓存数据不一致, 此时同步回主内存时以谁的数据为准呢?
为了解决缓存一致性问题, 通常有两种解决方法:
在总线加 LOCK# 锁的方式
缓存一致性协议
早期的 CPU 中, 通过在总线上加 LOCK# 锁的形式来解决, 因为 CPU 在和其他部件通信时都是通过总线进行, 如果对总线加 LOCK# 锁, 也就阻塞了 CPU 对其他部件访问(如内存), 而使得只能有一个 CPU 使用这个变量的内存.
但这种方式有一个问题, 在锁住总线期间, 其他 CPU 无法访问内存, 导致效率低下.
所有就出现了缓存一致性协议, 最著名的就是 Intel 的 MESI 协议, MESI 协议保证了每个缓存中使用的共享变量的副本是一致的, 它的核心思想是: CPU 写数据时, 如果操作的变量是共享变量(其他 CPU 的高速缓存中也存在该变量的副本), 会发出信号通知其他 CPU 将该变量的缓存设置为无效状态, 那么当其他 CPU 读取该变量时, 就会从内存重新读取.
JVM 有自己的内存模型, 在访问缓存时, 遵循一些协议来解决缓存一致性的问题.
2.2. 主内存和工作内存
Java 虚拟机规范中试图定义一种 Java 内存模型 (JMM, Java Memory Model) 来屏蔽硬件和操作系统的内存访问差异, 实现 Java 程序在各种平台上达到一致的内存访问效果.
Java 内存模型主要目标: 是定义程序中各个变量的访问规则, 即存储变量到内存和从内存中取出变量这样的底层细节. 为了较好的执行性能, Java 内存模型并没有限制使用 CPU 的寄存器和高速缓存来提升指令执行速度, 也没有限制编译器对指令做重排序. 也就是说: 在 Java 内存模型中, 也会存在缓存一致性问题和指令重排序问题.
Java 内存模型规定所有的变量 (包括实例字段, 静态字段, 构成数组对象的元素, 不包括线程私有的局部变量和方法参数, 因为这些不会出现竞争问题) 都存储在主内存中, 每条线程有自己的工作内存 (可与之前将讲的 CPU 高速缓存类比), 线程的工作内存中保存了被该线程使用到的变量的主内存拷贝副本. 线程对变量的所有操作(read,write) 都必须在工作内存中进行, 而不能直接读写主内存中的变量, 线程间变量值的传递需要通过主内存来完成. 如图所示:
2.3. JMM 如何处理原子性
像以下语句:
- x = 10; // 语句 1
- y = x; // 语句 2
- x++; // 语句 3
- x = x + 1; // 语句 4
只有语句 1 才是原子性的操作, 其他都不是原子性操作.
语句 1 是直接将 10 赋值给 x 变量, 也就是说线程执行这个语句时, 会直接将 10 写入到工作内存中.
语句 2 包含了两个操作, 先读取 x 的值, 然后将 x 的值写入到工作内存赋值给 y, 这两个操作合起来就不是原子性操作了.
语句 3 和 4 都包括 3 个操作, 先读取 x 的值, 然后加 1 操作, 最后写入新值.
单线程环境下, 我们可以认为整个步骤都是原子性的. 但多线程环境下则不同, 只有基本数据类型的访问读写是具备原子性的, 如果还需要提供更大范围的原子性保证, 可以使用同步代码块 -- synchronized 关键字. 在 synchronized 块之间的操作具备原子性.
2.4. JMM 如何处理可见性
Java 内存模型是通过变量修改后将新值同步回主内存, 在变量读取前从主内存刷新变量值这种依赖主内存作为传递媒介的方式实现可见性的. 普通变量和 volatile 变量都如此, 区别在于:
volatile 特殊规则保证了新值能立即同步回主内存, 以及每次改前立即从主内存刷新. 因此 volatile 变量保证了多线程操作时变量的可见性
而普通变量无法保证这一点, 因为普通的共享变量修改后, 什么时候同步写回主内存是不确定的, 其他线程读取时, 此时内存中的可能还是原来的旧值.
除了 volatile 变量外, synchronized 和 final 关键字也能实现可见性.
synchronized 同步块的可见性是由:
对一个变量执行 unlock 操作前, 必须先把此变量同步回主内存中
这条规则获得的.
final 可见性是指:
被 final 修饰的字段在构造器中一旦初始化完成, 并且构造器没有把 this 的引用传递出去, 那在其他线程中就能看见 final 字段的值
.
2.5. JMM 如何处理有序性
Java 程序中天然的有序性可概括为一句话: 如果在本线程内观察, 所有的操作都是有序的; 如果在一个线程中观察另一个线程, 所有的操作都是无序的. 前半句指:
线程内表现为串行语义
, 后半句是指: 指令重排序现象和
工作内存和主内存同步延迟
现象
Java 中提供了 volatile 和 synchronized 关键字来保证线程之间操作的有序性. volatile 本身就包含了禁止指令重排序的语义, 而 synchronized 是由
一个变量在同一时刻只允许一条线程对其 lock 操作
这条规则获得, 这条规则决定了持有同一个锁的两个同步代码块只能串行的执行.
happens-before 原则
Java 内存模型中, 有序性保证不仅只有 synchronized 和 volatile, 否则一切操作都将变得繁琐. Java 中还有一个
happens-before 原则
, 它是判断线程是否安全的主要依据. 依靠这个规则, 可以保证程序的有序性, 如果两个操作的执行顺序无法从 happens-before 原则中推导出来, 则他们就不能保证有序性, 可以随意重排序.
happens-before(先行发生)
是 Java 内存模型中定义的两项操作之间的偏序关系, 如果操作 A 先行发生于操作 B, 那么就是说发生操作 B 之前, 操作 A 产生的影响能被操作 B 观察到. 影响包括修改内存中共享变量的值, 发送了消息, 调用了方法等.
下面是 Java 内存模型下的天然的先行发生关系, 这些关系无需任何同步就已经存在:
程序次序规则: 一个线程内, 按照代码顺序, 书写在前面的操作先行发生于书写在后面的操作. 准确的来说, 应该是控制流顺序, 而不是代码顺序, 因为要考虑分支, 循环等结构
管程锁定规则: 一个 unlock 操作先行发生于后面对同一个锁的 lock 操作
volatile 变量规则
: 对一个 volatile 变量的写操作先行发生于后面对这个变量的读操作
线程启动规则: Thread 对象的 start() 方法先行发生于此线程的每个一个动作
线程终止规则: 线程中所有的操作都先行发生于线程的终止检测, 我们可以通过 Thread.join() 方法结束, Thread.isAlive() 的返回值手段检测到线程是否已经终止执行
线程中断规则: 对线程 interrupt() 方法的调用先行发生于被中断线程的代码检测到中断事件的发生, 可通过 Thread.isinterrupted() 检测是否有中断发生
对象终结规则: 一个对象的初始化完成先行发生于他的 finalize() 方法的开始
传递规则: 如果操作 A 先行发生于操作 B, 而操作 B 又先行发生于操作 C, 则可以得出操作 A 先行发生于操作 C
第一条程序次序原则,"书写在前面的操作先行发生于书写在后面的操作", 这个应该是一段程序代码的执行在单线程中看起来是有序的, 因为虚拟机可能对程序代码中不存在数据依赖性的指令进行重排序, 但最终执行结果与顺序执行的结果是一致的. 而在多线程中, 无法保证程序执行的有序性.
第二条, 第三条分别是关于 synchronized 同步块 和 volatile 的规则. 第四至第七条是关于 Thread 线程的规则. 第八条是体现了 happens-before 原则的传递性.
下面是一个利用 happens-before 规则判断操作间是否具备顺序性的例子:
- private int value=0;
- public void setValue() {
- this.value = value;
- }
- public int setValue() {
- return value;
- }
这段是一段普通的 getter/setter 方法, 假如线程 A 先调用 (时间上的先后) 了 setValue(1), 然后线程 B 调用了同一个对象的 getValue(), 那么线程 B 的返回值是什么呢?
我们按以上 happens-before 规则分析:
由于存在线程 A 和线程 B 调用, 不在一个线程中, 程序次序原则则不适用;
没有同步快, 也没有 unlock 和 lock 操作, 所以管程锁定规则不适用;
由于 value 没有被 volatile 修饰, 所以
volatile 变量规则
不适用;
后面的线程启动, 终止, 中断, 终结和这里没有关系;
由于没有适用的 happens-before 规则, 最后的传递性也不适用
因此, 可以判定尽管线程 A 在操作时间上先与线程 B, 但无法确定线程 B 中 getValue() 的返回值, 也就是说, 这里的操作不是线程安全的.
该如何修复这个问题呢? 可以有两种方法:
将 getter/setter 定义为 synchronized 方法, 这样可以套用 管程锁定规则
使用 volatile 关键字修饰 value, 这样可以套用
volatile 变量规则
时间先后顺序和 happens-before 原则之间没有太大的关系, 所以当我们衡量并发安全问题时, 不要受到时间顺序的干扰, 一切应以 happens-before 原则为准.
3. volatile 实现原理
volatile 关键字是 JVM 提供的最轻量级的同步机制, 当一个变量定义为 volatile 后, 它将具有普通变量没有的两种特性:
保证此变量对所有线程的可见性
: 当一个线程修改了该变量的值, 新值对于其他线程来说是可以立即得知的.
禁止指令重排序优化
. 普通变量只能保证在方法执行过程中所有依赖赋值结果的地方都能获得正确的结果, 而不能保证变量赋值操作的顺序和代码中的顺序一致, 这也就是上文中提到的 Java 内存模型中所谓的 "线程内表现为串行语义".
3.1. volatile 保证原子性吗
基于 volatile 变量的运算在并发下并不一定是线程安全的. 因为 Java 里的运算并非原子操作, 例如下面是一个 volatile 变量自增运算的例子:
- public class VolatileTest {
- public static volatile int race = 0;
- public void increase() {
- race++;
- }
- public static void main(String[] args) {
- Thread[] threads = new Thread[20];
- for(int i=0; i<20; i++){
- threads[i] = new Thread( new Runnable() {
- @Override
- public void run() {
- for(int i=0; i<10000; i++)
- increase();
- };
- });
- threads[i].start();
- }
- while(Thread.activeCount()>1) // 等待所有累加的线程都结束
- Thread.yield();
- System.out.println(race);
- }
- }
这段代码发起了 20 个线程, 每个线程对 race 累加 10000 次, 如果并发正确的话, 输出结果应该是 200000. 而运行完这段代码后, 每次输出的结果不一样, 都是小于 200000.
问题就在于 race 通过 volatile 修饰只能保证每次读取的都是最新的值, 但不保证 race++ 是原子性的操作, 它包括读取变量的初始化, 加 1 操作, 将新值同步写到主内存 三步. 自增操作的三个子操作可能会分开执行.
假如某时刻 race 值为 10, 线程 A 对 race 做自增操作, 先读取 race 的最新值 10, 此时 volatile 保证了 race 的值在此刻是正确的, 但执行加 1 的时候, 其他线程可能已经将 race 的值加大了, 此时线程 A 工作内存中的 race 值就变成了过期的数据, 然后将过期较小的新值同步回主内存. 此时, 多个线程对 race 分别做了一次自增操作, 但可能主内存中的 race 值只增加了 1.
volatile 无法保证对变量的任何操作都是原子性的, 可以使用 synchronized 或 java.util.concurrent 中的原子类来修改.
3.2. volatile 保证可见性吗
下面代码, 线程 A 先执行, 线程 B 后执行
- // 线程 A
- boolean stop = false;
- while(!stop){
- doSomething();
- }
- // 线程 B
- stop = true;
这段代码在大多数时候, 能将线程 A 中的 while 循环结束, 但有时候也会导致无法结束线程, 造成一直 while 循环. 原因在于: 前面提到每个线程都有自己的工作内存, 线程 A 运行时, 会将 stop=false 的值同步一份在自己的工作内存中. 当线程 B 更新了 stop 的值为 true 后, 可能还没来得及同步到主内存中, 就去做其他事情了. 此时线程 B 中 stop=true 的修改对于线程 A 是可不见的, 导致线程 A 会一直循环下去.
如果将 stop 使用 volatile 修饰后, 就可以保证线程 A 能退出循环. 在于: 使用 volatile 关键字会强制将线程 B 修改的新值 stop 立即同步至主内存. 当线程 B 修改时, 会导致线程 A 工作内存中 stop 的缓存行无效, 反映到硬件上, 就是 CPU 的高速缓存中对应的缓存行无效. 线程 A 的工作内存中 stop 的缓存行无效后, 会到主内存中再次读取变量 stop 的新值. 从而 volatile 保证了共享变量的可见性.
3.3. volatile 保证有序性吗
volatile 可以通过禁止指令重排序来保证有序性, 有两层意思:
当程序执行到 volatile 变量的读操作或写操作时: 在其前面的操作肯定全部已经完成, 且结果对后面的操作可见. 在其后面的操作肯定还没进行
指令重排序优化时, 不能将 volatile 变量前面的语句放在其后面执行, 也不能将 volatile 变量后面的语句放到其前面执行.
举个例子如下, flag 是 volatile 变量, x/y 都是非 volatile 变量:
- x = 2; // 语句 1
- y = 0; // 语句 2
- flag = true; // 语句 3
- x = 4; // 语句 4
- y = -1; // 语句 5
在指令重排序时候, 因为 flag 是 volatile 变量. 所以执行到语句 3 时, 语句 1 和语句 2 必定是执行完成了, 且执行结果对语句 3, 语句 4 和语句 5 是可见的. 不会将语句 3 放到语句 1, 语句 2 前面, 也不会将语句 3 放到语句 4, 语句 5 后面. 语句 1 和语句 2 的顺序, 语句 4 和语句 5 的顺序是不做保证的.
下面是一个指令重排序会干扰程序并发执行的例子:
- Map config;
- volatile boolean init = false; // 变量定义为 volatile
- // 线程 A 执行
- // 读取配置信息, 读取完后将 init 设置为 true, 以通知其他线程配置使用
- config = loadConfig();
- init = true;
- // 线程 B 执行
- // 等待 init 为 true, 代表线程 A 已经将配置初始化好
- while(!init) {
- sleep();
- }
- doSomeThingWhihConfig(config); // 使用线程 A 中初始化好的配置信息
假如 init 变量没有使用 volatile 修饰, 可能由于指令重排序的优化, 导致线程 A 最后一句 init=true 提前执行(指这句代码对应的汇编代码被提前执行), 这样线程 B 中使用配置信息的代码就可能出错. 而使用 volatile 对 init 变量进行修饰, 就可以避免这种情况, 因为执行到 init=true 时, 可以保证 config 已经初始化好了.
3.4. 内存屏障
volatile 关键字是如何禁止指令重排序的? 关键在于有 volatile 关键字和没有 volatile 关键字所生成的汇编代码, 加入 volatile 修饰的变量, 赋值后会多执行一个 lock 前缀指令, 这个指令相当于一个内存屏障. 通过内存屏障实现对内存操作的顺序限制, 它提供了 3 个功能:
确保指令重排序时不会把后面的指令排到内存屏障之前的位置, 也不会把前面的指令排序到内存屏障的后面. 这样形成了指令重排序无法越过内存屏障的效果
强制将对工作内存的修改立即写入主内存
如果是写操作, 会导致其他 CPU 中对应的缓存行无效
只有一个 CPU 访问内存时, 不需要内存屏障; 但如果有两个或更多 CPU 访问同一块内存, 且其中一个在观察另一个, 就需要内存屏障来保证一致性了.
3.5. volatile 使用场景
某些情况下, volatile 同步机制的性能确实要优于锁(使用 synchronized 或 java.util.concurrent 包里面的锁), 但由于对锁实现的很多优化和消除, 使得很难量化的认为 volatile 会比 synchronized 快多少. 如果 volatile 和自己比较的话, volatile 读操作的性能消耗与普通变量基本没有什么差别, 但写操作可能慢一些, 因为它需要在本地代码中插入许多内存屏障指令保证处理器不会乱序执行. 即便如此, 大多数场景下 volatile 的总开销仍然比锁低, volatile 无法保证操作的原子性, 是无法替代 synchronized 的. 在 volatile 和锁之间选择的唯一依据是 volatile 的语义能否满足场景的需求. 通常, 使用 volatile 必须具备以下两个条件:
对变量的写操作不依赖于当前值, 例如 count++ 这样自增自减操作就不满足这个条件
该变量没有包含在具有其他变量的不变式中
4. 参考
深入理解 Java 虚拟机- 周志明 https://book.douban.com/subject/6522893/
Java 并发编程: volatile 关键字解析
就是要你懂 Java 中 volatile 关键字实现原理
来源: https://www.cnblogs.com/butterfly100/p/8910553.html