查看: 136|回复: 0

[Java学习] 浅谈Java 并发的底层实现

发表于 3 天前

并发编程的目的是让程序运行更快,但是使用并发并不定会使得程序运行更快,只有当程序的并发数量达到一定的量级的时候才能体现并发编程的优势。所以谈并发编程在高并发量的时候才有意义。虽然目前还没有开发过高并发量的程序,但是学习并发是为了更好理解一些分布式架构。那么当程序的并发量不高,比如是单线程的程序,单线程的执行效率反而比多线程更高。这又是为什么呢?熟悉操作系统的应该知道,CPU是通过给每个线程分配时间片的方式实现多线程的。这样,当CPU从一个任务切换到另一个任务的时候,会保存上一个任务的状态,当执行完这个任务的时候CPU就会继续上一个任务的状态继续执行。这个过程称为上下文切换。

在Java多线程中,volatile关键字个synchronized关键字扮演了重要的角色,它们都可以实现线程的同步,但是在底层是如何实现的呢?

volatile

volatile只能保证变量对各个线程的可见性,但不能保证原子性。关于 java语言 volatile 的使用方法就不多说了,我的建议是 除了 配合package java.util.concurrent.atomic 中的类库,其他情况一概别用。更多的解释 参见 这篇文章。

引子

参见如下代码

  1. package org.go;
  2. public class Go {
  3. volatile int i = 0;
  4. private void inc() {
  5. i++;
  6. }
  7. public static void main(String[] args) {
  8. Go go = new Go();
  9. for (int i = 0; i < 10; i++) {
  10. new Thread(() -> {
  11. for (int j = 0; j < 1000; j++)
  12. go.inc();
  13. }).start();
  14. }
  15. while(Thread.activeCount()>1){
  16. Thread.yield();
  17. }
  18. System.out.println(go.i);
  19. }
  20. }
复制代码

每次执行上述代码结果都不同,输出的数字总是小于10000.这是因为在进行inc()的时候,i++并不是原子操作。或许有些人会提议说用 synchronized 来同步inc() , 或者 用 package java.util.concurrent.locks 下的锁去控制线程同步。但它们都不如下面的解决方案:

  1. package org.go;
  2. import java.util.concurrent.atomic.AtomicInteger;
  3. public class Go {
  4. AtomicInteger i = new AtomicInteger(0);
  5. private void inc() {
  6. i.getAndIncrement();
  7. }
  8. public static void main(String[] args) {
  9. Go go = new Go();
  10. for (int i = 0; i < 10; i++) {
  11. new Thread(() -> {
  12. for (int j = 0; j < 1000; j++)
  13. go.inc();
  14. }).start();
  15. }
  16. while(Thread.activeCount()>1){
  17. Thread.yield();
  18. }
  19. System.out.println(go.i);
  20. }
  21. }
复制代码

这时,如果你不了解 atomic 的实现,你一定会不屑的怀疑 说不定 AtomicInteger 底层就是使用锁来实现的所以也未必高效。那么究竟是什么,我们来看看。

原子类的内部实现

无论是AtomicInteger 或者是 ConcurrentLinkedQueue的节点类ConcurrentLinkedQueue.Node,他们都有个静态变量
private static final sun.misc.Unsafe UNSAFE;,这个类是实现原子语义的C++对象sun::misc::Unsafe的Java封装。想看看底层实现,正好我手边有gcc4.8的源代码,对照本地路径,很方便找到Github的路径,看这里。

以接口 getAndIncrement()的实现举例

AtomicInteger.java

  1. private static final Unsafe unsafe = Unsafe.getUnsafe();
  2. public final int getAndIncrement() {
  3. for (;;) {
  4. int current = get();
  5. int next = current + 1;
  6. if (compareAndSet(current, next))
  7. return current;
  8. }
  9. }
  10. public final boolean compareAndSet(int expect, int update) {
  11. return unsafe.compareAndSwapInt(this, valueOffset, expect, update);
  12. }
复制代码

留意这个for循环,只有在compareAndSet成功时才会返回。否则就一直compareAndSet。

调用了compareAndSet实现。此处,我注意到 Oracle JDK的实现是略有不同的,如果你查看JDK下的src,你可以看到Oracle JDK是调用的Unsafe的getAndIncrement(),但我相信Oracle JDK实现Unsafe.java的时候应该也是只调用compareAndSet,因为一个compareAndSet就可以实现增加、减少、设值的原子操作了。

Unsafe.java

  1. public native boolean compareAndSwapInt(Object obj, long offset,
  2. int expect, int update);
复制代码

通过JNI调用的C++的实现。

natUnsafe.cc

  1. jboolean
  2. sun::misc::Unsafe::compareAndSwapInt (jobject obj, jlong offset,
  3. jint expect, jint update)
  4. {
  5. jint *addr = (jint *)((char *)obj + offset);
  6. return compareAndSwap (addr, expect, update);
  7. }
  8. static inline bool
  9. compareAndSwap (volatile jint *addr, jint old, jint new_val)
  10. {
  11. jboolean result = false;
  12. spinlock lock;
  13. if ((result = (*addr == old)))
  14. *addr = new_val;
  15. return result;
  16. }
复制代码

Unsafe::compareAndSwapInt调用 static 函数 compareAndSwap。而compareAndSwap又使用spinlock作为锁。这里的spinlock有LockGuard的意味,构造时加锁,析构时释放。

我们需要聚焦在spinlock里。这里是保证spinlock释放之前都是原子操作的真正实现。

什么是spinlock

spinlock,即自旋锁,一种循环等待(busy waiting)以获取资源的锁。不同于mutex的阻塞当前线程、释放CPU资源以等待需求的资源,spinlock不会进入挂起、等待条件满足、重新竞争CPU的过程。这意味着只有在 等待锁的代价小于线程执行上下文切换的代价时,Spinlock才优于mutex。

natUnsafe.cc

  1. class spinlock
  2. {
  3. static volatile obj_addr_t lock;
  4. public:
  5. spinlock ()
  6. {
  7. while (! compare_and_swap (&lock, 0, 1))
  8. _Jv_ThreadYield ();
  9. }
  10. ~spinlock ()
  11. {
  12. release_set (&lock, 0);
  13. }
  14. };
复制代码

以一个静态变量 static volatile obj_addr_t lock; 作为标志位,通过C++ RAII实现一个Guard,所以所谓的锁其实是 静态成员变量obj_addr_t lock,C++中volatile 并不能保证同步,保证同步的是构造函数里调用的 compare_and_swap和一个static变量lock.这个lock变量是1的时候,就需要等;是0的时候,就通过原子操作把它置为1,表示自己获得了锁。

这里会用一个static变量实在是一个意外,如此相当于所有的无锁结构都共用同一个变量(实际就是size_t)来区分是否加锁。当这个变量置为1时,其他用到spinlock的都需要等。 为什么不在sun::misc::Unsafe添加一个私有变量 volatile obj_addr_t lock;,并作为构造参数传给spinlock?这样相当于每个UnSafe共享一个标志位,效果会不会好一些?

_Jv_ThreadYield在下面的文件里,通过系统调用sched_yield(man 2 sched_yield)让出CPU资源。宏HAVE_SCHED_YIELD在configure里定义,意味着编译时如果取消定义,spinlock就称为真正意义的自旋锁了。

posix-threads.h

  1. inline void
  2. _Jv_ThreadYield (void)
  3. {
  4. #ifdef HAVE_SCHED_YIELD
  5. sched_yield ();
  6. #endif /* HAVE_SCHED_YIELD */
  7. }
复制代码

这个lock.h在不同平台有着不同的实现,我们以ia64(Intel AMD x64)平台举例,其他的实现可以在 这里 看到。

ia64/locks.h

  1. typedef size_t obj_addr_t;
  2. inline static bool
  3. compare_and_swap(volatile obj_addr_t *addr,
  4. obj_addr_t old,
  5. obj_addr_t new_val)
  6. {
  7. return __sync_bool_compare_and_swap (addr, old, new_val);
  8. }
  9. inline static void
  10. release_set(volatile obj_addr_t *addr, obj_addr_t new_val)
  11. {
  12. __asm__ __volatile__("" : : : "memory");
  13. *(addr) = new_val;
  14. }
复制代码

__sync_bool_compare_and_swap 是gcc内建函数,汇编指令"memory"完成内存屏障。

  1. 一般地,如果CPU硬件支持指令 cmpxchg (该指令从硬件保障原子性,毫无疑问十分高效),那么__sync_bool_compare_and_swap就应该是用cmpxchg来实现的。
  2. 不支持cmpxchg的CPU架构 可以用lock指令前缀,通过锁CPU总线的方式实现。
  3. 如果连lock指令都不支持,有可能通过APIC实现

总之,硬件上保证多核CPU同步,而Unsafe的实现也是尽可能的高效。GCC-java的还算高效,相信Oracle 和 OpenJDK不会更差。

原子操作 和 GCC内建的原子操作

原子操作

Java的表达式以及C++的表达式,都不是原子操作,也就是说 你在代码里:

  1. //假设i是线程间共享的变量
  2. i++;
复制代码

在多线程环境下,i的访问是非原子性的,实际分成如下三个操作数:

  1. 从缓存取到寄存器
  2. 在寄存器加1
  3. 存入缓存

编译器会改变执行的时序,因此执行结果可能并非所期望的。

GCC内建的原子操作

gcc内建了如下的原子操作,这些原子操作从4.1.2被加入。而之前,他们是使用内联的汇编实现的。

  1. type __sync_fetch_and_add (type *ptr, type value, ...)
  2. type __sync_fetch_and_sub (type *ptr, type value, ...)
  3. type __sync_fetch_and_or (type *ptr, type value, ...)
  4. type __sync_fetch_and_and (type *ptr, type value, ...)
  5. type __sync_fetch_and_xor (type *ptr, type value, ...)
  6. type __sync_fetch_and_nand (type *ptr, type value, ...)
  7. type __sync_add_and_fetch (type *ptr, type value, ...)
  8. type __sync_sub_and_fetch (type *ptr, type value, ...)
  9. type __sync_or_and_fetch (type *ptr, type value, ...)
  10. type __sync_and_and_fetch (type *ptr, type value, ...)
  11. type __sync_xor_and_fetch (type *ptr, type value, ...)
  12. type __sync_nand_and_fetch (type *ptr, type value, ...)
  13. bool __sync_bool_compare_and_swap (type *ptr, type oldval type newval, ...)
  14. type __sync_val_compare_and_swap (type *ptr, type oldval type newval, ...)
  15. __sync_synchronize (...)
  16. type __sync_lock_test_and_set (type *ptr, type value, ...)
  17. void __sync_lock_release (type *ptr, ...)
复制代码

需要注意的是:

  1. __sync_fetch_and_add 和 __sync_add_and_fetch 的关系 对应于 i++ 和 ++i。其他类推
  2. CAS的两种实现,bool版本的 如果对比oldval与ptr成功并给ptr设值newval 返回true;另一个 返回 原本*ptr的值
  3. __sync_synchronize 添加一个完全的内存屏障

OpenJDK 的相关文件

下面列出一些Github上 OpenJDK9的原子操作实现,希望能帮助需要了解的人。毕竟OpenJDK比Gcc的实现应用更广泛一些。————但终究没有Oracle JDK的源码,虽然据说OpenJDK与 Oracle的源码差距很小。

AtomicInteger.java

Unsafe.java::compareAndExchangeObject

unsafe.cpp::Unsafe_CompareAndExchangeObject

oop.inline.hpp:opDesc::atomic_compare_exchange_oop

atomic_linux_x86.hpp::Atomic::cmpxchg

  1. inline jlong Atomic::cmpxchg (jlong exchange_value, volatile jlong* dest, jlong compare_value, cmpxchg_memory_order order) {
  2. bool mp = os::is_MP();
  3. __asm__ __volatile__ (LOCK_IF_MP(%4) "cmpxchgq %1,(%3)"
  4. : "=a" (exchange_value)
  5. : "r" (exchange_value), "a" (compare_value), "r" (dest), "r" (mp)
  6. : "cc", "memory");
  7. return exchange_value;
  8. }
复制代码

这里需要给不熟悉C/C++的java程序员提示一下,嵌入汇编指令的格式如下

  1. __asm__ [__volatile__](assembly template//汇编模板
  2. : [output operand list]//输入列表
  3. : [input operand list]//输出列表
  4. : [clobber list])//破坏列表
复制代码

汇编模板中的%1,%3,%4对应于后面的参数列表{"r" (exchange_value),"r" (dest),"r" (mp)},参数列表以逗号分隔,从0排序。输出参数放第一个冒号右边,输出参数放第二个冒号右边。"r"表示放到通用寄存器,"a"表示寄存器EAX,有"="表示用于输出(写还)。cmpxchg指令隐含使用EAX寄存器即参数%2.

其他细节就不在此罗列了,Gcc的实现是把要交换的指针传下来,对比成功后直接赋值(赋值非原子),原子性通过spinlock保证。

OpenJDK的实现是把要交换的指针传下来,直接通过汇编指令cmpxchgq赋值,原子性通过汇编指令保证。当然gcc的spinlock底层也是通过cmpxchgq保证的。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持程序员之家。



回复

使用道具 举报