百木园-与人分享,
就是让自己快乐。

【Java】 DirectByteBuffer堆外内存回收

PhantomReference虚引用

在分析堆外内存回收之前,先了解下PhantomReference虚引用。

PhantomReference需要与ReferenceQueue引用队列结合使用,在GC进行垃圾回收的时候,如果发现一个对象只有虚引用在引用它,则认为该对象需要被回收,会将引用该对象的虚引用加入到与其关联的ReferenceQueue队列中,开发者可以通过ReferenceQueue获取需要被回收的对象,然后做一些清理操作,从队列中获取过的元素会从队列中清除,之后GC就可以对该对象进行回收。

虚引用提供了一种追踪对象垃圾回收状态的机制,让开发者知道哪些对象准备进行回收,在回收之前开发者可以进行一些清理工作,之后GC就可以将对象进行真正的回收。

来看一个虚引用的使用例子:

  1. 创建一个ReferenceQueue队列queue,用于跟踪对象的回收;
  2. 创建一个obj对象,通过new创建的是强引用,只要强引用存在,对象就不会被回收;
  3. 创建一个虚引用PhantomReference,将obj对象和ReferenceQueue队列传入,此时phantomReference里面引用了obj对象,并关联着引用队列queue;
  4. 同样的方式创建另一个obj1对象和虚引用对象phantomReference1;
  5. 将obj置为NULL,此时强引用关系失效;
  6. 调用 System.gc()进行垃圾回收;
  7. 由于obj的强引用关系失效,所以GC认为该对象需要被回收,会将引用该对象的虚引用phantomReference对象放入到与其关联的引用队列queue中;
  8. 通过poll从引用队列queue中获取对象,可以发现会获取到phantomReference对象,poll获取之后会将对象从引用队列中删除,之后会被垃圾回收器回收;
  9. obj1的强引用关系还在,所以从queue中并不会获取到;
   public static void main(String[] args) {
        // 创建引用队列
        ReferenceQueue<Object> queue = new ReferenceQueue<Object>();
        // 创建obj对象
        Object obj = new Object();
        // 创建虚引用,虚引用引用了obj对象,并与queue进行关联
        PhantomReference<Object> phantomReference = new PhantomReference<Object>(obj, queue);
        // 创建obj1对象
        Object obj1 = new Object();
        PhantomReference<Object> phantomReference1 = new PhantomReference<Object>(obj1, queue);
        // 将obj置为NULL,强引用关系失效
        obj = null;
        // 垃圾回收
        System.gc();
        // 从引用队列获取对象
        Object o = queue.poll();
        if (null != o) {
            System.out.println(o.toString());
        }
    }

输出结果:

java.lang.ref.PhantomReference@277c0f21

Reference实例的几种状态

Active:初始状态,创建一个Reference类型的实例之后处于Active状态,以上面虚引用为例,通过new创建一个PhantomReference虚引用对象之后,虚引用对象就处于Active状态。

Pending:当GC检测到对象的可达性发生变化时,会根据是否关联了引用队列来决定是否将状态更改为Pending或者Inactive,虚引用必须与引用队列结合使用,所以对于虚引用来说,如果它实际引用的对象需要被回收,垃圾回收器会将这个虚引用对象加入到一个Pending列表中,此时处于Pending状态。

同样以上面的的虚引用为例,因为obj的强引用关系失效,GC就会把引用它的虚引用对象放入到pending列表中。

Enqueued:表示引用对象被加入到了引用队列,Reference有一个后台线程去检测是否有处于Pending状态的引用对象,如果有会将引用对象加入到与其关联的引用队列中,此时由Pending转为Enqueued状态表示对象已加入到引用队列中。

Inactive:通过引用队列的poll方法可以从引用队列中获取引用对象,同时引用对象会从队列中移除,此时引用对象处于Inactive状态,之后会被GC回收。

DirectByteBuffer堆外内存回收

DirectByteBuffer的构造函数中,在申请内存之前,先调用了BitsreserveMemory方法回收内存,申请内存之后,调用Cleanercreate方法创建了一个Cleaner对象,并传入了当前对象(DirectByteBuffer)和一个Deallocator类型的对象:

class DirectByteBuffer extends MappedByteBuffer implements DirectBuffer {
    private final Cleaner cleaner;
        
    DirectByteBuffer(int cap) {                   // package-private
        super(-1, 0, cap, cap);
        boolean pa = VM.isDirectMemoryPageAligned();
        int ps = Bits.pageSize();
        long size = Math.max(1L, (long)cap + (pa ? ps : 0));
        // 清理内存
        Bits.reserveMemory(size, cap);
        long base = 0;
        try {
            // 分配内存
            base = unsafe.allocateMemory(size);
        } catch (OutOfMemoryError x) {
            Bits.unreserveMemory(size, cap);
            throw x;
        }
        unsafe.setMemory(base, size, (byte) 0);
        if (pa && (base % ps != 0)) {
            // Round up to page boundary
            address = base + ps - (base & (ps - 1));
        } else {
            address = base;
        }
        // 创建Cleader,传入了当前对象和Deallocator
        cleaner = Cleaner.create(this, new Deallocator(base, size, cap));
        att = null;
    }
}

Cleaner从名字上可以看出与清理有关,BitsreserveMemory方法底层也是通过Cleaner来进行清理,所以Cleaner是重点关注的类。

DeallocatorDirectByteBuffer的一个内部类,并且实现了Runnable接口,在run方法中可以看到对内存进行了释放,接下来就去看下在哪里触发Deallocator任务的执行:

class DirectByteBuffer extends MappedByteBuffer implements DirectBuffer {

    private static class Deallocator implements Runnable {
        // ...
        
        private Deallocator(long address, long size, int capacity) {
            assert (address != 0);
            this.address = address; // 设置内存地址
            this.size = size;
            this.capacity = capacity;
        }

        public void run() {
            if (address == 0) {
                // Paranoia
                return;
            }
            // 释放内存
            unsafe.freeMemory(address);
            address = 0;
            Bits.unreserveMemory(size, capacity);
        }

    }
}

Cleaner

Cleaner继承了PhantomReferencePhantomReferenceReference的子类,所以Cleaner是一个虚引用对象

创建Cleaner

虚引用需要与引用队列结合使用,所以在Cleaner中可以看到有一个ReferenceQueue,它是一个静态的变量,所以创建的所有Cleaner对象都会共同使用这个引用队列

在创建Cleaner的create方法中,处理逻辑如下:

  1. 通过构造函数创建了一个Cleaner对象,构造函数中的referent参数为DirectByteBuffer,thunk参数为Deallocator对象,在构造函数中又调用了父类的构造函数完成实例化;
  2. 调用add方法将创建的Cleaner对象加入到链表中,添加到链表的时候使用的是头插法,新加入的节点放在链表的头部,first成员变量是一个静态变量,它指向链表的头结点,创建的Cleaner都会加入到这个链表中;

创建后的Cleaner对象处于Active状态。

 public class Cleaner extends PhantomReference<Object>{

    // ReferenceQueue队列
    private static final ReferenceQueue<Object> dummyQueue = new ReferenceQueue<>();

    // 静态变量,链表的头结点,创建的Cleaner都会加入到这个链表中
    static private Cleaner first = null;
     
    // thunk
    private final Runnable thunk;
     
    public static Cleaner create(Object ob, Runnable thunk) {
        if (thunk == null)
            return null;
        // 创建一个Cleaner并加入链表
        return add(new Cleaner(ob, thunk));
    }
    
    private Cleaner(Object referent, Runnable thunk) {
        super(referent, dummyQueue); // 调用父类构造函数,传入引用对象和引用队列
        this.thunk = thunk; // thunk指向传入的Deallocator
    }
     
    private static synchronized Cleaner add(Cleaner cl) {
        // 如果头结点不为空
        if (first != null) {
            // 将新加入的节点作为头结点
            cl.next = first; 
            first.prev = cl;
        }
        first = cl;
        return cl;
    }
}

Cleaner调用父类构造函数时,最终会进入到父类Reference中的构造函数中:

referent:指向实际的引用对象,上面创建的是DirectByteBuffer,所以这里指向的是DirectByteBuffer

queue:引用队列,指向Cleaner中的引用队列dummyQueue

public class PhantomReference<T> extends Reference<T> {
    // ...
    
    public PhantomReference(T referent, ReferenceQueue<? super T> q) {
        super(referent, q); // 调用父类构造函数
    }

}

public abstract class Reference<T> {
    /* 引用对象 */
    private T referent;         
    // 引用队列
    volatile ReferenceQueue<? super T> queue;
    
    Reference(T referent, ReferenceQueue<? super T> queue) {
        this.referent = referent;
        // 设置引用队列
        this.queue = (queue == null) ? ReferenceQueue.NULL : queue;
    }

}

启动ReferenceHandler线程

Reference中有一个静态方法,里面创建了一个ReferenceHandler并设置为守护线程,然后启动了该线程,并创建了JavaLangRefAccess对象设置到SharedSecrets中:

public abstract class Reference<T> {
    static {
        ThreadGroup tg = Thread.currentThread().getThreadGroup();
        for (ThreadGroup tgn = tg;
             tgn != null;
             tg = tgn, tgn = tg.getParent());
        // 创建ReferenceHandler
        Thread handler = new ReferenceHandler(tg, \"Reference Handler\");
        // 设置优先级为最高
        handler.setPriority(Thread.MAX_PRIORITY);
        handler.setDaemon(true);
        handler.start();

        // 这里设置了JavaLangRefAccess
        SharedSecrets.setJavaLangRefAccess(new JavaLangRefAccess() {
            @Override
            public boolean tryHandlePendingReference() {
                // 调用了tryHandlePending
                return tryHandlePending(false);
            }
        });
    }
}

ReferenceHandlerReference的内部类,继承了Thread,在run方法中开启了一个循环,不断的执行tryHandlePending方法,处理Reference中pending列表:

public abstract class Reference<T> {
    
    private static class ReferenceHandler extends Thread {
        
        // ...
        
        ReferenceHandler(ThreadGroup g, String name) {
            super(g, name);
        }

        public void run() {
            while (true) {
                // 处理pending列表
                tryHandlePending(true);
            }
        }
    }
 }

Cleaner会启动一个优先级最高的守护线程,不断调用tryHandlePending来检测是否有需要回收的引用对象(还未进行真正的回收),然后进行处理。

处理pending列表

垃圾回收器会将要回收的引用对象放在Referencepending变量中,从数据类型上可以看出pending只是一个Reference类型的对象,并不是一个list,如果有多个需要回收的对象,如何将它们全部放入pending对象中?

可以把pengding看做是一个链表的头结点,假如有引用对象被判定需要回收,如果pengding为空直接放入即可,如果不为空,将使用头插法将新的对象加入到链表中,也就是将新对象的discovered指向pending对象,然后将pending指向当前要回收的这个对象,这样就形成了一个链表,pending指向链表的头结点。

在pending链表中的引用对象处于pending状态。

接下来看tryHandlePending方法的处理逻辑:

  1. 如果pending不为空,表示有需要回收的对象,此时将pengding指向的对象放在临时变量r中,并判断是否是Cleaner类型,如果是将其强制转为Cleaner,记录在临时变量c中,接着更新pending的值为r的discovered,因为discovered中记录了下一个需要被回收的对象,pengding需要指向下一个需要被回收的对象;

    pending如果为NULL,会进入到else的处理逻辑,返回值为参数传入的waitForNotify的值。

  2. 判断Cleaner对象是否为空,如果不为空,调用Cleaner的clean方法进行清理

  3. 获取引用对象关联的引用队列,然后调用enqueue方法将引用对象加入到引用队列中

  4. 返回true;

public abstract class Reference<T> {
  
    // 指向pending列表中的下一个节点
    transient private Reference<T> discovered; 

    // 静态变量pending列表,可以看做是一个链表,pending指向链表的头结点
    private static Reference<Object> pending = null;
  
    static boolean tryHandlePending(boolean waitForNotify) {
        Reference<Object> r;
        Cleaner c;
        try {
            synchronized (lock) {
                // 如果pending不为空
                if (pending != null) {
                    // 获取pending执行的对象
                    r = pending;
                    // 如果是Cleaner类型
                    c = r instanceof Cleaner ? (Cleaner) r : null;
                    // 将pending指向下一个节点
                    pending = r.discovered;
                    // 将discovered置为空
                    r.discovered = null;
                } else {
                    // 等待
                    if (waitForNotify) {
                        lock.wait();
                    }
                    return waitForNotify;
                }
            }
        } catch (OutOfMemoryError x) {
            Thread.yield();
            // retry
            return true;
        } catch (InterruptedException x) {
            // retry
            return true;
        }
        if (c != null) {
            // 调用clean方法进行清理
            c.clean();
            return true;
        }
        // 获取引用队列
        ReferenceQueue<? super Object> q = r.queue;
        // 如果队列不为空,将对象加入到引用队列中
        if (q != ReferenceQueue.NULL) q.enqueue(r);
        // 返回true
        return true;
    }
}
释放内存

Cleaner的clean方法中,可以看到,调用了thunk的run方法,前面内容可知,thunk指向的是Deallocator对象,所以会执行Deallocator的run方法,Deallocator的run方法前面也已经看过,里面会对DirectByteBuffer的堆外内存进行释放

public class Cleaner extends PhantomReference<Object> {

    public void clean() {
        if (!remove(this))
            return;
        try {
            // 调用run方法
            thunk.run();
        } catch (final Throwable x) {
            AccessController.doPrivileged(new PrivilegedAction<Void>() {
                    public Void run() {
                        if (System.err != null)
                            new Error(\"Cleaner terminated abnormally\", x)
                                .printStackTrace();
                        System.exit(1);
                        return null;
                    }});
        }
    }
}

总结

Cleaner是一个虚引用,它实际引用的对象DirectByteBuffer如果被GC判定为需要回收,会将引用该对象的Cleaner加入到pending列表,ReferenceHandler线程会不断检测pending是否为空,如果不为空,就对其进行处理:

  1. 如果对象类型为Cleaner,就调用Cleaner的clean方法进行清理,Cleaner的clean方法又会调用Deallocator的run方法,里面调用了freeMemory方法对DirectByteBuffer分配的堆外内存进行释放;
  2. 将Cleaner对象加入到与其关联的引用队列中;

引用队列

ReferenceQueue名字听起来是一个队列,实际使用了一个链表,使用头插法将加入的节点串起来,ReferenceQueue中的head变量指向链表的头节点,每个节点是一个Reference类型的对象:

public class ReferenceQueue<T> {

    // head为链表头节点
    private volatile Reference<? extends T> head = null;
}

Reference中除了discovered变量之外,还有一个next变量,discovered指向的是处于pending状态时pending列表中的下一个元素,next变量指向的是处于Enqueued状态时,引用队列中的下一个元素:

public abstract class Reference<T> {

    /* When active:   处于active状态时为NULL
     *     pending:   this
     *    Enqueued:   Enqueued状态时,指向引用队列中的下一个元素
     *    Inactive:   this
     */
    @SuppressWarnings(\"rawtypes\")
    Reference next;
    
    /* When active:   active状态时,指向GC维护的一个discovered链表中的下一个元素
     *     pending:   pending状态时,指向pending列表中的下一个元素
     *   otherwise:   其他情况为NULL
     */
    transient private Reference<T> discovered;  /* used by VM */
}

enqueue入队

进入引用队列中的引用对象处于enqueue状态。

enqueue的处理逻辑如下:

  1. 判断要加入的对象关联的引用队列,对队列进行判断,如果队列为空或者队列等于ReferenceQueue中的空队列ENQUEUED,表示该对象之前已经加入过队列,不能重复操作,返回false,如果未加入过继续下一步;
  2. 将对象所关联的引用队列置为ENQUEUED,它是一个空队列,表示节点已经加入到队列中;
  3. 判断头节点是否为空,如果为空,表示链表还没有节点,将当前对象的next指向自己,如果头结点不为空,将当前对象的next指向头结点,然后更新头结点的值为当前对象(头插法插入链表);
  4. 增加队列的长度,也就是链表的长度;
public class ReferenceQueue<T> {

    // 空队列
    static ReferenceQueue<Object> ENQUEUED = new Null<>();
    
    // 入队,将节点加入引用队列,队列实际上是一个链表
    boolean enqueue(Reference<? extends T> r) {
        synchronized (lock) {
            // 获取关联的引用队列
            ReferenceQueue<?> queue = r.queue;
            // 如果为空或者已经添加到过队列
            if ((queue == NULL) || (queue == ENQUEUED)) {
                return false;
            }
            assert queue == this;
            // 将引用队列置为一个空队列,表示该节点已经入队
            r.queue = ENQUEUED;
            // 如果头结点为空将下一个节点置为自己,否则将next置为链表的头结点,可以看出同样使用的是头插法将节点插入链表
            r.next = (head == null) ? r : head;
            // 更新头结点为当前节点
            head = r;
            // 增加长度
            queueLength++;
            if (r instanceof FinalReference) {
                sun.misc.VM.addFinalRefCount(1);
            }
            lock.notifyAll();
            return true;
        }
    }
}
poll出队

在调用poll方法从引用队列中获取一个元素并出队的时候,首先对head头结点进行判空,如果为空表示引用队列中没有数据,返回NULL,否则调用reallyPoll从引用队列中获取元素。

出队的处理逻辑如下:

  1. 获取链表中的第一个节点也就是头结点,如果不为空进行下一步;

  2. 如果头节点的下一个节点是自己,表示链表只有一个节点,头结点出队之后链表为空,所以将头结点的值更新为NULL;

    如果头节点的下一个节点不是自己,表示链表中还有其他节点,更新head头节点的值为下一个节点,也就是next指向的对象;

  3. 将需要出队的节点的引用队列置为NULL,next节点置为自己,表示节点已从队列中删除;

  4. 引用队列的长度减一;

  5. 返回要出队的节点;

从出队的逻辑中可以看出,引用队列中的对象是后进先出的,poll出队之后的引用对象处于Inactive状态,表示可以被GC回收掉。

public class ReferenceQueue<T> {
    /**
     * 从引用队列中获取一个节点,进行出队操作
     */
    public Reference<? extends T> poll() {
        // 如果头结点为空,表示没有数据 
        if (head == null)
            return null;
        synchronized (lock) {
            return reallyPoll();
        }
    }
    
    @SuppressWarnings(\"unchecked\")
    private Reference<? extends T> reallyPoll() {     、  /* Must hold lock */
        // 获取头结点
        Reference<? extends T> r = head;
        if (r != null) {
            // 如果头结点的下一个节点是自己,表示链表只有一个节点,head置为null,否则head值为r的下一个节点,也就是next指向的对象
            head = (r.next == r) ?
                null :
                r.next;
            // 将引用队列置为NULL
            r.queue = NULL;
            // 下一个节点置为自己
            r.next = r;
            // 长度减一
            queueLength--;
            if (r instanceof FinalReference) {
                sun.misc.VM.addFinalRefCount(-1);
            }
            // 返回链表中的第一个节点
            return r;
        }
        return null;
    }
}

reserveMemory内存清理

最开始在DirectByteBuffer的构造函数中看到申请内存之前会调用Bits的reserveMemory方法,如果没有足够的内存,它会从SharedSecrets获取JavaLangRefAccess对象进行一些处理,由前面的内容可知,Reference中的静态方法启动ReferenceHandler之后,创建了JavaLangRefAccess并设置到SharedSecrets中,所以这里调用JavaLangRefAccesstryHandlePendingReference实际上依旧调用的是Reference中的tryHandlePending方法。

在调用Reference中的tryHandlePending方法处理需要回收的对象之后,调用tryReserveMemory方法判断是否有足够的内存,如果内存依旧不够,会调用` System.gc()触发垃圾回收,然后开启一个循环,处理逻辑如下:

  1. 判断内存是否充足,如果充足直接返回;

  2. 判断睡眠次数是否小于限定的最大值,如果小于继续下一步,否则终止循环;

  3. 调用tryHandlePendingReference处理penging列表中的引用对象,前面在处理pending列表的逻辑中可以知道,如果pending列表不为空,会返回true,tryHandlePendingReference也会返回true,此时意味着清理了一部分对象,所以重新进入到第1步进行检查;

    如果pending列表为空,会返回参数中传入的waitForNotify的值,从JavaLangRefAccess的tryHandlePendingReference中可以看出这里传入的是false,所以会进行如下处理:

    • 通过 Thread.sleep(sleepTime)让当前线程睡眠一段时间,这样可以避免reserveMemory方法一直在占用资源;
    • 对睡眠次数加1;
  4. 如果以上步骤处理之后还没有足够的空间会抛出抛出OutOfMemoryError异常;

reserveMemory方法的作用是保证在申请内存之前有足够的内存,如果没有足够的内存会进行清理,达到指定清理次数之后依旧没有足够的内存空间,将抛出OutOfMemoryError异常。

class Bits {

    static void reserveMemory(long size, int cap) {

        if (!memoryLimitSet && VM.isBooted()) {
            maxMemory = VM.maxDirectMemory();
            memoryLimitSet = true;
        }

        // 是否有足够内存
        if (tryReserveMemory(size, cap)) {
            return;
        }
        // 获取JavaLangRefAccess
        final JavaLangRefAccess jlra = SharedSecrets.getJavaLangRefAccess();
        // 调用tryHandlePendingReference
        while (jlra.tryHandlePendingReference()) {
            // 判断是否有足够的内存
            if (tryReserveMemory(size, cap)) {
                return;
            }
        }

        // 调用gc进行垃圾回收
        System.gc();

        boolean interrupted = false;
        try {
            long sleepTime = 1;
            int sleeps = 0;
            // 开启循环
            while (true) {
                // 是否有足够内存
                if (tryReserveMemory(size, cap)) {
                    return;
                }
                // 如果次数小于最大限定次数,终止
                if (sleeps >= MAX_SLEEPS) {
                    break;
                }
                // 再次处理penging列表中的对象
                if (!jlra.tryHandlePendingReference()) {
                    try {
                        // 睡眠一段时间
                        Thread.sleep(sleepTime);
                        sleepTime <<= 1;
                        sleeps++; // 睡眠次数增加1
                    } catch (InterruptedException e) {
                        interrupted = true;
                    }
                }
            }
            // 抛出OutOfMemoryError异常
            throw new OutOfMemoryError(\"Direct buffer memory\");

        } finally {
            if (interrupted) {
                // don\'t swallow interrupts
                Thread.currentThread().interrupt();
            }
        }
    }
}

public abstract class Reference<T> {
    static {
        // ...
        // 这里设置了JavaLangRefAccess
        SharedSecrets.setJavaLangRefAccess(new JavaLangRefAccess() {
            @Override
            public boolean tryHandlePendingReference() {
                // 调用tryHandlePending,这里waitForNotify参数传入的是false
                return tryHandlePending(false);
            }
        });
    }
}

参考

Reference源码解析

一文读懂java中的Reference和引用类型

Java 源码剖析——彻底搞懂 Reference 和 ReferenceQueue


来源:https://www.cnblogs.com/shanml/p/16743427.html
本站部分图文来源于网络,如有侵权请联系删除。

未经允许不得转载:百木园 » 【Java】 DirectByteBuffer堆外内存回收

相关推荐

  • 暂无文章