深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器

时间:2021-09-26 11:05:05
二、JVM垃圾收集算法与垃圾收集器
    1.哪些对象可以回收的判定
    2.垃圾收集算法
    3.垃圾收集器
    4.理解GC日志
    5.垃圾收集器参数总结

出处:
《深入理解Java虚拟机 JVM高级特性与最佳实践》 周志明  著
==============================================================================
二、垃圾收集算法与垃圾收集器
1.哪些对象可以回收的判定
       垃圾收集器在对堆进行回收前,第一件事情就是要确定这些对象之中那些还“活着”,哪些已经“死去”(即不可能再被任何途径使用的对象)。
1>引用计数算法
       很多教科书判定对象存活的算法是这样的:给对象添加一个引用计数器,每当一个地方引用它时,计数器值就加1;当引用失效时,计数器值就减1,任何时刻计数器为0的对象就是不可能再被使用的。
       引用计数算法(Reference Counting)实现简单,判定效率高,一些著名的应用案例,例如:ActionScript3的FlashPlayer、Python语言等都使用了引用计数算法进行内存管理。但是,至少主流的Java虚拟机里面没有使用引用计数算法来管理内存,其中最主要的原因是它很难解决对象之间相互循环引用的问题。
2>可达性分析算法
       在主流的商用程序语言(Java、C#)的主流实现中,都是通过可达性分析(Reachability Analysis)来判定对象是否存活的。这个算法的基本思路就是通过一系列的称为“GC Roots”的对象作为起始点,从这些节点开始向下搜索,搜索所走过的路径称为引用链,当一个对象到GC Roots没有任何引用链相连时,则证明此对象是不可用的。

深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
如图object5、object6、object7虽然相互关联,但是它们到GC Roots是不可达的,所以它们将会被判定为是可回收的对象。

在Java语言中,可作为GC Roots的对象包括下面几种:
> 虚拟机栈(栈帧中的本地变量表)中引用的对象。
> 方法区中类的静态属性引用的变量。
> 方法区中常量引用的对象。
> 本地方法栈JNI(即一般说的Native方法)引用的对象。   
3>回收方法区
永久代的垃圾收集主要回收两部分内容:废弃常量和无用的类。
回收废弃常量和回收Java堆中的对象非常类似,判定一个类是否是“无用的类”的条件相对苛刻许多,类需要同时满足下面3个条件才能算是“无用的类”:
>该类所有的实例都已被回收,也就是Java堆中不存在该类的任何实例。
>加载该类的ClassLoader已经被回收。
>该类对应的java.lang.Class对象没有在任何地方被引用,无法在任何地方通过反射访问该类的方法。

是否对类进行回收,HotSpot虚拟机提供了-Xnoclassgc参数进行控制。

在大量使用反射、动态代理、CGLib等ByteCode框架、动态生成JSP的场景都需要虚拟机具备类卸载的功能,
以保证永久代不会溢出。
2.垃圾收集算法
1>标记-清除算法(Mark-Sweep)
算法分为“标记”和“清除”两个阶段:首先标记出所有需要回收的对象,在标记完成后统一回收所有被标记的对象。
它的主要不足有两个:
一个是效率问题,标记和清除两个过程的效率都不高;
另一个是空间问题,标记清除之后会产生大量不连续的内存碎片,空间碎片太多可能会导致以后在程序运行中需要分配较大对象时,无法找到足够的连续内存而不得不提前触发另一次垃圾收集动作。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
                                                                             标记-清除算法示意图
2>复制算法(Copying)
为了解决效率问题,出现了复制算法,它将可用的内存按容量划分为大小相等的两块,每次只使用其中的一块。
当一块的内存用完了,就将还活着的对象复制到另外一块上面,然后再把已使用过的内存空间一次清理到。
这样每次都对整个半区进行内存回收,内存分配时也不用考虑内存碎片等情况。

这种算法的代价是将内存缩小为了原来的一半。

现在的商业的虚拟机都采用这收集算法来回收新生代。IBM公司的研究表明,新生代中的对象98%是“朝生夕死”的,所以并不需要按照1:1的比例来划分内存空间,而是将内存分为一块较大的Eden空间和两块较小的Survivor空间,每次使用Eden和其中一块Survivor,当回收时,将Eden和Survivor中还活着的对象一次性地复制到另一块Survivor空间上,最后清理掉Eden和刚才用过的Survivor空间。
HotSpot虚拟机默认的Eden和Survivor的大小比例是8:1,也就是每次新生代中可用内存空间为整个新生代容量的90%(80%+10%),只有10%的内存会被“浪费”。
如果另外一块Survivor空间没有足够空间存放上一次新生代收集下来的存活对象时,这些对象将直接通过分配担保机制进入老年代。分配担保机制后面讲。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
                                                                               复制算法示意图
3>标记-整理算法(Mark-Compact)
复制收集算法在对象存活较高时就要进行较多的复制操作,效率将会降低。所以老年代一般不用这种算法。根据老年代的特点,有人提出了另外一种“标记-整理”算法。标记过程仍然与“标记-清除”算法一样,但后续步骤不是直接对可回收对象就行清理,而是让所有存活的对象都向一端移动,然后直接清理掉端边界以外的内存。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
                                                                                标记-整理算法示意图
4>分代收集算法
      当前商业的虚拟机的垃圾回收都采用“分代收集”算法,这种算法并没有什么新的思想,只是根据对象存活周期的不同将内存划分为几块。一般是把Java堆分为新生代和老年代。这样就可以根据各个年代的特点采用最适合的收集算法。
       在新生代中,每次垃圾收集时都发现有大批对象死去,只有少量存活,那就选用复制算法,
只需要付出少量存活对象的复制成本就可以完成收集。而老年代中因为对象存活率高、没有额外的空间对它
进行分配担保,就必须使用“标记-清理”或者“标记-整理”算法来进行回收。
3.垃圾收集器

如果说收集算法是内存回收的方法论,那么垃圾收集器就是内存回收的具体实现。
不同厂商、不同版本的虚拟机所提供的垃圾收集器都可能会有很大差别。
这里讨论的收集器基于JDK 1.7 Update14之后的HotSpot虚拟机。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
上图展示了7种作用于不同分代的收集器,如果两个收集器之间存在连线,就说明它们可以搭配使用。
虚拟机所处的区域,则表示它是属于新生代还是老年代收集器。
3.1 Serial收集器
Serial收集器是最基本、发展历史最悠久的收集器,这个收集器是一个单线程的收集器,但它的“单线程”的意义并不仅仅说明它只会使用一个CPU或者一条收集线程去完成垃圾收集工作,更重要的是在它进行垃圾收集时,必须暂停其它所有的工作线程,直到它收集结束。Stop The World
Serial收集器对于运行在Client模式下的虚拟机来说是一个很好的选择。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
3.2 ParNew收集器
ParNew收集器其实就是Serial收集器的多线程版本,除了使用多线程进行垃圾收集之外,其余行为包括控制参数、回收策略等都和Serial收集器一样。ParNew收集器是许多运行在Server模式下的虚拟机中首选的新生代收集器,其中有一个与性能无关但很重要的原因是,除了Serial收集器外,目前只有它能与CMS收集器配合工作。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
3.3 Parallel Scavenge收集器
Parallel Scavenge收集器的关注点与其它收集器不同,Parallel Scavenge的目标是达到一个可控制的吞吐量。
所谓吞吐量就是CPU用于运行用户代码的时间与CPU总消耗时间的比值,吞吐量 = 运行用户代码时间 / (运行用户代码时间 + 垃圾收集时间)
如果虚拟机总共运行了100分钟,其中垃圾收集花掉1分钟,那吞吐量就是99%。
停顿时间越短就越适合需要与用户交互的程序,良好的响应速度能提升用户体验,
而高吞吐量则可以高效率地利用CPU时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。
{
Parallel Scavenge收集器提供了两个参数用于精确控制吞吐量,分别是
控制最大垃圾收集停顿时间的-XX:MaxGCPauseMillis参数以及直接设置吞吐量大小的-XX:GCTimeRatio参数。
-XX:MaxGCPauseMillis参数允许的值是一个大于0的毫秒数,收集器将尽可能地保证内存回收花费的时间不超过设定值。GC停顿时间缩短是以牺牲吞吐量和新生代空间来换取的。把新生代调小一些,收集300MB新生代肯定比收集500MB快,这也导致垃圾收集发生的更频繁一些,原来10秒收集一次,每次停顿100毫秒,现在变成5秒收集一次,每次停顿70毫秒,停顿时间在下降,但吞吐量也下降了。
-XX:GCTimeRatio参数的值应该是一个大于0小于100的整数,如值为m,花费在GC上的时间比例不超过1/(1+m)
}
Parallel Scavenge收集器还有一个参数-XX:UseAdaptiveSizePolicy,这是一个开关参数,打开后,就不需要手工指定新生代的大小(-Xmn)、Eden与Servivor区的比例(-XX:ServivorRatio)、晋升老年代对象大小(-XX:PretenureSizeThreshold)等细节参数了,虚拟机会根据当前系统的运行情况收集性能监控信息,动态调整这些参数以提供最合适的停顿时间或者最大的吞吐量,这种调节方式称为GC自适应的调节策略。
3.4 Serial Old收集器
Serial Old收集器是Serial收集器的老年代版本,它同样是一个单线程收集器,使用“标记-整理”算法。
这个收集器的主要意义也是在于给Client模式下的虚拟机使用。
如果在Server模式下,那么它主要还有两大用途:
一种用途是在JDK 1.5以及之前的版本中与Parallel Scavenge收集器搭配使用,
另一种用途就是作为CMS收集器的后备预备,在并发收集发生Concurrent Mode Failure时使用。
3.5 Parallel Old收集器
Parallel Old收集器是Parallel Scavenge收集器的老年代版本,使用多线程和“标记-整理”算法。
这个收集器是在JDK 1.6中才开始提供的。在注重吞吐量以及CPU资源敏感的场合,都可以优先考虑Parallel Scavenge加Parallel Old收集器。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
3.6 CMS收集器
CMS收集器是一种以获取{最短回收停顿时间}为目标的收集器。基于“标记-清除”算法实现。
整个过程分为4个步骤:
>初始标记(CMS initial mark)
>并发标记(CMS concurrent mark)
>重新标记(CMS remark)
>并发清除(CMS concurrent sweep)
初始标记、重新标记这两个步骤仍然需要“Stop The World”。
初始标记:仅仅只是标记一下GC Roots能直接关联到的对象,速度很快;
并发标记:就是进行GC Roots Tracing的过程;
重新标记:则是为了修正并发标记期间因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录,
这个阶段的停顿时间一般会比初始标记阶段稍长一些,但远比并发标记的时间短。

由于整个过程中最耗时的并发标记和并发清除过程收集线程都可以和用户线程一起工作,所以,从总体上来说,
CMS收集器的内存回收过程是与用户线程一起并发执行的。
深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器
缺点:
1.吞吐量降低
在并发阶段,它虽然不会导致用户线程停顿,但是会因为占用了一部分线程(或者说CPU资源)而导致应用程序变慢,总吞吐量会降低。CMS默认会启动的回收线程数是(CPU数量 + 3) / 4
2.浮动垃圾
由于CMS并发清理阶段用户线程还在运行着,伴随程序运行自然就还会有新的垃圾不断产生,这一部分垃圾出现在标记过程之后,CMS无法在当次的收集中处理掉它们,只好留待下一次GC时再清理到,这一部分垃圾称为“浮动垃圾”。

也是由于在垃圾收集阶段用户线程还需要运行,那也就还需要预留足够的内存空间给用户线程使用,因此CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,需要预留一部分空间提供并发收集时的程序运行使用。

可以通过参数-XX:CMSInitiatingOccupancyFraction来设置触发百分比。

如果CMS运行期间预留的内存无法满足程序需要,就会出现一次“Concurrent Mode Failure”失败,这时虚拟机将启动后备预案:临时启用Serial Old收集器来重新进行老年代的垃圾收集。所以说-XX:CMSInitiatingOccupancyFraction设置的太高很容易导致大量“Concurrent Mode Failure”失败,性能反而降低。
3.空间碎片
由于其基于“标记-清除”算法,垃圾收集结束会有大量空间碎片产生。为了解决这个问题,CMS收集器提供了两个参数:
1.-XX:+UseCMSCompactAtFullCollection开关参数(默认就是开启的),用于在CMS收集器顶不住要进行FullGC时开启内存碎片的合并整理过程,内存整理的过程是无法并发的,空间碎片问题没有了,但停顿时间不得不变长。
2.-XX:CMSFullGCsBeforeCompaction这个参数是用于设置执行多少次不压缩的Full GC后,跟着来一次带压缩的(默认值为0,表示每次进入Full GC时都进行碎片整理)

3.7 G1收集器
TODO

HotSpot虚拟机开发团队为消除或者减少工作线程因内存回收而导致停顿的努力一直在进行着,从Serial到Parallel到CMS乃至最新G1,我们看到一个个越来越优秀的收集器的出现,用户线程的停顿时间在不断缩短,但是仍然没有办法完全消除。

深入理解Java虚拟机 二、JVM垃圾收集算法与垃圾收集器

4.理解GC日志

每个收集器的日志格式都可以不一样。下面介绍两段经典的GC日志:

33.125: [GC [DefNew: 3324K->152K(3712K), 0.0025925 secs] 3324K->152K(11904K), 0.0031680 secs]  
100.667: [Full GC [Tenured: 0K->210K(10240K), 0.0149142 secs] 4603K->210K(19456K), 
                             [Perm : 2999K->2999K(21248K)], 0.0150007 secs]
                [Times: user=0.01 sys=0.00, real=0.02 secs]  

1>最前面的数字“33.125”“100.667”代表了GC发生的时间,这个数字的含义是从Java虚拟机启动以来经过的毫秒数。

2>GC日志开头的“GC”“Full GC”说明了这次垃圾收集的停顿类型。如果有Full,说明这次GC是发生了Stop-The-World的。 

3>接下来的“DefNew”“Tenured”“Perm”表示GC发生的区域,这里显示的区域名称与使用的GC收集器相关,
例如上面使用Serial收集器中的新生代名为“Default New Generation”,所以显示DefNew;
如果是ParNew收集器,则显示ParNew,意为“Parallel New Generation”;
如果是Parallel Scavenge收集器,则显示PSYoungGen.老年代和永久代同理。

4>后面方括号内部的“3324K->152K(3712K)”含义是“GC前该区域已使用容量->GC后该区域已使用容量(该区域总容量)”
方括号之外的“3324K->152K(11904K)”表示“GC前Java堆已使用容量->GC后Java堆已使用容量(Java堆总容量)”
再往后“0.0025925”表示该区域GC所占用的时间,单位是秒。有的收集器会给出更具体的时间数据,如
[Times: user=0.01 sys=0.00, real=0.02 secs](先不解释了TODO)

5.垃圾收集器参数总结

【垃圾收集器组合】
UseSerialGC              虚拟机运行在Client模式下的默认值,使用Serial+Serial Old的收集器组合进行内存回收
UseParNewGC      使用ParNew + Serial Old的收集器组合
UserConcMarkSweepGC   使用ParNew + CMS + Serial Old组合,Serial Old作为CMS的后备收集器使用
UserParallelGC    虚拟机运行在Server模式下的默认值,使用Parallel Scavege + Serial Old组合
UserParallelOldGC            使用Parallel Scavege + Parallel Old组合

【一些配置】
SurvivorRatio          新生代中Eden区与Suivivor区的容量比值,默认为8,表示Eden:Suivivor = 8:1
PretenureSizeThreshold  直接晋升到老年代的对象大小,大于这个参数的对象将直接在老年代分配
MaxTenuringThreshold  晋升到老年代的对象年龄。每个对象在坚持过一次Minor GC后,年龄就增加1,当超过这个值时就进入老年代
UseAdaptiveSizePolicy     自适应的调节策略,动态调整Java堆中各个区域的大小以及进入老年代的年龄
HandlePromotionFailure  是否允许分配担保失败,即老年代的剩余空间不足以应付新生代的整个Eden和Survivor区的所有对象都存活的极端情况
ParallelGCThreads          设置并行GC时进行内存回收的线程数

【Parallel Scavenge时生效】
MaxGCPauseMillis 设置GC的最大停顿时间。
GCTimeRatio GC时间占总时间的比率,默认值为99,即允许1%的GC时间。

【CMS时生效】
CMSInitiatingOccupancyFraction 设置CMS收集器在老年代空间被使用多少后触发垃圾收集,默认为68%。
UseCMSCompactAtFullCollection 设置CMS收集器在完成垃圾收集后是否要进行一次内存碎片整理。
CMSFullGCsBeforeCompaction 设置CMS收集器在进行多少次垃圾收集后进行一次内存碎片整理。