[Java] JVM Garbage Collection Tuning

-
몇 가지 기본적인 GC 튜닝 방법을 적어봅니다.

1. Concurrent Mark and Sweep 알고리즘에서 class unloading 문제

대충 아래와 같은 옵션으로 실행되는 자바 서버 프로세스가 있다고 가정하자.

-XX:+UseParNewGC -XX:ParallelGCThreads=4 -XX:+UseConcMarkSweepGC

이것은 old generation에 대해서 CMS 알고리즘을 사용하기 위한 튜닝 방법이다.
그런데 다음 내용을 보면 CMS GC를 사용할 때 기본값으로 class unloading 즉, perm gc를 안 하도록 되어 있다.

http://bugs.sun.com/bugdatabase/view_bug.do?bug_id=6329603

해결책은 다음 옵션을 추가하는 것이다.

-XX:+CMSPermGenSweepingEnabled -XX:+CMSClassUnloadingEnabled

2. 트랜잭션이 많고 해당 객체들의 lifespan은 짧을 경우의 튜닝 (Sun Hotspot JVM. HP JVM도 마찬가지)
  • 새로운 객체들이 많이 생성되고 또 트랜잭션양이 많은 경우 Thruput 중심의 garbage collector를 사용해야 하기 때문에 기본값인 UseParallelGC 옵션은 그냥 사용하면 될 것 같고..
  • Parallel GC Thread 갯수는 CPU 갯수와 동일하게 혹은 2배 정도로 증가시킬 필요가 있다. 예를 들어 CPU가 6장이라면
    -XX:ParallelGCThreads=12
  • eden 과 tenured의 비율을 지정하는 옵션인 NewRatio 옵션이 기본값인 2인데 eden이 계속 부족해질 가능성이 높으므로 NewRatio 값을 1 정도로 하여 eden과 tenured 비율이 같도록 하는 게 좋겠다. (1.5가 먹는지 모르겠음 ㅠ_ㅠ)
    -XX:NewRatio=1
  • 위의 옵션들은 주로 young generation의 처리 성능을 높여 thruput을 높이는 목적을 가지고 있는데 full gc 가 발생하면 old generation까지 collection 대상이 된다. 기본값은 old gen에 대해서는 serial collector 즉, single thread 방식이므로 pause time이 길 수 있는데 JDK 5.0update6 (SUN JVM 기준)부터는 parallel old gc 기능이 추가되었다. 이 기능을 사용하려면 다음 옵션을 추가해야 한다. 이 옵션은 young generation에 대해 UseParallelGC 옵션이 사용되는 경우에만 가능하다.
    -XX:+UseParallelOldGC
    HP JVM의 경우 Sun JDK 5.0u6에 해당하는 JVM 버전은 5.0update4이다.
  • 그외 jconsole을 써서 모니터링할 수 있으려면 해당 JVM을 실행할 때 다음 옵션을 켜줘야 한다.
    -Dcom.sun.management.jmxremote
  • 메모리 문제(OutOfMemoryError)가 발생할 경우 heap 분석을 위해서는 다음 옵션 추가하는 것 빼먹지 말아야 한다. -XX:+HeapDumpOnOutOfMemoryError

3. IBM JVM의 경우 튜닝

IBM JVM 은 gc 특성이 Sun/HP와는 완전히 다르다. -verbosegc 옵션을 켜면 기본값으로 standard error로 gc log를 내보내는데 verbose gc 로그의 timestamp는 gc가 시작한 시간을 나타낸다. IBM JDK는 gc 때에는 무조건 stop the world 즉, 다른 일을 할 수 없는 상태가 된다. (이런 면에서는 Sun의 HotSpot에 비해 뒤처진다고 보여짐.) gc log에서 <sys 라고 되어 있는 부분은 System.gc 가 호출된 것이고 <af 라고 되어 있는 부분은 allocation failure 즉, 메모리 부족에 의해 garbage collection이 trigger되는 경우이다. 자세한 것은 IBM JDK diagnosis 문서 참조.

  • verbose gc log를 다른 파일로 쓰려면 다음 옵션을 추가
    -Xverbosegclog:<파일경로>
  • GC 정책을 지정하는 옵션은 다음과 같다.
    -Xgcpolicy:<정책 이름>
  • 위의 정책 이름 중 가능한 것은 다음과 같다.
    optthruput : 기본값. 이 알고리즘은 gc pause time이 긴 게 흠이다. mark and sweep 시 mark 하는 부분이 single thread로밖에 실행할 수 없어 가끔씩 매우 긴 pause time이 발생한다.
    optavgpause : heap이 클 경우에 gc pause time을 줄이기 위해 사용하는 옵션
    gencon : gc pause time을 최소화하는 옵션
    subpool : 성능적으로 더 우수한 object allocation 알고리즘을 사용. 큰 SMP 시스템에 유용(CPU 16장 등...) AIX, Linux PPC, zSeries, z/OS, i5/OS 에만 사용 가능하며 이 알고리즘에서는 LOA(large object area)를 사용하지 않는다.
    보통 기본값인 optthruput이 적용되어 있으니, pause time이 너무 길다면 optavgpause 나 gencon을 사용하는 게 좋겠다.
  • GC 쓰레드 갯수는 다음 옵션을 사용하여 지정한다.
    -Xgcthreads<쓰레드 갯수>
    기본값으로 CPU 갯수만큼 사용하게 되어 있다. 필요하다면 CPU 갯수의 2배 정도로 쓰레드 갯수를 지정하면 좀더 효율이 높을 것이다.
  • LOA / SOA 비율 지정
    -Xloainitial<퍼센트>, -Xloamaximum<퍼센트>
    IBM JVM에서 tenured 영역은 soa(small object area)와 loa로 구분된다. 그 초기 및 최대 비율을 LOA : SOA로 지정한다. 기본값은 초기는 0.05 (혹은 5%)이고, 최대는 0.5 (혹은 50%)이다. 0과 0.95 사이의 값을 지정해야 한다. LOA를 많이 사용하지 않는다면 기본값을 그대로 사용하면 된다.
  • 예를 들자면 다음과 같이 지정할 수 있다.
    -verbose:gc -Xverbosegclog:<파일경로> -Xgcpolicy:optavgpause -Xgcthreads8

4. 참고 자료
추가 (2013-03-29)
Hotspot JVM은 JDK 6에서는 큰 변화가 없었네요.
  • Hotspot JVM Tuning Guide (JDK 6.0 기준)
    • http://www.oracle.com/technetwork/java/javase/gc-tuning-6-140523.html
IBM JDK에 추가된 gencon은 Hotspot에 이미 구현된  generatioinal collector 인데 IBM JDK 7에서는 gencon을 기본값으로 권장하고 있다.  이 경우 hotspot JVM의 경우처럼 new area의 크기를 지정해줘야 한다.  -Xmns 는 new area의 초기값,  -Xmnx는 new area의 최대값이다. 32bit JVM은 256MB - 512MB, 64bit JVM은 512MB - 1024MB 사이의 크기가 가능하다. 64bit JVM에서 32bit 방식의 addressing을 사용하는 옵션은 -XcompressedRefs 를 켜면 훨씬 효율적인 성능을 보이는데 이 경우 최대 힙 크기는 28GB로 제약된다.

댓글

댓글 쓰기

이 블로그의 인기 게시물

[Java] Java G1 GC의 특성에 따른 Full GC 회피 튜닝 방법

-
Java 6 중반부터 G1 GC가 나오면서 이 새로운 Java VM GC 정책을 두고 성능 튜닝을 어떻게 할지 고민이 많은 것 같다. 일단 생소하기 때문에 어렵다. 그런데 경험들이 조금씩 쌓이면서 문제점도 꽤 발견되는 것 같다. 먼저 G1GC를 이해하는 데 유용한 사이트이다. Garbage-First Collector Getting Started with the G1 Garbage Collector Understanding G1 GC Logs Tuning Garbage Collection for Mission-Critical Java Applications Controlling GC pauses with the GarbageFirst Collector G1: One Garbage Collector To Rule Them All Garbage First (G1) Garbage Collection Options compare JVM options for public 메일 :  G1 GC clean up time is too long JDK 7부터 기본이 된 G1(garbage first) GC는 JVM의 Heap 메모리를 1MB 정도 크기의 region들로 나눠서 region별로 generation을 지정하여 상당히 효율이 좋지만 튜닝하는 게 까다롭다. (새로운 메모리 처리 구조에 대한 튜닝 경험도 많이 부족해서 더욱 까다롭게 느껴지는 것 같다.) 지금까지 널리 알려진 문제로는 첫째, perm generation collection을 full gc때만 하는 문제가 있다. 즉, 클래스 언로딩을 full gc때만해서 자주 재배포가 발생하는 코드가 있는 경우 문제가 될 수 있다. 앞으로는 perm generation을 완전히 없애도록 JVM의 방향을 잡고 있기 때문에 당분간 이 문제는 해결하지 않을 것으로 보인다. 둘째, G1 GC에서 거대 객체(humongous object)라고 부르는 메모리 사용량이 큰 객체들에 대한
자세한 내용 보기

엄밀한 사고(Critical Thinking)란 무엇일까

-
미국에서는 21세기 교육에 가장 중요한 4가지 역량이 4C라고 한다. Four Cs of 21st century learning 네 가지 C는 각각 엄밀한 사고(Critical thinking), 소통(Communication), 협업(Collaboration), 창의(Creativity)를 뜻한다. (critical thinking을 비판적 사고 로 번역하는 경우가 많지만, 실제 문맥에서 보면 문제 해결을 위한 매우 중요한 영역의 사고를 뜻하는 엄밀한 사고 가 좀더 적합한 표현이라고 판단된다.) 한국 사회는 교육에서부터 기업까지 창의성이 떨어진다는 말을 많이 해왔다. 굳이 군대와 같은 극단적인 사회 환경을 얘기하지 않더라도, 가족 같은 분위기라는 표현이 가부장적 위계를 인정한다는 뜻으로 통용되는 사회에서 중요한 의사결정 과정에 충분한 소통과 피드백이 주어지지 못하기 때문에 결과적으로는 창의적 아이디어가 부족하게 되고, 엄밀한 사고를 훈련하지 못하여 21세기에 적합한 인재로서 가치가 떨어진다는 표현이라고 볼 수 있다. 창의적 사고는 결과적인 부분에 가까우므로 과정에서 필요한 엄밀한 사고가 한국의 교육이나 혁신을 지향하는 기업 환경에 가장 중요할 것이다. 미국교육협회(NEA)에서는 엄밀한 사고를 어떻게 바라보고 있는지 옮겨본다. 개인적으로는 혁신을 지향하는 SW 기업에서, 또 창의적으로 미래를 열어갈 자녀들을 위해서 코칭이나 교육의 방법을 고민하기 전에 꼭 읽어봐야 할 내용이라고 생각한다. 다음 내용은 NEA에서 발간한 '글로벌 사회의 21세기 학생들을 준비하기 위한 네 가지 C 교육자 지침'에서 발췌 번역하였다. An Educator’s Guide to the “Four Cs” - Preparing 21st Century Students for a Global Society 엄밀한 사고는 오랫동안 가치있는 기술로 사회적으로 인정받아왔다. 오늘날은 모든 학생들에게 필요하다. 기존에는 엄밀한 사고를 통한
자세한 내용 보기

일론 머스크의 First Principle Thinking (제1원리 기반 사고)

-
이미지
제1원리 기반 사고, First principle thinking. 첫번째 원리로부터 생각하기 혹은 제일원리 기반 사고 정도로 해석할 수 있겠다.  아리스토텔레스가 형이상학이란 책에서 언급한 것으로 더 이상 추론될 수 없는 원칙에서부터 추론되어야 한다는 원칙이다. 예를 들어 Unmoved mover 즉 우주에 최초의 움직임을 만든 무언가는 움직임이 없었어야 한다는 추론이 이러한 원칙 하에서 추론된 것이다. 수학에서 공리에서 출발하는 것과 같은 논리인데 일론 머스크가 SpaceX를 만들면서 제일원칙에 기반한 사고 실험을 사용하였다고 언급하면서 의사결정의 원칙 혹은 문제해결의 방법론으로서도 많이 언급된다. 일론 머스크의 First Principle Thinking 머스크 이야기는 이렇게 시작된다. 화성에 가야겠다고 목표를 세운 머스크가 첫번째 마주한 문제는 천문학적인 로켓 가격이었다. 머스크는 물리학에서 배운 제1법칙 기반의 사고를 이 문제 해결에 적용하기로 했다. “물리학은 유추가 아닌 제1원리로부터 추론하는 것을 가르쳐준다. 좋다, 제1원리들을 한번 들여다보자. 로켓은 무엇으로 만들지?  우주항공산업 등급의 알루미늄 합금들과 약간의 티타늄, 구리, 탄소 섬유이다. 다시 생각해봤다. 일반 상품 시장에서 이 물질들 가격은 얼마쯤 하나? 로켓에 사용되는 재료들 가격은 로켓 일반 가격의 약 2%에 불과했다.” 머스크는 원 재료를 사서 직접 로켓을 만들기로 했고 SpaceX를 세웠다. SpaceX는 1/10 가격으로 로켓을 만들면서도 수익을 내고 있다. 제1원리 기반의 사고를 머스크는 진실이라고 생각되는 좀더 근원적인 부분으로 내려가서 거기에서부터 다시 의사결정에 이르는 논리를 쌓아올리는 문제 해결 과정으로 적용한 것이다. 진리와 근원적 사고 사람은 수많은 참으로 믿은 불확실한 가설들이나 관성으로부터 판단하는 경향이 강하므로 중요한 의사결정을 좀더 근원적인 진위로부터 추론하는 것은 더 나은 해결 방법, 더 높은 진위 추정의 확률을 위해 매우 유용한 방법이라 할 수 있다
자세한 내용 보기