dybyte

backend developer

5 minute read

16.2 2차 캐시

16.2.1 1차 캐시와 2차 캐시

네트워크를 통해 데이터베이스에 접근하는 시간 비용은 애플리케이션 서버에서 내부 메모리에 접근하는 시간 비용보다 수만에서 수십만 배 이상 비싸다. 따라서 조회한 데이터를 메모리에 캐시해서 데이터베이스 접근 횟수를 줄이면 애플리케이션 성능을 획기적으로 개선할 수 있다.

일반적인 웹 애플리케이션 환경은 트랜잭션을 시작하고 종료할 때까지만 1차 캐시가 유효하다.

→ 애플리케이션 전체로 보면 데이터베이스 접근 횟수를 획기적으로 줄이지는 못한다.

하이버네이트를 포함한 대부분의 JPA 구현체들을 애플리케이션 범위의 캐시를 지원하는데 이것을 공유 캐시 또는 2차 캐시라 한다.

✔️ 1차 캐시 = 일반적으로 트랜잭션 범위 ✔️ 2차 캐시 = 애플리케이션 범위

Image

1차 캐시

1차 캐시는 영속성 컨텍스트 내부에 있다. 엔티티 매니저로 조회하거나 변경하는 모든 엔티티는 1차 캐시에 저장된다.

1차 캐시는 끄고 켤 수 있는 옵션이 아니다. 영속성 컨텍스트 자체가 사실상 1차 캐시다.

  • 특징
    • 1차 캐시는 같은 엔티티가 있으면 해당 엔티티를 그대로 반환한다. 따라서 1차 캐시는 객체 동일성(a==b)을 보장한다.
    • 1차 캐시는 기본적으로 영속성 컨텍스트 범위의 캐시다(컨테이너 환경에서는 트랜잭션 범위의 캐시, OSIV를 적용하면 요청 범위의 캐시다.)

2차 캐시

애플리케이션에서 공유하는 캐시를 JPA는 공유 캐시라 하는데 일반적으로 2차 캐시라 부른다. 애플리케이션을 종료할 때까지 캐시가 유지된다. 분산 캐시나 클러스터링 환경의 캐시는 애플리케이션보다 더 오래 유지될 수도 있다.(분리된 캐시 저장소 사용)

2차 캐시를 사용하면 엔티티 매니저를 통해 데이터를 조회할 때 우선 2차 캐시에서 찾고 없으면 데이터베이스에서 찾는다.

Image

❗2차 캐시는 동시성을 극대화화려고 캐시한 객체를 직접 반환하지 않고 복사본을 만들어서 반환한다.

만약 캐시한 객체를 그대로 반환하면 여러 곳에서 같은 객체를 동시에 수정하는 문제가 발생할 수 있다. 이 문제를 해결하려면 객체에 락을 걸어야 하는데 이렇게 하면 동시성이 떨어질 수 있다.

  • 2차 캐시는 영속성 유닛 범위의 캐시다.(Persistence Unit)
  • 2차 캐시는 조회한 객체를 그대로 반환하는 것이 아니라 복사본을 만들어서 반환한다.
  • 2차 캐시는 데이터베이스 기본 키를 기준으로 캐시하지만 영속성 컨텍스트가 다르면 객체 동일성(a==b)을 보장하지 않는다.

16.2.2 JPA 2차 캐시 기능

캐시 모드 설정

@Cacheable
@Entity
public class Member {
		@Id @GeneratedValue
		private Long id;
		...
}

application.yaml 캐시 모드 설정

spring:
  jpa:
    properties:
      javax:
        persistence:
          sharedCache:
            mode: ENABLE_SELECTIVE

🔹 shared-cache-mode 옵션 종류

옵션 설명
ALL 모든 엔티티를 2차 캐시에 저장
NONE 2차 캐시를 완전히 비활성화
ENABLE_SELECTIVE @Cacheable이 적용된 엔티티만 캐싱 (가장 일반적)
DISABLE_SELECTIVE 기본적으로 모든 엔티티를 캐싱하지만, @Cacheable(false)로 캐시 제외 가능
UNSPECIFIED JPA 구현체의 기본값을 따름 (Hibernate의 경우 ENABLE_SELECTIVE)

캐시 조회, 저장 방식 설정

캐시를 무시하고 데이터베이스를 직접 조회하거나 캐시를 갱신하려면 캐시 조회 모드와 캐시 보관 모드를 사용하면 된다.

캐시 조회 모드

public enum CacheRetrieveMode {
		USE,//캐시에서 조회한다. 기본값이다.
		BYPASS//캐시를 무시하고 데이터베이스에 직접 접근한다.
}

캐시 보관 모드

public enum CacheStoreMode {
		USE,
		//조회한 데이터를 캐시에 저장한다.
		//조회한 데이터가 이미 캐시에 있으면 캐시 데이터를 최신 상태로 갱신하지는 않는다.
		//트랜잭션을 커밋하면 등록 수정한 엔티티도 캐시에 저장한다. 기본값이다.
		BYPASS,
		//캐시에 저장하지 않는다.
		REFRESH
		//USE 전략에 추가로 데이터베이스에서 조회한 엔티티를 최신 상태로 다시 캐시한다.
}

캐시 저장 범위

엔티티 매니저 범위

em.setProperty("javax.persistence.cache.retrieveMode", CacheRetrieveMode.BYPASS);
em.setProperty("javax.persistence.cache.storeMode", CacheStoreMode.BYPASS);

메서드 범위

Map<String,Object> param = new HashMap<String, Object>();
param.put("javax.persistence.cache.retrieveMode", CacheRetrieveMode.BYPASS);
param.put("javax.persistence.cache.storeMode", CacheStoreMode.BYPASS);

em.find(TestEntity.class, id, param);

JPQL

em.createQuery("select e from TestEntity e where e.id = :id", TestEntity.class)
		.setParameter("id",id)
		.setHint("javax.persistence.cache.retrieveMode", CacheRetrieveMode.BYPASS)
		.setHint("javax.persistence.cache.storeMode", CacheStoreMode.BYPASS)
		.getSingleResult();

JPA 캐시 관리 API

JPA는 캐시를 관리하기 위한 javax.persistence.Cache 인터페이스를 제공한다.

이것은 예제와 같이 EntityManagerFactory에서 구할 수 있다.

Cache cache = emf.getCache();
boolean contains =
		cache.contains(TestEntity.class, testEntity.getId());
System.out.println("contains =" + contains);

Cache interface

public interface Cache {
		//해당 엔티티가 캐시에 있는지 여부 확인
		public boolean contains(Class cls, Object primaryKey);
		
		//해당 엔티티중 특정 식별자를 가진 엔티티를 캐시에서 제거
		public void evict(Class cls, Object primaryKey);
		
		//해당 엔티티 전체를 캐시에서 제거
		public void evict(Class cls);
		
		//모든 캐시 데이터 제거
		public void evictAll();
		
		//JPA Cache 구현체 조회
		public <T> T unwrap(Class<T> cls);
}

JPA가 표준화한 캐시 기능은 여기까지다.

16.2.3 하이버네이트와 EHCACHE 적용

하이버네이트가 지원하는 캐시는 크게 3가지가 있다.

  • 엔티티 캐시: 엔티티 단위로 캐시한다. 식별자로 엔티티를 조회하거나 컬렉션이 아닌 연관된 엔티티를 로딩할 때 사용한다.
  • 컬렉션 캐시: 엔티티와 관련된 컬렉션을 캐시한다. 컬렉션이 엔티티를 담고 있으면 식별자 값만 캐시한다.
  • 쿼리 캐시: 쿼리와 파라미터 정보를 키로 사용해서 캐시한다. 결과가 엔티티면 식별자 값만 캐시한다.

환경 설정

spring:
  cache:
    type: jcache  # Ehcache를 JCache로 사용
    jcache:
      config: classpath:ehcache.xml  # (선택) XML 경로 설정 (없어도 됨)
  jpa:
    properties:
      hibernate:
        cache:
          use_second_level_cache: true
          use_query_cache: true
          region.factory_class: org.hibernate.cache.jcache.JCacheRegionFactory
          # 2차 캐시를 처리할 클래스를 지정. EHcache에서 JCache로 이름 변경됨

엔티티 캐시와 컬렉션 캐시

@Cacheable
@Cache(usage = CacheConcurrencyStrategy.READ_WRITE)
@Entity
public class ParentMember {
		@Id @GenerateValue
		private Long id;
		
		private String name;
		
		@Cache(usage = CacheConcurrencyStrategy.READ_WRITE)
		@OneToMany(mappedBy = "parentMember", cascade = CascadeType.ALL)
		private List<ChildMember> childMembers = new ArrayList<ChildMember>();
		...
}
  • @Cacheable : 엔티티를 캐시하려면 이 어노테이션을 사용하면 된다.
  • org.hibernate.annotation.Cache : 이 어노테이션은 하이버네이트 전용이다. 캐시와 관련된 더 세밀한 설정을 할 때 사용한다. 또한 컬렉션 캐시를 적용할 때도 사용한다.

@Cache

  • 속성
    • usage: CacheConcurrencyStrategy를 사용해서 캐시 동시성 전략을 설정한다.
    • region: 캐시 지역 설정
    • include: 연관 객체를 캐시에 포함할지 선택한다. all, non-lazy 옵션을 선택할 수 있다.(default = all)

중요한 것은 캐시 동시성 전략을 설정할 수 있는 usage 속성이다.

  • CacheConcurrencyStrategy 속성
    • NONE: 캐시를 설정하지 않는다.
    • READ_ONLY: 읽기 전용으로 설정한다. 등록, 삭제는 가능하지만 수정은 불간으하다. 참고로 읽기 전용인 불변 객체는 수정되지 않으므로 하이버네이트는 2차 캐시를 조회할 때 객체를 복사하지 않고 원본 객체를 반환한다.(동시성 문제 완전 차단)
    • NONSTRICT_READ_WRITE: 엄격하지 않은 읽고 쓰기 전략이다. EHCACHE는 데이터를 수정하면 캐시 데이터를 무효화한다.
    • READ_WRITE: 읽기 쓰기가 가능하고 read committed 정도의 격리 수준을 보장한다. EHCACHE는 데이터를 수정하면 캐시 데이터도 같이 수정한다.
    • TRANSACTIONAL: 컨테이너 관리 환경에서 사용할 수 있다. 설정에 따라 repeatable read 정도의 격리 수준을 보장받을 수 있다.

쿼리 캐시

쿼리 캐시는 쿼리와 파라미터 정보를 키로 사용해서 쿼리 결과를 캐시하는 방법이다. 쿼리 캐시를 적용하려면 옵션을 true로 설정해야 한다.

그리고 아래와 같이 쿼리 캐시 사용 여부를 표시하면 된다.

em.createQuery("select i from Item i", Item.class)
		.setHint("org.hibernate.cacheable", true)
		.getResultList();

@Entity
@NamedQuery(
		hints = @QueryHint(name = "org.hibernate.cacheable", value = "true"),
		...
)
public class Member {
...

쿼리 캐시 영역

쿼리 캐시를 활성화하면 다음 두 캐시 영역이 추가된다.

  • org.hibernate.cache.internal.StandardQueryCache: 쿼리 캐시를 저장하는 영역이다. 이곳에는 쿼리, 쿼리 결과 집합, 쿼리를 실행한 시점의 타임스탬프를 보관한다.
  • org.hibernate.cache.spi.UpdateTimestampsCache: 쿼리 캐시가 유효한지 확인하기 위해 쿼리 대상 테이블의 가장 최근 변경(등록, 수정, 삭제) 시간을 저장하는 영역이다. 이곳에는 테이블 명과 해당 테이블의 최근 변경된 타임스탬프를 보관한다.

쿼리 캐시는 캐시한 데이터 집합을 최신 데이터로 유지하려고 쿼리 캐시를 실행하는 시간과 쿼리 캐시가 사용하는 테이블들이 가장 최근에 변경된 시간을 비교한다. 만약 StandardQueryCache 캐시 영역의 타임스탬프가 더 오래되었으면 캐시가 유효하지 않은 것으로 보고 데이터베이스에서 데이터를 조회해서 다시 캐시한다.

쿼리 캐시를 적용하고 난 후에 쿼리 캐시가 사용하는 테이블에 조금이라도 변경이 있으면 데이터베이스에서 데이터를 읽어와서 쿼리 결과를 다시 캐시한다.(+ 타임스탬프 갱신)

쿼리 캐시를 잘 활용하면 극적인 성능 향상이 있지만 빈번하게 변경이 있는 테이블에 사용하면 오히려 성능이 저하된다. 따라서 수정이 거의 일어나지 않는 테이블에 사용해야 효과를 볼 수 있다. (테이블 내용이 조금이라도 변경되면 다시 캐시해야함)

❗쿼리 캐시 영역은 만료되지 않도록 설정해야 한다. 해당 영역이 만료되면 모든 쿼리 캐시가 무효화된다. (yaml file에 세팅하기)

❗쿼리 캐시와 컬렉션 캐시의 주의점

엔티티 캐시를 사용해서 엔티티를 캐시하면 엔티티 정보를 모두 캐시하지만 쿼리 캐시와 컬렉션 캐시는 결과 집합의 식별자 값만 캐시한다.

그리고 이 식별자 값들을 하나씩 엔티티 캐시에서 조회해서 실제 엔티티를 찾는다.

문제는 쿼리 캐시나 컬렉션 캐시만 사용하고 대상 엔티티에 엔티티 캐시를 적용하지 않으면 성능상 심각한 문제가 발생할 수 있다.

→ 엔티티 캐시를 사용하지 않으면 한 건씩 데이터베이스에서 조회해서, 조회하는 데이터 수만큼 sql을 추가로 실행하게 된다.(마치 N+1 문제처럼)

Updated:

You may also enjoy