Reader 성능 개선JpaPagingItemReader를 사용하면 쿼리 조회 시에 LIMIT OFFSET 방식을 사용하기 때문에 OFFSET 수가 커질수록 읽어야할 데이터 수가 많아져 성능에 문제가 생길 수 있다. Spring Batch의 ItemReader는 대량의 데이터를 읽을 때 LIMIT OFFSET 방식의 속도 개선 방법으로는 No-Offset 기반과 Cursor 기반 두 가지 접근 방식을 사용할 수 있다.No-Offset 방식은 '페이징 성능 개선: offset vs no offset vs covering index' 글에 작성한 적이 있듯이 Offset을 사용하지 않고 인덱스를 활용해 효율적으로 페이지 단위 조회를 수행한다.Cursor 방식은 DB 커넥션을 유지한 채, 결과 집합(Resul..
Spring BatchSpring Batch는 대용량 데이터 처리를 위한 경량 프레임워크로, Job과 Step으로 구성된 배치 작업을 정의하고 실행한다. 로깅/추적, 트랜잭션 관리, 작업 처리 통계, 작업 재시작, 스킵, 리소스 관리 등 대용량 레코드 처리에 필수적인 기능을 제공한다. Spring Batch의 주요 사용 사례는 다음과 같다.대용량 데이터 ETL(Extract, Transform, Load)정기적인 대량 데이터 처리(매출 집계, 통계 생성)외부 시스템과의 데이터 동기화파일 import/export wkrdjq대량 메일 발송 및 알림 처리 Spring Batch 특징 및 장점풍부한 필수 기능 제공트랜잭션 관리, 로깅/추적, 체크포인트/재시작, 통계 집계, 예외 처리(Skip), 재시도(Ret..
- Total
- Today
- Yesterday
- Java
- Synchronized
- 구름톤 챌린지
- nginx
- 비관적 락
- nginx configuration
- 구름톤챌린지
- sql
- spring webflux
- mdcfilter
- 낙관적 락
- Kafka
- 카프카
- Redisson
- 람다
- NeXTSTEP
- TDD
- 분산 락
- EKS
- pessimistic lock
- transaction
- redis session
- jvm 메모리 구조
- mysql
- socket
- 넥스트스탭
- postgresql
- 트랜잭션
- annotation
- spring session
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | ||||||
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 | 29 |
| 30 |
