[운영] 비동기 처리와 Thread Pool을 활용한 API 성능 최적화

멀티스레드 기반 API 성능 개선: 실전 적용 및 사례 분석

API 성능이 느려지고 응답 속도가 지연된다면?
**멀티스레딩(Multi-threading)**을 활용하여 성능을 최적화하고 처리 속도를 향상시킬 수 있습니다.
이번 글에서는 멀티스레드 기반 API 성능 개선을 위한 개념, 적용 사례, 코드 예제를 함께 살펴보겠습니다.

---

📌 멀티스레딩(Multi-threading)이란?

멀티스레딩은 하나의 프로세스 내에서 여러 개의 스레드를 동시에 실행하는 방식입니다.
기본적으로 싱글스레드와 비교하면 다음과 같은 차이가 있습니다.

실행 방식 설명

싱글스레드(Single-threading)	한 번에 하나의 작업만 처리
멀티스레드(Multi-threading)	여러 개의 작업을 동시에 실행하여 응답 속도 향상

📌 멀티스레딩을 활용하는 이유?
✔ CPU 활용률 증가 → 하나의 작업이 I/O 대기 상태일 때 다른 스레드가 실행됨
✔ 병렬 처리 성능 향상 → 여러 개의 요청을 동시에 처리하여 응답 속도 개선
✔ 비동기 실행 지원 → 대기 시간이 긴 네트워크 요청, 파일 I/O 작업을 비동기적으로 처리

---

📌 API 성능 최적화를 위한 멀티스레딩 적용 사례

멀티스레딩을 실제로 어떻게 적용했을까요?
대량 데이터 처리 및 API 응답 속도 개선을 위해 멀티스레딩을 적용한 사례를 살펴보겠습니다.

1️⃣ 대량 요청 처리: 문서 송수신 API 병렬 처리

📌 기존 문제:

• 문서 송수신 API가 싱글스레드로 동작하여 대량 요청 시 병목 발생
• 사용자가 동시에 많은 문서를 송신할 경우 큐 대기 시간이 증가하여 응답이 지연

💡 해결 방법:
✅ Thread Pool을 활용하여 요청 병렬 처리
✅ Spring의 @Async 비동기 처리를 적용하여 송수신 로직 병렬화

📌 적용 코드 예제:

@Service
public class DocumentService {
    
    @Async
    public CompletableFuture<String> processDocument(String documentId) {
        // 문서 처리 로직 실행 (비동기 처리)
        return CompletableFuture.completedFuture("Processed: " + documentId);
    }
}

@Configuration
@EnableAsync
public class AsyncConfig {
    
    @Bean
    public Executor asyncExecutor() {
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        executor.setCorePoolSize(10);
        executor.setMaxPoolSize(20);
        executor.setQueueCapacity(500);
        executor.setThreadNamePrefix("AsyncThread-");
        executor.initialize();
        return executor;
    }
}

📌 결과:
✅ 동시 요청 처리량 40% 증가, 응답 시간 30% 단축

---

2️⃣ 대량 데이터 저장 및 검색 성능 향상

📌 기존 문제:

• 대량 트랜잭션이 순차적으로 처리되어 저장 속도 저하
• 문서 검색 쿼리가 실행되는 동안 새로운 요청 처리가 지연

💡 해결 방법:
✅ ElasticSearch 비동기 쿼리 실행을 지원하여 검색 속도 향상
✅ 문서 저장 시 Batch Insert + 병렬 처리(Thread Pool) 적용

📌 적용 코드 예제:

public void saveDocuments(List<Document> documents) {
    ExecutorService executor = Executors.newFixedThreadPool(5);
    
    for (Document doc : documents) {
        executor.submit(() -> saveDocument(doc));
    }
    
    executor.shutdown();
}

📌 결과:
✅ 문서 저장 속도 30% 향상, 검색 응답 시간 50% 단축

---

3️⃣ 비동기 재처리를 통한 장애 대응 최적화

📌 기존 문제:

• 문서 송신 후 상태를 확인하는 과정에서 매 요청마다 DB를 조회하여 부하 발생
• 송신 실패 시 재전송 로직이 순차적으로 실행되어 처리 속도 저하

💡 해결 방법:
✅ ScheduledExecutorService를 활용한 비동기 재처리 로직 적용
✅ Spring Batch 및 멀티스레드 활용하여 대량 데이터 상태 업데이트

📌 적용 코드 예제:

@Scheduled(fixedRate = 60000) // 1분마다 실행
public void retryFailedDocuments() {
    List<Document> failedDocs = documentRepository.findFailedDocuments();
    
    ExecutorService executor = Executors.newFixedThreadPool(10);
    
    for (Document doc : failedDocs) {
        executor.submit(() -> retryDocument(doc));
    }
    
    executor.shutdown();
}

📌 결과:
✅ 문서 재처리 속도 50% 개선, 장애 발생 시 복구 시간 40% 단축

---

📌 멀티스레딩 적용 후 성능 개선 효과 정리

적용 대상 기존 문제 멀티스레드 적용 후 개선 효과

대량 문서 송수신	동시 요청 증가 시 응답 속도 저하	동시 요청 처리량 40% 증가, 응답 시간 30% 단축
문서 저장 및 검색	단일 스레드 처리로 성능 저하	저장 속도 30% 향상, 검색 응답 시간 50% 단축
송신 실패 재처리	재시도 로직이 순차적으로 실행됨	재처리 속도 50% 개선, 장애 복구 시간 40% 단축

👉 멀티스레딩 적용을 통해 API 성능이 획기적으로 개선되었으며, 동시 요청 처리량 증가, 문서 저장 및 검색 속도 향상, 장애 복구 최적화 등의 효과를 얻을 수 있었습니다.

---

📌 멀티스레딩 적용 시 고려해야 할 사항

• 스레드 개수 조절: 너무 많은 스레드는 오히려 성능을 저하시킬 수 있음
• 스레드 안전성(Thread Safety): 공유 리소스 사용 시 동기화 문제 주의
• 데드락(Deadlock) 방지: 여러 스레드가 서로 대기하는 상태 방지

---

📌 결론: API 성능 개선을 위해 멀티스레딩을 활용하자!

멀티스레딩을 적용하면 API 성능을 대폭 개선할 수 있습니다.
👉 싱글스레드 기반 서비스에서 성능이 저하될 경우, 멀티스레딩을 고려해보세요!