ioh's Development

1. 장애의 시작: Gateway를 바꾸면 모든 게 나아질 줄 알았다기존에 Go 기반 자체 Gateway(이하 Go Gateway)를 사용하고 있었다.필요한 라우팅 로직만 얹어 경량화된 구조였지만, 다음과 같은 한계에 부딪혔다. 동적 라우팅 관리의 부재인증/권한/로깅 플로우 중복버전 관리가 힘든 직접 코드 관리 구조 이러한 요구사항을 해결하기 위해 우리는 Apache APISIX로 전환을 시도했다.APISIX는 오픈소스 고성능 API Gateway로서 Nginx + Lua 기반, 플러그인 시스템을 제공하며레이트 리밋, 인증, 서비스 디스커버리, 로깅 등 다양한 기능을 유연하게 다룰 수 있었다. 기능만 놓고 보면 “완벽한 선택”이었다. 2. 그러나, 우리는 너무 빨랐고 느렸다전환 초기, APISIX는 문제..

ELK 로그 최적화: 불필요한 로그가 애플리케이션 성능에 미치는 영향과 해결책1. 실무에서 발생한 문제최근 ELK(Elasticsearch, Logstash, Kibana) 스택을 활용하여 애플리케이션 로그를 관리하는 과정에서 불필요한 로그가 과도하게 남겨지는 문제를 경험했다. 특히 Elasticsearch Memory Pool 관련 로그가 지속적으로 기록되었는데, 실제 운영에 중요한 로그는 아니었음에도 불구하고 애플리케이션 성능과 운영 비용에 영향을 줄 가능성이 있었다.이 문제를 해결하기 위해 불필요한 로그를 관리하고 최적화하는 방법을 정리해 보았다.2. 불필요한 로그가 애플리케이션 운영에 미치는 영향1) 성능 저하I/O 부하 증가: 로그가 많을수록 디스크 쓰기(Write) 부하가 증가하여 애플리케이션..

1. JVM이 서버의 전체 메모리를 다 사용하지 않는 이유서버에 4GB의 물리적 메모리가 있다고 해도 JVM이 이를 전부 사용하지 않는 이유는 운영 체제(OS)와 JVM의 메모리 관리 방식 때문이다.이를 세부적으로 살펴보면 다음과 같다.(1) OS가 사용할 메모리를 남겨둬야 한다JVM이 실행되는 서버는 단순히 JVM만 사용하는 것이 아니라 OS 자체가 동작하고 있다.네트워크, 디스크 I/O, 캐시 관리 등을 위해 일정 메모리가 필요하다.일반적인 리눅스 서버의 경우, 최소한 500MB~1GB 정도의 메모리를 OS가 자체적으로 사용한다.만약 JVM이 4GB를 전부 차지하면 OS가 원활하게 동작하지 못하고, 전체적인 시스템 성능이 저하될 수 있다.(2) JVM의 Heap 외에도 많은 메모리가 필요JVM이 사용..

JVM 힙 메모리 크기 개념 정리 및 실무 적용 사례서론: JVM 메모리 설정, 왜 중요할까?JVM 기반의 애플리케이션을 운영하다 보면 OutOfMemoryError(OOM) 가 발생하거나, GC(Garbage Collection) 튜닝이 필요한 경우가 많다.이럴 때 JVM 메모리 구조를 제대로 이해하고 적절한 설정을 하면 애플리케이션 성능 최적화와 안정적인 운영이 가능하다.이번 포스팅에서는 JVM 힙 메모리 개념과 설정 방법을 실무 경험을 바탕으로 정리하고, 적절한 메모리 설정값과 실무 적용 사례를 공유하려 한다.1. JVM 메모리 구조 살펴보기JVM이 사용하는 메모리는 크게 다음과 같이 구분할 수 있다.메모리 영역 역할 및 설명Heap애플리케이션이 생성하는 객체 저장 공간 (-Xms, -Xmx 로 설..

멀티스레드 기반 API 성능 개선: 실전 적용 및 사례 분석API 성능이 느려지고 응답 속도가 지연된다면?**멀티스레딩(Multi-threading)**을 활용하여 성능을 최적화하고 처리 속도를 향상시킬 수 있습니다.이번 글에서는 멀티스레드 기반 API 성능 개선을 위한 개념, 적용 사례, 코드 예제를 함께 살펴보겠습니다.📌 멀티스레딩(Multi-threading)이란?멀티스레딩은 하나의 프로세스 내에서 여러 개의 스레드를 동시에 실행하는 방식입니다.기본적으로 싱글스레드와 비교하면 다음과 같은 차이가 있습니다.실행 방식 설명싱글스레드(Single-threading)한 번에 하나의 작업만 처리멀티스레드(Multi-threading)여러 개의 작업을 동시에 실행하여 응답 속도 향상📌 멀티스레딩을 활용하는..

메시지 큐(Message Queue)는 메시지의 무손실(durability)을 보장하며, 프로세스 간 비동기 통신(asynchronous communication)을 지원하는 데이터 전송 시스템이다.  메시지 큐는 데이터가 생산자(Producer)에서 소비자(Consumer)로 안전하게 전달될 때까지 중간 버퍼 역할을 수행한다. 메시지는 큐에 순서대로 저장되며, 소비자가 큐에서 메시지를 꺼내 처리할 때까지 유지된다. 이러한 특성 덕분에 시스템의 비동기 처리와 내결함성을 향상시킬 수 있다. 메시지 큐는 메시지의 버퍼 역할을 하며, 생산자(Producer)와 소비자(Consumer) 간의 비동기 데이터 전송을 가능하게 한다. 기본적으로 생산자가 메시지를 큐에 발행(publish)하고, 큐에 연결된 소비자가 ..

회사에서 대규모 데이터 조회와 성능 최적화가 중요한 프로젝트를 진행하며 캐시를 도입한 경험이 있습니다. 당시, 시스템 성능이 저하되는 문제를 해결하기 위해 데이터베이스에 대한 직접적인 접근을 줄이고 캐시 계층을 활용하는 방안을 검토하게 되었습니다. 특히, 자주 변경되지 않는 데이터나 반복적인 연산 결과를 캐싱함으로써 응답 속도를 향상시키고 서버 부하를 줄일 수 있었습니다.이 글에서는 실무 경험을 바탕으로 캐시 계층의 개념과 활용 방법, 그리고 캐시 사용 시 고려해야 할 점들을 상세히 다루고자 합니다. 캐시를 적절히 활용함으로써 시스템의 성능과 확장성을 개선하고, 안정적인 서비스를 제공하는 데 도움이 되기를 바랍니다.1. 캐시 계층(Cache Layer) 설명캐시(Cache)는 데이터 조회 속도를 향상시키..

Apache Tomcat 설정 및 관리 가이드Apache Tomcat은 Java 기반 웹 애플리케이션을 실행하기 위한 가장 널리 사용되는 서블릿 컨테이너 중 하나로, 안정성, 성능 및 확장성이 뛰어난 오픈 소스 프로젝트입니다. 본 가이드에서는 Apache Tomcat의 설정 및 관리에 대해 실무 경험을 바탕으로 주요 항목을 다루고자 합니다. 특히, 서버 최적화, 보안 설정, 클러스터링, 그리고 관리 편의성을 높이기 위한 팁을 중심으로 설명합니다.1. Apache Tomcat 아키텍처 개요Apache Tomcat은 주요 컴포넌트로 구성되어 있으며, 이를 이해하는 것은 설정 및 관리의 첫걸음입니다.Catalina: 서블릿 컨테이너의 핵심으로, HTTP 요청을 처리하고 서블릿을 실행하는 역할을 담당합니다.Co..

테스트 자동화는 소프트웨어 개발에서 품질을 보장하는 필수적인 과정입니다. 백엔드 개발에서는 다양한 테스트 기법을 활용해 코드의 정확성, 안정성, 성능을 검증할 수 있습니다. 이번 포스팅에서는 단위 테스트(Unit Test)부터 통합 테스트(Integration Test)까지 다양한 테스트 방법론을 설명하고, 백엔드 애플리케이션의 테스트 자동화 전략을 소개하겠습니다.1. 테스트 자동화의 필요성백엔드 개발에서 자동화된 테스트는 코드가 의도대로 작동하는지 확인하고, 변경 사항이 시스템에 미치는 영향을 빠르게 피드백하는 데 중요한 역할을 합니다. 수동 테스트는 시간이 오래 걸리고, 반복적인 작업이므로 효율적이지 않습니다. 반면, 자동화된 테스트는 개발 과정에서 일관된 품질을 보장하고, 코드 수정 시 발생할 수 ..

현대의 웹 애플리케이션은 대규모 트래픽을 처리하고 실시간으로 반응해야 합니다. 이에 따라 비동기 처리는 서버의 부하를 줄이고, 응답 시간을 단축하며, 시스템을 확장 가능한 구조로 만드는 데 필수적인 요소입니다. 비동기 처리를 구현하는 대표적인 방법 중 하나가 메시지 큐(Message Queue)입니다. 이 포스팅에서는 대표적인 메시지 큐 기술인 RabbitMQ와 Kafka를 통해 비동기 처리를 어떻게 활용할 수 있는지 살펴보겠습니다.1. 비동기 처리의 필요성비동기 처리는 요청과 작업을 분리하여 서버의 응답 시간을 줄이는 방식입니다. 예를 들어, 사용자가 회원가입을 요청했을 때, 이메일 인증을 바로 처리하지 않고, 인증 메일 발송 작업을 별도의 프로세스로 비동기 처리함으로써 사용자에게 빠른 응답을 제공할 ..