기술 트렌드
마이크로서비스와 AI 서비스가 복잡해지면서 시스템 내부를 들여다보는 관측성(Observability)이 핵심 역량으로 떠올랐습니다. 그 중심에는 특정 벤더에 묶이지 않는 오픈 표준 OpenTelemetry가 있습니다. 개념과 구성 요소, LLM 서비스 관측, 취업 준비생을 위한 학습 방향까지 정리합니다.
【왜 지금 관측성인가】 하나의 서버에서 모든 기능이 돌아가던 시절에는 장애가 나면 서버에 접속해 로그 파일을 열어보는 것으로 대부분의 원인을 찾을 수 있었습니다. 하지만 지금의 서비스는 수십, 수백 개의 마이크로서비스와 컨테이너, 외부 API, 그리고 LLM 호출까지 얽혀 있습니다. 사용자의 요청 하나가 여러 서비스를 거쳐 처리되기 때문에 어디서 느려졌는지, 어느 구간에서 오류가 났는지를 로그만으로 추적하기는 매우 어렵습니다. 이 문제를 해결하기 위한 개념이 관측성(Observability)입니다. 관측성이란 시스템이 외부로 내보내는 데이터만으로 내부 상태를 이해하고 설명할 수 있는 능력을 말합니다.
【모니터링과 관측성의 차이】 흔히 모니터링과 관측성을 같은 의미로 쓰지만 초점이 다릅니다. 모니터링은 CPU 사용률이나 오류율처럼 미리 정해 둔 지표를 지켜보며 이상이 생기면 알려주는 활동입니다. 즉 이미 알고 있는 문제를 감시합니다. 반면 관측성은 예상하지 못한 문제가 발생했을 때 왜 그런 일이 일어났는지를 데이터를 조합해 파고들 수 있게 하는 것을 목표로 합니다. 분산 시스템에서는 예상하지 못한 장애 유형이 끊임없이 생기기 때문에, 질문을 사전에 정하지 않아도 답을 찾을 수 있는 구조가 중요해졌습니다.
【관측성을 이루는 세 가지 신호】 관측성 데이터는 보통 세 가지 신호로 나뉩니다. 첫째는 메트릭으로, 요청 수나 응답 시간, 메모리 사용량처럼 시간에 따라 집계되는 숫자 데이터입니다. 둘째는 로그로, 특정 시점에 발생한 사건을 텍스트나 구조화된 형태로 기록한 것입니다. 셋째는 트레이스로, 하나의 요청이 여러 서비스를 거치는 전체 경로를 스팬(Span)이라는 단위로 연결해 보여줍니다. 트레이스를 보면 결제 요청이 주문 서비스, 재고 서비스, 외부 결제 API를 거치는 동안 각 구간이 몇 밀리초씩 걸렸는지 한눈에 확인할 수 있습니다. 세 신호가 서로 연결되어 있을 때, 예를 들어 지연이 급증한 메트릭에서 해당 시점의 트레이스와 로그로 바로 이동할 수 있을 때 관측성의 가치가 커집니다.
【OpenTelemetry는 무엇인가】 문제는 이 데이터를 수집하는 방식이 도구마다 달랐다는 점입니다. 특정 모니터링 솔루션의 전용 에이전트와 라이브러리로 코드를 계측하면, 나중에 다른 도구로 옮길 때 계측 코드를 다시 작성해야 했습니다. OpenTelemetry는 이런 종속 문제를 해결하기 위해 등장한 오픈소스 프로젝트입니다. 2019년 분산 추적 분야의 두 프로젝트였던 OpenTracing과 OpenCensus가 통합되면서 출범했고, 클라우드 네이티브 컴퓨팅 재단(CNCF)에서 관리됩니다. 현재 CNCF 프로젝트 가운데 쿠버네티스와 함께 가장 활발하게 기여가 이뤄지는 프로젝트 중 하나로 꼽힙니다. 핵심 아이디어는 데이터를 만드는 방법과 보내는 형식은 표준으로 통일하고, 저장하고 분석하는 도구는 사용자가 자유롭게 고르게 하자는 것입니다.
【주요 구성 요소】 OpenTelemetry는 크게 네 가지 요소로 이해하면 쉽습니다. API와 SDK는 Java, Python, Go, JavaScript, .NET 등 주요 언어별로 제공되며 애플리케이션 안에서 메트릭, 로그, 트레이스를 생성합니다. 자동 계측(Auto-instrumentation) 기능을 활용하면 널리 쓰이는 웹 프레임워크나 데이터베이스 드라이버에 대해 코드를 거의 수정하지 않고도 데이터를 수집할 수 있습니다. OTLP(OpenTelemetry Protocol)는 수집한 데이터를 전송하는 표준 프로토콜입니다. 마지막으로 Collector는 데이터를 받아 가공하고 필터링한 뒤 원하는 백엔드로 보내주는 중간 처리기 역할을 합니다. Collector를 두면 애플리케이션은 OTLP로 데이터를 보내기만 하고, 어떤 분석 도구로 보낼지는 Collector 설정만 바꿔서 결정할 수 있습니다.
【사실상의 업계 표준이 된 이유】 OpenTelemetry가 빠르게 확산된 가장 큰 이유는 벤더 중립성입니다. 주요 상용 모니터링 서비스와 클라우드 사업자, 그리고 Prometheus, Jaeger, Grafana 같은 오픈소스 도구 상당수가 OTLP 형식의 데이터를 받아들이도록 지원을 넓혀 왔습니다. 기업 입장에서는 한 번 표준 방식으로 계측해 두면 비용이나 기능에 따라 분석 도구를 바꾸기가 훨씬 쉬워집니다. 또한 시맨틱 컨벤션(Semantic Conventions)이라는 공통 명명 규칙을 두어 HTTP 요청, 데이터베이스 호출 같은 데이터에 어떤 속성 이름을 붙일지 정해 두었습니다. 덕분에 서로 다른 팀, 서로 다른 언어로 만든 서비스의 데이터도 같은 기준으로 분석할 수 있습니다.
【AI 서비스에도 관측성이 필요하다】 최근 관측성이 다시 주목받는 배경에는 LLM 기반 서비스의 확산도 있습니다. AI 기능이 들어간 서비스는 기존 애플리케이션과 다른 질문에 답해야 합니다. 어떤 프롬프트가 들어갔는지, 모델 응답에 몇 초가 걸렸는지, 입력과 출력 토큰을 얼마나 썼는지, 에이전트가 어떤 도구를 어떤 순서로 호출했는지 같은 정보입니다. 이런 데이터가 없으면 비용이 갑자기 늘거나 응답 품질이 떨어졌을 때 원인을 찾기 어렵습니다. OpenTelemetry 커뮤니티는 생성형 AI 호출을 기록하기 위한 시맨틱 컨벤션을 마련해 발전시키고 있으며, 여러 LLM 관측 도구와 프레임워크가 이 규칙을 따르는 방향으로 움직이고 있습니다. 다만 이 영역의 규칙은 아직 변화가 진행 중인 부분이 있으므로, 실무에 적용할 때는 공식 문서에서 현재 안정화 단계를 확인하는 것이 좋습니다.
【eBPF와 코드 수정 없는 계측】 또 하나의 흐름은 eBPF를 활용한 계측입니다. eBPF는 리눅스 커널 안에서 안전하게 작은 프로그램을 실행할 수 있게 해주는 기술로, 애플리케이션 코드를 건드리지 않고도 네트워크 요청이나 시스템 호출을 관찰할 수 있습니다. OpenTelemetry 생태계에도 eBPF 기반 계측 프로젝트가 합류하면서, 레거시 시스템이나 여러 언어가 섞인 환경에서도 비교적 쉽게 기본적인 관측 데이터를 확보하는 방법이 넓어지고 있습니다. 여기에 더해 CPU와 메모리 사용을 함수 단위로 분석하는 프로파일링을 네 번째 신호로 표준화하려는 작업도 진행되고 있습니다.
【도입할 때 알아둘 현실적인 과제】 장점만 있는 것은 아닙니다. 모든 요청을 빠짐없이 트레이스로 남기면 데이터 양과 저장 비용이 급격히 늘어나기 때문에, 일부만 골라 저장하는 샘플링 전략을 설계해야 합니다. 로그나 트레이스에 개인정보나 프롬프트 원문이 섞여 들어가지 않도록 Collector 단계에서 민감 정보를 걸러내는 작업도 필요합니다. 언어별 SDK의 성숙도가 조금씩 다르다는 점, Collector 설정이 처음에는 복잡하게 느껴질 수 있다는 점도 고려해야 합니다. 결국 도구를 설치하는 것보다 무엇을 관측할지, 어떤 지표를 서비스 목표로 삼을지를 정하는 설계 역량이 더 중요합니다.
【취업 준비생과 전직 희망자를 위한 학습 방향】 관측성 역량은 SRE, 데브옵스, 플랫폼 엔지니어 직무에서 특히 요구되지만, 백엔드 개발자에게도 점점 기본기로 받아들여지고 있습니다. 처음 공부한다면 먼저 메트릭, 로그, 트레이스의 차이와 분산 추적의 개념을 이해하는 것부터 시작하는 것이 좋습니다. 이후 간단한 웹 서비스 두세 개를 만들어 OpenTelemetry SDK로 계측하고, Collector를 거쳐 Prometheus와 Grafana, Jaeger 같은 오픈소스 도구로 데이터를 시각화해 보는 실습을 권합니다. 여기에 SLI, SLO 같은 서비스 신뢰성 지표 개념을 함께 익히면 면접에서 장애 대응 경험을 논리적으로 설명하는 데 도움이 됩니다. 포트폴리오에 기능 구현뿐 아니라 응답 지연을 트레이스로 분석해 병목을 개선한 과정을 담는다면, 운영까지 고려하는 개발자라는 인상을 줄 수 있습니다. 시스템이 복잡해질수록 무엇이 일어나고 있는지 설명할 수 있는 능력의 가치는 계속 커질 것입니다.