네트워크 타임아웃
네트워크 지연시간 분포에 따른 타임아웃 확률을 계산합니다.
네트워크 타임아웃 확률 계산기는 네트워크 지연시간(latency)의 분포를 기반으로 설정한 타임아웃 시간 내에 응답을 받지 못할 확률을 계산하는 도구입니다. 지수분포 또는 로그정규분포를 사용하여 실제 네트워크 환경을 모델링합니다. 예를 들어 평균 응답시간 200ms, 타임아웃 1초 설정 시 타임아웃 발생 확률은 지수분포 기준 약 0.67%입니다. 하지만 꼬리가 두꺼운(heavy-tail) 실제 분포에서는 2~5% 수준일 수 있습니다. 이 계산기를 통해 적절한 타임아웃 값 설정, P99 레이턴시 분석, SLA(서비스 수준 협약) 준수 여부를 사전에 검증할 수 있습니다.
입력
요청이 실패로 간주되는 시간 제한
지연 시간의 변동폭
불가능
타임아웃 내 응답 받을 확률
99%의 요청이 성공하는 타임아웃
99.9%의 요청이 성공하는 타임아웃
타임아웃 값별 실패 확률
workflow
사용 방법
약 1분
지연시간 분포 입력
평균 응답시간과 분포 유형을 입력합니다.
타임아웃 설정
타임아웃 시간(ms)을 입력합니다.
결과 확인
타임아웃 발생 확률과 P99 레이턴시를 확인합니다.
principle
계산 원리
## 네트워크 타임아웃 확률의 수학적 배경
### 지수분포 모델 평균 응답시간 μ, 타임아웃 T일 때:
P(타임아웃) = P(X > T) = e^(-T/μ)
예시: μ = 200ms, T = 1000ms → P = e^(-5) ≈ 0.67%
### 로그정규분포 모델 응답시간 X가 로그정규분포 LN(μ_ln, σ_ln)을 따를 때:
P(타임아웃) = P(X > T) = 1 - Φ((ln(T) - μ_ln) / σ_ln)
Φ는 표준정규분포의 CDF입니다.
### 백분위수 계산 P99 레이턴시 (지수분포): T_99 = -μ × ln(0.01) = μ × 4.605
평균 200ms → P99 ≈ 921ms
### 꼬리 확률과 heavy-tail 실제 네트워크 지연은 지수분포보다 꼬리가 두꺼운 heavy-tail 분포를 따릅니다. 로그정규분포의 P99 대비 지수분포의 P99가 더 낮으므로, 지수분포로 추정한 타임아웃 확률은 실제보다 낙관적입니다.
### SLA 준수율 타임아웃 확률 p_t, 일일 요청 수 N일 때:
일일 타임아웃 건수 = N × p_t SLA 준수율 = 1 - p_t
faq
자주 묻는 질문
cases
실생활 예시
REST API 타임아웃 설정
평균 응답시간 150ms, P99 800ms인 API에 타임아웃 2초를 설정합니다. 지수분포 기준 타임아웃 확률은 약 0.0001%이지만, 실제(로그정규) 기준 약 0.5%입니다.
2초 타임아웃이면 1,000요청 중 약 5건이 타임아웃됩니다. 대부분의 서비스에서 적절한 수준입니다.
글로벌 서비스 대륙 간 호출
한국-미국 간 평균 RTT 150ms, P99 400ms인 환경에서 타임아웃 500ms 설정 시 타임아웃 확률은 약 2%입니다.
대륙 간 통신은 변동성이 커서 타임아웃을 여유롭게 설정하거나 CDN/캐싱을 활용해야 합니다.
AWS Lambda 콜드 스타트 영향
AWS Lambda는 콜드 스타트 시 초기화에 100ms~3초가 추가됩니다. 평균 응답시간 50ms인 함수에 콜드 스타트가 5% 확률로 발생하면, P95가 50ms이지만 P99가 1.5초까지 치솟을 수 있습니다.
서버리스 환경에서는 콜드 스타트를 고려하여 타임아웃을 P99 기준 3~5배로 설정하거나, 프로비저닝된 동시성으로 콜드 스타트를 제거해야 합니다.
데이터베이스 쿼리 타임아웃
PostgreSQL 평균 쿼리 시간 20ms, P99 200ms인 환경에서 타임아웃 1초 설정 시 타임아웃 확률은 약 0.01%입니다. 하지만 테이블 풀스캔이 발생하면 쿼리 시간이 10초 이상으로 급등합니다.
데이터베이스 타임아웃은 정상 분포 외에 비정상 쿼리(풀스캔, 데드락 등)를 별도로 고려해야 합니다. 슬로우 쿼리 로그 모니터링이 필수입니다.
Kubernetes 서비스 메시 레이턴시
Istio 서비스 메시를 사용하면 프록시 호핑으로 요청당 약 1~3ms의 추가 레이턴시가 발생합니다. 10홉을 거치는 요청은 최대 30ms가 추가되어, 초저지연 서비스에서는 무시할 수 없습니다.
서비스 메시의 관측성과 보안 이점은 크지만, 레이턴시 민감 서비스에서는 직접 호출과 메시 경유의 타임아웃 확률 차이를 사전에 계산해야 합니다.
glossary
용어 사전
- 레이턴시(Latency)
- 요청을 보낸 시점부터 응답을 받을 때까지 걸리는 시간입니다. 네트워크 전파, 서버 처리, 직렬화 시간 등을 포함합니다.
- RTT(Round-Trip Time)
- 패킷이 출발지에서 목적지까지 갔다가 돌아오는 데 걸리는 시간입니다. 한국-미국 간 RTT는 약 130~180ms입니다.
- P99(99번째 백분위수)
- 전체 요청의 99%가 이 시간 이내에 완료되는 레이턴시 값입니다. 상위 1%의 느린 요청을 나타냅니다.
- SLA(Service Level Agreement)
- 서비스 제공자가 보장하는 응답시간, 가용성 등의 품질 기준을 명시한 계약입니다. 위반 시 크레딧 환불 등의 보상이 따릅니다.
- CDN(Content Delivery Network)
- 전 세계에 분산된 서버 네트워크로, 사용자와 가장 가까운 서버에서 콘텐츠를 제공하여 레이턴시를 줄이는 서비스입니다.
- 콜드 스타트(Cold Start)
- 서버리스 함수가 처음 호출되거나 오래 미사용 후 호출될 때 초기화에 걸리는 추가 시간입니다. 수백ms에서 수초까지 발생합니다.
- Heavy-tail 분포
- 극단적으로 큰 값이 나올 확률이 지수분포보다 높은 분포입니다. 실제 네트워크 레이턴시가 이 특성을 보여 P99가 평균보다 훨씬 높습니다.
- 연결 풀링(Connection Pooling)
- 미리 만들어둔 네트워크 연결을 재사용하여 연결 설정 시간(TCP/TLS 핸드셰이크)을 절약하는 기법입니다.
next tools