네트워크 타임아웃

## 네트워크 타임아웃 확률의 수학적 배경

### 정규분포 모델 평균 응답시간 μ, 표준편차 σ, 타임아웃 T일 때:

z = (T - μ) / σ P(타임아웃) = P(X > T) = 1 - Φ(z)

Φ는 표준정규분포의 CDF입니다.

예시: μ = 200ms, σ = 100ms, T = 500ms → z = 3 → P ≈ 0.135%

### 백분위수 계산 정규분포에서 P99 레이턴시: T_99 = μ + 2.326σ, P99.9: T_99.9 = μ + 3.090σ

평균 200ms, σ = 100ms → P99 ≈ 433ms, P99.9 ≈ 509ms

### 꼬리 확률과 heavy-tail 실제 네트워크 지연은 정규분포보다 오른쪽 꼬리가 두꺼운 heavy-tail 분포(로그정규분포 등)를 따릅니다. 따라서 정규분포로 추정한 타임아웃 확률은 실제보다 낙관적일 수 있습니다.

### SLA 준수율 타임아웃 확률 p_t, 일일 요청 수 N일 때:

일일 타임아웃 건수 = N × p_t SLA 준수율 = 1 - p_t

1. 지연시간 분포 입력

   평균 지연 시간과 표준편차를 입력합니다.

2. 타임아웃 설정

   타임아웃 시간(ms)을 입력합니다.

3. 결과 확인

   타임아웃 발생 확률과 권장 타임아웃(99%, 99.9%)을 확인합니다.

레이턴시(Latency)

요청을 보낸 시점부터 응답을 받을 때까지 걸리는 시간입니다. 네트워크 전파, 서버 처리, 직렬화 시간 등을 포함합니다.

RTT(Round-Trip Time)

패킷이 출발지에서 목적지까지 갔다가 돌아오는 데 걸리는 시간입니다. 한국-미국 간 RTT는 약 130~180ms입니다.

P99(99번째 백분위수)

전체 요청의 99%가 이 시간 이내에 완료되는 레이턴시 값입니다. 상위 1%의 느린 요청을 나타냅니다.

SLA(Service Level Agreement)

서비스 제공자가 보장하는 응답시간, 가용성 등의 품질 기준을 명시한 계약입니다. 위반 시 크레딧 환불 등의 보상이 따릅니다.

CDN(Content Delivery Network)

전 세계에 분산된 서버 네트워크로, 사용자와 가장 가까운 서버에서 콘텐츠를 제공하여 레이턴시를 줄이는 서비스입니다.

콜드 스타트(Cold Start)

서버리스 함수가 처음 호출되거나 오래 미사용 후 호출될 때 초기화에 걸리는 추가 시간입니다. 수백ms에서 수초까지 발생합니다.

Heavy-tail 분포

극단적으로 큰 값이 나올 확률이 지수분포보다 높은 분포입니다. 실제 네트워크 레이턴시가 이 특성을 보여 P99가 평균보다 훨씬 높습니다.

연결 풀링(Connection Pooling)

미리 만들어둔 네트워크 연결을 재사용하여 연결 설정 시간(TCP/TLS 핸드셰이크)을 절약하는 기법입니다.