연결 유지의 비밀 — TCP Keep-Alive, 하트비트, 그리고 NAT 타임아웃의 수학
많은 개발자들은 클라이언트와 서버가 TCP 소켓을 한 번 열고 나면(ESTABLISHED), 누군가가 명시적으로 연결을 닫기 전(FIN 또는 RST 패킷을 보낼 때)까지는 그 연결이 영원히 유지될 것이라고 생각합니다.
그러나 실시간 시스템을 운영해 보면 기괴한 현상을 마주하게 됩니다. 사용자가 아무런 말을 하지 않은 채 10분 동안 스마트폰을 가만히 내려두었을 뿐인데, 서버에서 그 사용자에게 메시지를 쏘는 순간 Broken Pipe나 Connection Reset 에러가 터져 나옵니다. 물리적으로 스마트폰은 Wi-Fi에 잘 붙어 있고 기기도 켜져 있는데, 중간의 네트워크 연결은 소리 소문도 없이 증발해 버린 것입니다.
이것이 바로 실시간 통신 엔지니어들이 가장 오랜 시간 싸워온 유령 연결(Zombie Connection) 의 문제입니다. 그리고 이 유령을 퇴치하기 위한 기술이 바로 Keep-Alive와 하트비트(Heartbeat) 입니다.
1. 연결은 왜 소리 없이 끊어지는가: NAT Conntrack의 침묵
인터넷은 양 끝단 컴퓨터만으로 이루어져 있지 않습니다. 클라이언트와 서버 사이에는 가정용 공유기, 카페의 Wi-Fi 라우터, 통신사 기지국의 대규모 NAT 장비(CGNAT), 그리고 클라우드의 방화벽과 L4 로드밸런서가 촘촘히 가로막고 있습니다.
이 모든 중간 장비들은 공인 IP 고갈을 막고 보안을 유지하기 위해 내부적으로 연결 추적(Connection Tracking, 줄여서 Conntrack) 테이블 을 메모리에 유지합니다.
flowchart LR
subgraph LAN["Private Network (LAN)"]
CLIENT["Internal Client<br/>192.168.0.15:45821"]
end
subgraph NAT["NAT Router (Conntrack State Table)"]
direction TB
MAP["Public Mapped Socket: 203.0.113.50:52100"]
TIMER["Idle Timeout: 300s Countdown"]
MAP --- TIMER
end
subgraph WAN["Public Internet (WAN)"]
SERVER["Destination Server<br/>198.51.100.1:443"]
end
CLIENT <-->|"Source Translation"| NAT <-->|"External Session"| SERVER
사설 IP를 쓰는 스마트폰이 외부 서버로 TCP SYN 패킷을 보내 연결을 맺으면, 공유기는 이 매핑 정보를 메모리 테이블에 한 줄 기록합니다. 외부 서버에서 응답 패킷이 돌아오면 이 테이블을 보고 내부의 스마트폰으로 토스해 줍니다.
문제는 공유기와 통신사 장비의 메모리가 유한하다 는 점입니다. 수천, 수만 대의 단말이 쏟아내는 연결 정보를 무한정 기억할 수 없으므로, 장비들은 가혹한 규칙을 적용합니다:
일정 시간 동안 패킷이 오가지 않는 연결은 죽은 연결로 간주하고 테이블에서 지워버린다.
- TCP 연결의 유휴 만료 시간 : 일반 가정용 공유기는 약 300초(5분) , 보수적인 통신사 방화벽은 60초~120초 .
- UDP 연결의 유휴 만료 시간 : 극단적으로 짧은 30초 .
만약 5분 동안 단 한 바이트의 데이터도 주고받지 않으면, 공유기는 테이블에서 해당 소켓 매핑 정보를 조용히 삭제(Purge)해 버립니다.
양 끝단의 OS는 여전히 소켓이 ESTABLISHED 상태라고 철석같이 믿고 있지만, 중간 길목의 문이 닫혀버린 것입니다. 이 상태에서 서버가 클라이언트로 데이터를 쏘면 공유기는 “어디로 보내야 할지 모르는 낯선 패킷”으로 판단하고 패킷을 버리거나 RST를 뱉어냅니다.
sequenceDiagram
autonumber
actor Client as Client (Socket OK)
participant NAT as NAT Router (Table Purged!)
participant Server as Server (Socket OK)
Note over Client,NAT: 5+ minutes of silence: Conntrack table entry evicted!
Server->>NAT: Push New Chat Message
Note over NAT: No mapping found in table!
NAT-->>Server: Drop Packet / Send TCP RST
Note over Server: Server discovers connection is dead
Note over Client: Client still believes socket is ESTABLISHED (Silent Drop)
2. OS 레벨의 TCP Keep-Alive: 왜 실전에선 쓸모가 없을까?
이 문제를 해결하기 위해 TCP 표준 명세에는 이미 TCP Keep-Alive 라는 메커니즘이 탑재되어 있습니다. 소켓 옵션에 SO_KEEPALIVE를 켜면 운영체제 커널이 알아서 백그라운드에서 빈 확인 패킷을 쏘아줍니다.
리눅스 커널의 TCP Keep-Alive 파라미터는 다음과 같이 설정됩니다.
# Time of inactivity before sending keepalive probes (seconds)
sysctl net.ipv4.tcp_keepalive_time = 7200
# Interval between keepalive probes (seconds)
sysctl net.ipv4.tcp_keepalive_intvl = 75
# Number of unacknowledged probes before considering connection dead
sysctl net.ipv4.tcp_keepalive_probes = 9
동작 원리는 아주 우아합니다. 연결이 유휴 상태에 들어간 지 tcp_keepalive_time이 지나면, 커널은 페이로드가 0바이트(또는 이전 시퀀스 번호를 재사용한 1바이트 더미)인 TCP Keep-Alive Probe 패킷 을 상대방에게 날립니다. 상대방 OS는 이에 대해 ACK로 응답합니다.
그런데 왜 대부분의 실시간 채팅과 웹소켓 서버는 이 OS 기능을 믿지 않고 자체적인 애플리케이션 하트비트를 따로 짤까요?
첫째, 기본 설정값이 너무 느리다
리눅스의 기본 tcp_keepalive_time은 무려 7,200초(2시간) 입니다. 공유기 테이블이 5분 만에 지워지는데, 2시간 뒤에 첫 번째 프로브 패킷을 보내는 것은 아무런 의미가 없습니다. 소켓 단위로 시스템 콜(TCP_KEEPIDLE)을 통해 이 시간을 60초 수준으로 깎을 수 있지만, 여전히 더 큰 문제가 남습니다.
둘째, 중간 프록시와 L7 로드밸런서의 장벽
현대 인프라에서 클라이언트는 백엔드 서버와 직접 1:1 TCP 소켓을 맺지 않습니다. 중간에 AWS ALB, Cloudflare, Nginx 같은 리버스 프록시가 가로막고 있습니다. TCP Keep-Alive는 지점 대 지점(Hop-by-Hop) 프로토콜입니다. 클라이언트와 프록시 사이에서 TCP Keep-Alive가 돌아도, 프록시와 백엔드 서버 사이의 연결 상태나 백엔드 프로세스의 생사 여부는 알 길이 없습니다.
셋째, 프로세스 데드락(Deadlock)을 감지하지 못한다
가장 치명적인 맹점입니다. TCP Keep-Alive는 운영체제 커널 이 처리합니다. 즉, 서버 애플리케이션 프로세스가 메모리 누수로 먹통이 되거나(Hang), 이벤트 루프가 무한 루프에 빠져 완전히 굳어버려도, 커널의 TCP 스택은 살아있기 때문에 날아온 프로브 패킷에 꼬박꼬박 정상 ACK를 돌려줍니다. 클라이언트는 서버 프로그램이 완전히 죽었는데도 소켓이 살아있다고 착각하게 됩니다.
3. 애플리케이션 레벨의 Ping-Pong 하트비트
실시간 시스템이 선택한 절대적인 정답은 애플리케이션 계층에서 직접 데이터 프레임을 주고받는 하트비트(Heartbeat / Ping-Pong) 였습니다.
웹소켓 프로토콜(RFC 6455) 명세에 굳이 0x9(Ping)과 0xA(Pong)이라는 제어 프레임(Opcode)이 별도로 정의되어 있는 이유가 바로 이것입니다.
sequenceDiagram
autonumber
actor Client as Client Application
participant NAT as Intermediate NAT / Proxy
participant Server as Server Application
Client->>NAT: WebSocket Frame Opcode 0x9 (Ping)
Note over NAT: Conntrack idle timer reset to 0!
NAT->>Server: Forward Ping Frame
Note over Server: Validates process health & event loop
Server->>NAT: WebSocket Frame Opcode 0xA (Pong)
NAT->>Client: Forward Pong Frame
Note over Client: Confirms end-to-end alive connection
- 클라이언트(또는 서버)의 애플리케이션 코드가 타이머를 돌려 주기적으로 Ping 메시지를 보냅니다.
- 이 메시지는 일반 데이터 패킷과 똑같이 취급되므로, 경로상의 모든 공유기, 통신사 CGNAT, 프록시 장비의 Conntrack 타이머를 0으로 리셋(갱신) 시킵니다.
- 상대방 애플리케이션 프로세스가 살아있어야만 Pong 응답을 만들어서 보낼 수 있으므로, 프로세스 락이나 좀비 상태를 100% 확실하게 검증 할 수 있습니다.
- 만약 정해진 시간(예: 10초) 안에 Pong이 오지 않는다면, 애플리케이션은 즉시 소켓을 강제 종료하고 새로운 연결을 수립(Failover)합니다.
4. 모바일 환경의 딜레마: 배터리 소모 vs 연결 유지의 수학
하트비트 주기를 1초로 잡으면 연결이 끊어질 틈이 전혀 없겠지만, 모바일 스마트폰 환경에서는 이것이 불가능합니다. 바로 스마트폰의 배터리 소모 때문입니다.
스마트폰의 LTE/5G 통신 모뎀(Baseband 칩셋)은 배터리를 아끼기 위해 극단적인 상태 머신(RRC: Radio Resource Control)으로 동작합니다.
flowchart LR
IDLE["<b>RRC_IDLE</b><br/>Lowest Power Mode (약 5mA)<br/>Modem radio dormant"]
CONN["<b>RRC_CONNECTED</b><br/>High Power Mode (약 250mA)<br/>Radio RF transmitter active"]
IDLE -->|"Packet Sent (Ping / Data)"| CONN
CONN -->|"Inactivity Timer Expires (10–15s)"| IDLE
- RRC_IDLE : 무선 모뎀이 절전 모드로 잠들어 있는 상태. 전력 소모 극소 (수 mA).
- RRC_CONNECTED : 기지국과 통신 채널을 활성화하고 전파를 쏘는 상태. 전력 소모 극대 (수백 mA).
스마트폰이 1바이트짜리 하트비트 핑 패킷 하나를 쏘는 순간, 잠자고 있던 통신 모뎀이 깨어나 풀 파워로 전파를 쏩니다. 그리고 패킷 전송이 끝난 뒤에도 모뎀은 즉시 잠들지 못하고, 기지국과의 비활성 타이머(Inactivity Timer, 통상 10~15초) 동안 고전력 상태를 유지하며 배터리를 갉아먹습니다.
만약 하트비트 주기를 15초로 설정하면 어떻게 될까요? 모뎀은 절전 모드로 내려갈 틈도 없이 24시간 내내 고전력 상태로 깨어있게 되며, 스마트폰 배터리는 반나절 만에 방전 됩니다.
주기 최적화의 수학: 최장 유휴 시간의 탐색
따라서 모바일 메신저 엔지니어들은 다음 부등식을 만족하는 **임계 주기()**를 찾아내야 합니다.
- 통신사 NAT 테이블이 닫히는 시간(, 대략 3~5분)보다는 작아야 연결이 끊기지 않습니다.
- 통신 모뎀이 절전 모드에 머무는 시간을 최대한 길게 확보해야 배터리가 유지됩니다.
카카오톡이나 왓츠앱 같은 모바일 메신저들이 수많은 현장 테스트 끝에 낙점한 최적의 하트비트 주기는 약 3분~4분(180초~240초) 내외입니다.
더 나아가 현대의 스마트폰은 앱이 직접 백그라운드 소켓을 쥐고 흔드는 대신, OS 차원에서 단 하나의 통신 채널만 열어두고 모든 앱의 메시지를 합쳐서 받아주는 통합 푸시 서비스(Apple APNs, Google FCM) 로 진화했습니다. 애플과 구글의 OS 데몬만이 15분~20분 주기의 초장기 하트비트를 유지하고, 앱들은 완전히 잠들어 있다가 메시지가 올 때만 깨어나는 구조로 배터리의 한계를 돌파한 것입니다.
5. 완벽한 연결이란 존재하지 않는다
Keep-Alive와 하트비트 엔지니어링이 우리에게 가르쳐 주는 가장 중요한 교훈은, 분산 네트워크에서 ‘영구적인 연결’이란 환상에 불과하다 는 사실입니다.
물리적 케이블의 단선, 와이파이 음영 지역 진입, 공유기 메모리 부족, 통신사 기지국 핸드오버 등 패킷이 소리 없이 증발할 수 있는 변수는 도처에 도사리고 있습니다.
따라서 훌륭한 실시간 시스템은 연결을 끊어지지 않게 붙잡아 두는 기술에만 매달리지 않습니다. “모든 연결은 언제든 예고 없이 끊어질 수 있다”는 냉정한 현실을 인정하고, 연결이 끊어졌을 때 클라이언트가 얼마나 지능적으로 지수 백오프(Exponential Backoff)와 지터(Jitter)를 적용해 재연결을 시도하는가, 그리고 끊어진 시간 동안 도착하지 못한 메시지를 어떻게 유실 없이 복구(Reconciliation)하는가 를 설계하는 것이 실시간 통신 엔지니어링의 진정한 완성입니다.