k6로 대규모 부하 테스트를 진행하다가 갑자기 socket: too many open files 에러나 dial tcp: lookup error, cannot assign requested address 같은 오류를 경험해봤을까?
대상 애플리케이션 서버는 CPU나 메모리가 넉넉한데 정작 부하를 발생하는 테스트 장비 쪽에서 요청을 더 이상 보내지 못하고 뻗어버리는 현상이다.
다만 대부분의 개발자들은 이 오류가 대상 서버의 성능 한계 때문이라고 오해하거나, TCP 소켓의 작동 방식을 모른 채 VU(가상 사용자) 수만 무작정 줄이곤 한다.
이번에는 k6 부하 테스트 중 발생하는 TCP Socket TIME_WAIT 소진 오류가 정확히 뭔지, 왜 발생하는지, 그리고 올바른 커넥션 재사용 설정으로 어떻게 해결하는지 완벽하게 정리해서 소개하겠다.
k6는 Go 언어 기반으로 작성된 고성능 부하 테스트 도구다.
매우 적은 메모리로 수만 명의 가상 사용자(VU, Virtual Users)를 시뮬레이션할 수 있어 최근 백엔드 성능 검증 시 표준처럼 사용된다.
하지만 k6 스크립트 설정이 잘못되면 클라이언트(테스트 실행 장비)의 OS 소켓 자원이 빠르게 고갈된다.
TCP 통신에서는 클라이언트와 서버가 연결을 종료할 때 4-Way Handshake 과정을 거친다.
이때 먼저 연결 종료를 요청한 주체(Active Close)의 소켓은 즉시 닫히지 않고 일정 시간 동안 TIME_WAIT 상태로 남아있게 된다.
네트워크상에 뒤늦게 도착할 수 있는 잔여 패킷을 수신하고, 동일한 5-튜플(발신 IP, 발신 포트, 수신 IP, 수신 포트, 프로토콜)을 가진 새로운 연결과의 충돌을 방지하기 위함이다.
문제는 Linux 환경에서 클라이언트가 사용할 수 있는 임시 포트(Ephemeral Port)의 개수가 기본적으로 약 28,000개에서 60,000개 사이로 제한되어 있다는 점이다.
TIME_WAIT 상태는 보통 60초간 유지된다.
초당 수천 건의 HTTP 요청을 보내면서 매번 새로운 TCP 커넥션을 맺고 끊는다면, 단 몇 초 만에 모든 임시 포트가 TIME_WAIT 상태로 점유되어 더 이상 밖으로 나가는 소켓을 생성할 수 없게 된다.
이 문제를 해결하기 위해서는 테스트 스크립트 차원의 커넥션 재사용 설정과 클라이언트 OS 커널 파라미터 최적화가 동시에 이뤄져야 한다.
HTTP/1.1 이상의 프로토콜은 단일 TCP 커넥션에서 여러 개의 HTTP 요청/응답을 처리할 수 있는 Keep-Alive 기능을 지원한다.
k6는 기본적으로 Keep-Alive가 활성화되어 있지만, 스크립트 옵션에 noConnectionReuse: true가 설정되어 있거나 헤더에 Connection: close를 강제로 주입하면 매 요청마다 소켓을 닫고 다시 생성한다.
옵션을 false로 명시하고 헤더 설정을 점검하여 커넥션을 적극적으로 재사용해야 한다.
부하 테스트를 진행하는 클라이언트 리눅스 서버의 커널 설정을 변경하여 TIME_WAIT 상태의 소켓을 즉시 재활용할 수 있다.
sysctl 명령어를 통해 net.ipv4.tcp_tw_reuse 옵션을 활성화하면 보안 위험 없이 안전하게 포트 고갈을 방지할 수 있다.
k6의 각 VU(Virtual User)는 독립적인 HTTP 클라이언트처럼 동작한다.
VU 수가 과도하게 많고 루프 주기가 너무 짧으면 소켓생성 속도가 닫히는 속도를 압도한다.
stages 옵션을 활용해 부하를 단계적으로 늘리고, batchPerHost 설정을 조정해 단일 호스트로 향하는 동시 커넥션 수의 폭증을 제어한다.
| 구분 | noConnectionReuse: true | noConnectionReuse: false (권장) |
|---|---|---|
| 동작 방식 | 매 요청마다 TCP 연결을 생성하고 종료함 | 동일 VU 내에서 TCP 연결을 유지하며 재사용함 |
| 소켓 상태 | 짧은 시간 내 수만 개의 TIME_WAIT 소켓 누적 | VU 수만큼의 안정적인 ESTABLISHED 소켓 유지 |
| 오류 현상 | cannot assign requested address 발생 가능 | 소켓 고갈 없이 안정적으로 부하 유지가 능 |
| 테스트 목적 | 신규 연결 맺기 성능(Handshake) 측정 시 | 실제 서비스 환경의 지속 부하/전송량 측정 시 |
아래 실전 코드를 통해 소켓 고갈을 일으키는 원인과 이를 완벽히 방지하는 스크립트 작성법을 확인해보자.
✗ 매 요청마다 커넥션을 닫도록 설정되어 있어 소켓 고갈을 유발한다.
import http from 'k6/http';
import { sleep } from 'k6';
export const options = {
vus: 500,
duration: '1m',
// 커넥션 재사용을 비활성화하여 매번 신규 소켓을 생성시킴 (소켓 고갈의 주요 원인)
noConnectionReuse: true,
};
export default function () {
const params = {
headers: {
// 명시적으로 Connection close 헤더를 전송하여 TCP 단절을 유도함
'Connection': 'close',
},
};
// 대량의 요청을 조율 없이 연속 발사
http.get('http://api.example.com/v1/users', params);
}이 스크립트를 실행하면 실행 후 10~20초 시점에 아래와 같은 시스템 에러가 발생하며 테스트가 중단된다.
http.get(...) error: dial tcp 192.168.1.100:80: connect: cannot assign requested address
errored...................: 14500 241.666667/s
✓ HTTP Keep-Alive를 활성화하고 헤더 제어 및 VU 부하 단계를 유연하게 구성한다.
import http from 'k6/http';
import { check, sleep } from 'k6';
export const options = {
// 소켓 재사용 활성화 (기본값이 false이므로 명시적 선언 권장)
noConnectionReuse: false,
// 단일 호스트당 최대 커넥션 수 제한 설정
batchPerHost: 6,
// 부하를 단계적으로 상승시켜 안정적인 TCP Handshake 유도
stages: [
{ duration: '30s', target: 200 }, // 30초 동안 200 VU까지 증대
{ duration: '1m', target: 200 }, // 1분간 유지
{ duration: '10s', target: 0 }, // 10초간 종료
],
};
export default function () {
const params = {
headers: {
'Accept': 'application/json',
// Keep-Alive 유지 명시 (HTTP/1.1 기본 동작)
'Connection': 'keep-alive',
},
};
const res = http.get('http://api.example.com/v1/users', params);
check(res, {
'status가 200이다': (r) => r.status === 200,
});
// VU 간 요청 과호출 방지 및 실제 사용자 행동 간격 모사
sleep(0.1);
}이와 더불어 부하 테스트를 실행하는 클라이언트 서버(Linux) 터미널에서 다음 커널 파라미터를 설정한다.
# 임시 포트 범위 확대
sudo sysctl -w net.ipv4.ip_local_port_range="1024 65535"
# TIME_WAIT 상태의 소켓을 새 연결에 재사용 허용
sudo sysctl -w net.ipv4.tcp_tw_reuse=1
# 변경 사항 확인
sysctl net.ipv4.tcp_tw_reuse
올바른 스크립트 적용 후 k6 실행 결과는 소켓 에러 없이 깔끔하게 완료된다.
running (1m40.0s), 000/200 VUs, 125430 complete and 0 interrupted iterations
default ✓ [ 100% ] 000/200 VUs 1m40s
✓ status가 200이다
checks.........................: 100.00% ✓ 125430 ✗ 0
data_received..................: 45 MB 450 kB/s
data_sent......................: 18 MB 180 kB/s
http_req_blocked...............: avg=8.2us min=1.1us med=2.4us max=12.4ms
http_req_connecting............: avg=3.1us min=0s med=0s max=11.8ms
http_req_duration..............: avg=15.4ms min=1.2ms med=12.1ms max=180.2ms
http_req_failed................: 0.00% ✓ 0 ✗ 125430
http_reqs......................: 125430 1254.3/s
iteration_duration.............: avg=115.8ms min=101.4ms med=112.5ms max=285.1ms
vus............................: 1 min=1 max=200
vus_max........................: 200 min=200 max=200http_req_connecting 수치가 극도로 작게 유지되는 것은 TCP 연결을 매번 새로 맺지 않고 기존 커넥션을 재사용하고 있음을 증명한다.
부하 테스트 환경을 구축할 때 자주 놓치는 부분들을 점검해두자.
✗ 클라이언트(k6) 설정만 바꾸고 대상 애플리케이션 서버(Nginx, Apache, Tomcat)의 Keep-Alive 설정을 끈 경우.
서버 측에서 Connection: close 응답을 보내버리면 클라이언트가 아무리 재사용을 원해도 서버가 커넥션을 닫아버리므로 TIME_WAIT 소켓이 서버 측에 대량 생성된다.
서버의 keepalive_timeout 및 keepalive_requests 옵션이 충분히 크게 설정되어 있는지 확인해야 한다.
✗ sleep() 없이 반복문 내에서 무한 요청을 전송하는 경우.
VU의 개수가 적더라도 루프에 sleep 지연이 전혀 없으면 CPU 사용량이 100%에 도달하고 네트워크 타임아웃 오류가 야기된다.
아주 짧은 시간(예: 0.05초~0.1초)이라도 sleep을 추가해 실제 트래픽 흐름을 모사해야 한다.
✗ tcp_tw_recycle 옵션을 사용하는 실수.
과거 일부 블로그에서 tcp_tw_recycle 설정을 권장하곤 했으나, 이 옵션은 NAT 환경(공유기, 로드밸런서 뒤에 위치한 클라이언트)에서 패킷 타임스탬프 문제로 요청을 무단 드롭하는 심각한 문제가 있어 Linux 커널 4.12 이후 완전히 제거되었다.
반드시 tcp_tw_recycle이 아닌 tcp_tw_reuse 옵션을 사용해야 한다.
k6 부하 테스트 시 TCP 소켓 관리와 Keep-Alive 최적화는 서비스의 정확한 한계 성능을 측정하기 위해 필수로 거쳐야 하는 과정이다.
작은 커넥션 재사용 습관과 OS 커널 파라미터 최적화가 모여서 수만 RPS 이상의 정확한 부하 테스트 환경을 만든다는 점을 잊지 말자.
이 글의 Keep-Alive 설정과 OS 옵션 튜닝 부분을 참고해 스크립트를 보완하면, 소켓 고갈 없이 실제 서비스 억제력을 검증하는 최상의 부하 테스트 결과를 얻을 수 있을 것이다.