Kubernetes 배포 중 요청 실패, readiness probe로 막힐까?
롤링 업데이트 중 요청이 왜 실패하는지, k3s 1.35 클러스터에 초당 50건의 부하를 주며 배포를 반복해 확인합니다. 아무 설정이 없을 때, readiness probe만 있을 때, preStop과 graceful shutdown까지 갖췄을 때 실패 요청 수를 비교합니다.
@Hong2026-10-01조회 298

롤링 업데이트 중 요청이 왜 실패하는지, k3s 1.35 클러스터에 초당 50건의 부하를 주며 배포를 반복해 확인합니다. 아무 설정이 없을 때, readiness probe만 있을 때, preStop과 graceful shutdown까지 갖췄을 때 실패 요청 수를 비교합니다.

CPU limit은 평균 사용량이 아니라 100밀리초마다 쓸 수 있는 CPU 시간을 자르는 방식이라, 짧은 순간 여러 스레드가 몰리면 사용률이 낮아도 요청이 멈춰 기다립니다. Docker의 --cpus로 같은 부하에서 limit별 p99 지연과 cpu.stat의 throttling 값을 비교하고, --cpuset-cpus와의 차이를 확인합니다.