[EKS] eks node autoscaling 부팅 속도 개선

AWS/EKS

후드리챱챱 2023. 12. 17. 18:16

EKS에서 사용하는 노드의 부팅은 일반적인 EC2 인스턴스의 부팅과 동일하며 이와 더불어 클러스터와 연결하기 위한 여러 과정이 필요하므로 더 많은 시간이 소요된다.

일반적인 부팅 속도 개선을 위한 방법

1. EKS 최적화 AMI 사용

2. 이벤트 대비 사전 pod Scale-out

이외 쿠버네티스 내 설정을 통한 부팅 속도 개선이 가능하지만 충분한 테스트 및 검증 필요

1. EKS AMI 커스터마이징을 통해 부팅 과정에서 불필요하게 소요되는 시간을 직접 개선하는 방법

[관련 링크]
https://github.com/awslabs/node-latency-for-k8s
https://github.com/awslabs/amazon-eks-ami/issues/1099
https://medium.com/keikoproj/rapid-auto-scaling-on-eks-part-1-bb4de84fc599

2. Cluster Overprovisioning 적용
클러스터 오버프로비저닝이란 특정 역할 없이 노드의 리소스만 할당된 더미 파드를 생성하고, 서비스 파드보다 낮은 우선순위를 적용하여 트래픽 증가 시 더미 파드를 먼저 축출(Enviction)하여 pending 상태로 만듬으로써 노드 Scale-out 시간을 앞당기는 방법

이 경우 더미 파드의 cpu, memory request를 운영 환경에 맞게 적절한 크기로 설정하는 것이 중요