오토스케일링, 서버를 늘리기 전에 늘릴 기준을 정합니다

먼저 정할 것은 대수가 아니라 기준 지표입니다

자동 증설을 붙이기 전에 답해야 하는 질문은 '몇 대까지 늘릴까'가 아니라 '무엇을 보고 늘릴까'입니다. 프로세서 사용률로 늘리면, 병목이 외부 호출 대기나 데이터베이스 연결 수일 때 서버가 늘어도 응답이 빨라지지 않습니다. 그래서 1단계로 느려질 때 어떤 지표가 먼저 올라가는지 과거 사례에서 확인합니다. 2단계로 그 지표가 조정 기준으로 쓸 수 있는 형태인지 봅니다. 서버 1대에 비례해 분산되는 값이어야 증설이 효과를 냅니다. 대기 중인 요청 수나 큐 길이가 그 조건을 만족하는 경우가 많습니다. 기준을 잘못 고르면 대수만 늘고 요금만 오릅니다.

늘리는 속도와 줄이는 속도를 다르게 둡니다

증설과 감축을 같은 속도로 설정하면 대수가 오르내리며 흔들립니다. 그래서 늘릴 때는 빠르게, 줄일 때는 천천히 두는 것이 기본입니다. 설정할 값은 네 가지입니다. 첫째는 평가 기간으로, 몇 분 동안 기준을 넘어야 반응할지 정합니다. 둘째는 한 번에 늘릴 대수입니다. 셋째는 새 서버가 서비스에 투입되기까지 걸리는 준비 시간이고, 이 시간이 길면 평가 기간을 늘려야 합니다. 넷째는 감축 대기 시간입니다. 준비 시간이 5분인데 평가 기간을 1분으로 두면, 아직 뜨지 않은 서버를 기다리지 못해 계속 추가 증설이 일어납니다.

최소 대수와 최대 대수의 월 금액을 냅니다

학습용 가정으로 계산합니다. 가정값은 서버 1대 월 100,000원, 하루 중 8시간은 6대가 필요하고 나머지 16시간은 2대로 충분하다고 두겠습니다. 고정 6대로 두면 월 600,000원입니다. 자동 증설을 적용하면 시간 비중으로 계산해 2대 상시에 4대를 하루 3분의 1 동안 더 쓰는 셈이므로, 상시 2대분 200,000원에 추가 4대를 하루 3분의 1 동안 쓰는 133,333원을 더해 합계 약 333,333원입니다. 중간 계산값인 절감액은 월 266,667원입니다. 최종 금액에는 최소 대수를 2대로 둘 때의 위험 비용을 더해야 하므로, 증설 지연 동안의 응답 저하를 감당할 수 있는지 먼저 판단합니다.

증설로 해결되지 않는 병목

결론을 뒤집는 조건은 공유 자원의 한계입니다. 데이터베이스 연결 수가 상한이면 서버를 늘릴수록 연결 경합이 심해져 전체가 더 느려집니다. 이때 증설은 해결이 아니라 악화입니다. 확인 방법은 증설 직후의 응답 시간을 보는 것입니다. 대수가 늘었는데 응답이 나빠지면 공유 자원 쪽을 먼저 손봐야 합니다. 두 번째 조건은 준비 시간입니다. 새 서버가 뜨는 데 10분이 걸리는데 트래픽 급증이 3분 만에 끝난다면 자동 증설은 늦게 도착합니다. 이 경우 최소 대수를 올려 두는 편이 낫고, 그만큼 위 계산의 절감액은 줄어듭니다.

클라우드 비교 실행 전 점검표

• 느려질 때 먼저 오르는 지표를 과거 사례에서 확인했다
• 서버 대수에 비례해 분산되는 지표를 기준으로 삼았다
• 준비 시간보다 긴 평가 기간과 느린 감축을 설정했다
• 증설 직후 응답 시간이 나빠지지 않는지 확인했다