[Azure Computing] Virtual Machine Scale Sets

 

 Azure 에서 제공하는 가상머신 확장 집합 기능에 대해 알아보고자 한다.

이 기능을 사용하는 이유는 트래픽의 증가와 감소를 유연하게 대처할 수 있고, 이는 곧 비용절감으로 이어지기 때문에 상황에 맞게 이 기능을 적절하게 사용한다면 운영에 있어 강점을 갖는다고 할 수 있겠다.

예를 들어, 택배회사의 물류센터가 평시에는 현재 있는 서버로 유지가 가능하지만 연말이나 명절과 같은 사람들의 트래픽이 몰리게 되는 시점에 가게 되면 이를 대처하기 위해 물리적 서버를 증설하는데는 오랜시간이 걸릴 것이다. 그러나 Azure Virtual Machine Scale Set 기능을 사용한다면 이를 좀 더 빠르고 유연하게 대처가 가능 한것이다.

이번 포스팅에서는,

1. What is Virtual Machine Scale Set?

2. Scaling 의 옵션

3. Scaling a scale set

4. Reducing costs by using low-priority scale sets

5. Configuring Virtual Machine Scale Set

6. Install and update applications in Virtual Machine Scale Set

 

---

What is Virtual Machine Scale Set?

Azure의 Virtual Machine Scale Set을 사용하면 부하가 분산된 동일한 여러 VM을 배포하고 관리할 수 있습니다. 이러한 가상 머신은 동일한 구성으로 실행됩니다. Virtual Machine Scale Set은 지능적이므로 VM 인스턴스 수를 자동으로 확장 또는 축소할 수 있습니다. 확장 집합은 VM 인스턴스의 크기도 변경할 수 있습니다.

확장 또는 축소 활성화에 사용되는 기준은 사용자 지정된 일정 또는 실제 수요와 사용량에 따라 달라질 수 있습니다. Scale Set은 VM 그룹에 동일한 구성을 동시에 적용합니다. 인스턴스를 개별적으로 직접 구성할 필요는 없습니다.

Scale Set은 Load Balancer를 사용하여 여러 VM 인스턴스에 요청을 분산합니다. 또 status probe를 사용하여 각 인스턴스의 가용성을 확인합니다. status probe는 인스턴스에 ping 을 보냅니다. 인스턴스가 응답하면 Scale Set은 인스턴스를 사용할 수 있음을 알 수 있고, ping이 실패하거나 시간 초과되면 인스턴스를 사용할 수 없다는 것을 알고 해당 인스턴스에 요청을 보내지 않습니다.

Virtual Machine Scale Set은 Azure에서 Linux VM과 Windows VM을 모두 지원합니다. 단, 하나의 Virtual Machine Scale Set에서 실행할 수 있는 VM은 1,000개로 제한됩니다.

수요가 달라지거나 예측할 수 없는 대규모 워크로드를 처리하는 경우 Virtual Machine Scale Set은 훌륭한 솔루션입니다. Virtual Machine Scale Set은 수요에 따라 부하가 분산되고 크기 조정된 동일한 VM을 제공하므로 자동으로 고가용성 환경을 구현합니다.

---

Scaling 의 옵션

horizontal scaling  수평적 스케일링

수평적 스케일링 은 Scale Set에서 여러 VM을 추가하거나 제거하는 프로세스입니다.

수요에 따라 Scale Set에 있는 가상 머신의 수를 늘리거나 줄여야 하는 경우가 있습니다. 예를 들어 수요가 적은 주 또는 날에는 일부 가상 머신을 실행하지 않아도 됩니다. 인스턴스 개수를 늘리거나 줄임으로써 수동으로Scale Set의 VM 수를 조정할 수 있습니다. 하지만 많은 경우, 규칙을 사용하여 VM을 자동으로 추가하거나 제거하는 것이 좋습니다. 이러한 규칙은 메트릭을 기반으로 하며, 수요 또는 일정에 따라 적절한 수의 VM이 추가되도록 합니다.

vertical scaling 수직적 스케일링

수직적 스케일링 은 메모리, CPU 성능 또는 디스크 공간과 같은 리소스를 VM에 추가하는 프로세스입니다.

Scale Set에서 동일한 크기의 새로운 VM이 추가되거나 제거되는 수평적 크기 조정과는 달리 수직적 크기 조정은 Scale Set 있는 VM의 크기를 늘리는 데 주력합니다.

예를 들어 Scale Set에 있는 VM 그룹의 CPU 성능을 줄여야 하는 경우가 있을 수 있습니다. 이 경우 가상 머신 그룹 전체를 굳이 제거하지 않아도 됩니다. Scale Set에서 메트릭에 기반한 규칙을 만들면 됩니다. 이러한 규칙은 VM의 크기 증가를 자동으로 trigger합니다.

수직적 스케일링을 사용할 때는 일반적으로 Scale Set에 있는 영향을 받는 VM을 재부팅해야 합니다. 이 프로세스로 인해 VM이 다시 시작되는 동안 확장 집합 전체의 성능이 일시적으로 저하될 수 있습니다. (down time 발생)

---

Scaling a scale set

Virtual Machine Scale Set은 워크로드 변동에 따라 VM을 빠르게 만들고 관리해야 한다는 요구 사항을 해결합니다. Scale Set에 다음과 같은 두 가지 유형의 크기 조정을 구성할 수 있습니다.

• Scheduled Scaling: 트래픽 급증을 수용할 수 있도록 확장 집합이 하나 또는 N 개의 추가 인스턴스를 배포한 다음 트래픽 급증이 끝나면 다시 축소하도록 사전에 예약할 수 있습니다.

• Autoscaling: 워크로드가 가변적이어서 예약이 어려운 경우, 메트릭 기반 임계값 크기 조정을 사용할 수 있습니다. 자동 크기 조정은 노드 사용량에 따라 수평적으로 확장합니다. 그런 다음 리소스가 기준선으로 돌아오면 다시 축소합니다.

두 가지 옵션 모두 크기 조정 요구 사항을 처리하면서 관련 비용을 관리합니다. 다음 예에서는 각 크기 조정 유형을 사용할 수 있는 시나리오에 대해 설명합니다.

Scheduled Scaling

대형 음식 배달 회사의 DevOps 팀에서 근무한다고 가정해 보세요. 금요일 밤은 일반적으로 가장 바쁜 시간입니다. 반대로 수요일 오전 7시는 일반적으로 가장 조용한 시간입니다.

Azure에서는 리소스 사용량을 기준으로 요금이 청구되므로 필요하지 않은 서비스는 실행하지 않는 것이 좋습니다. 금요일 저녁의 수요에 맞추기 위해 100개의 웹 서버가 필요하다면 기꺼이 그 요금을 지불할 용의가 있습니다. 하지만 수요일 아침에는 서버가 2개만 필요하므로 나머지 98개의 유휴 서버의 요금을 지불하는 것이 아깝습니다. 비용을 관리하면서도 운영 요구 사항을 충족하기 위해서는 Scheduled Scaling을 사용하는 것이 좋습니다.

Autoscaling

인기 있는 신발 회사의 DevOps 팀에서 근무한다고 가정해 보세요. 제품 출시가 다가오면서 서비스에 대한 상당한 수요가 있을 것이라고 예상합니다. 하지만 수요 급증은 예측이 불가능하고 수량화하기 어렵습니다. 현재 리소스를 사용하면서 수평적으로 크기를 조정하여 서비스를 수요에 맞추려 합니다.

이 시나리오에서는 메트릭 기반 Autoscaling을 사용하는 것이 좋습니다. 이 유형의 자동 크기 조정은 수요가 늘어나면 인프라를 확장하고, 수요가 줄어들면 다시 축소합니다.

---

Reducing costs by using low-priority scale sets

Virtual Machine Scale Set을 사용하면 최대 80%절감된 비용으로 Azure 컴퓨팅 리소스를 사용할 수 있습니다. 글로벌 Azure 인프라에는 충분히 활용되지 않는 컴퓨팅 리소스가 있는 경우가 많습니다. 낮은 우선 순위 Scale Set은 이처럼 충분히 활용되지 않는 컴퓨팅 용량을 통해 VM을 프로비전합니다.

이와 같은 VM을 사용할 때는 일시적이라는 점에 유의하세요. 가용성은 크기, 지역, 시간 등에 따라 달라집니다. 이러한 VM에는 SLA가 없습니다.

Azure에 컴퓨팅 성능이 다시 필요한 경우 Scale Set에서 제거될 VM에 대한 알림을 받게 됩니다. VM에서 코드를 정리하거나 정상적으로 종료해야 하는 경우, Azure Scheduled Events를 사용하여 해당 VM 내에서 알림에 반응하면 됩니다. 확장 집합이 다른 VM을 만들어 제거될 VM을 대체하도록 할 수도 있습니다. 단, 새 VM이 만들어진다는 보장은 없습니다.

낮은 우선 순위 Scale Set에서는 다음 두 가지 유형의 제거를 지정할 수 있습니다.

• 삭제: 모든 기본 디스크를 비롯한 전체 VM이 제거됩니다.

• 할당 취소: VM이 중지됩니다. 처리 및 메모리 리소스가 할당 취소됩니다. 디스크는 그대로 유지되고 데이터도 유지됩니다. VM이 실행되지 않는 동안 디스크 공간에 대한 요금이 청구됩니다.

낮은 우선 순위 Scale Set은 실행 중 중단이 발생하는 워크로드를 실행할 때나 훨씬 저렴한 비용으로 대규모 VM을 사용해야 하는 경우에 유용합니다. VM이 제거되는 시기를 제어할 수 없다는 점을 명심하세요.

---

Configuring Virtual Machine Scale Set

Manually scale Virtual Machine Scale Set

아래 코드는 수동으로 인스턴스 수를 변경하는 코드이다.

az vmss scale \
    --name MyVMScaleSet \
    --resource-group MyResourceGroup \
    --new-capacity 6

 

Auto scale Virtual Machine Scale Set

자동 크기 조정은 일련의 크기 조정 조건, 규칙 및 제한 사항에 따라 이루어집니다. 크기 조정 조건은 시간과 일련의 크기 조정 규칙을 결합합니다. 현재 시간이 크기 조정 조건에 정의된 기간에 해당하는 경우, 이 조건의 크기 조정 규칙이 평가됩니다. 이 평가의 결과에 따라 Scale Set에서 인스턴스를 추가할지 제거할지 여부가 결정됩니다. 크기 조정 조건은 최대 인스턴스 수 및 최소 인스턴스 수로 크기 조정 한도도 정의합니다.

배송 회사 시나리오에서는 Scale Set 전체의 CPU 사용량을 모니터링하는 크기 조정 규칙을 추가할 수 있습니다. CPU 사용량이 75% 임계값을 초과하면 크기 조정 규칙은 가상 머신 인스턴스 수를 늘릴 수 있습니다. 두 번째 크기 조정 규칙도 CPU 사용량을 모니터링하되 사용량이 50% 아래로 떨어지면 가상 머신 인스턴스 수를 줄일 수 있습니다. 애플리케이션이 전역이기 때문에 이러한 규칙은 특정 시간만이 아니라 항상 활성 상태여야 합니다.

하나의 Scale Set에 여러 개의 크기 조정 조건이 포함될 수 있습니다. 일치하는 각 Scale 조건이 적용됩니다. Scale Set에는 현재 시간 및 성능 메트릭과 일치하는 다른 크기 조정 조건이 없는 경우에 사용되는 default Scale condition도 포함될 수 있습니다. default Scale condition 은 항상 활성 상태입니다. default Scale condition 에는 포함된 Scale condition이 없으며, 사실상 축소 또는 확장하지 않는 null 크기 조정 조건 역할을 합니다. 하지만 default Scale condition 을 수정하여 기본 인스턴스 수를 설정할 수 있습니다. 또는 확장 후 다시 축소하는 크기 조정 조건 쌍을 추가할 수 있습니다.

---

1. Schedule: 특정 날짜 또는 기간에 워크로드가 늘어날 것을 알고 있다면 이 방법을 사용합니다.

시작 및 종료 시간과 확장 집합에 추가할 인스턴스 수를 지정합니다. 다음 스크린샷은 Azure Portal에서의 예를 보여줍니다. 매주 월요일과 수요일 오전 6시에서 오후 6시 사이에 인스턴스의 수가 20개로 늘어나고, 이 시간 외에는 다른 Scale condition이 없으면 default Scale condition 이 적용됩니다.

이 경우 기본 규칙은 다시 2개의 인스턴스로 시스템 크기를 조정합니다. 이 값은 이 기본 크기 조정 조건에서 최대 입니다.

---

2. Matrics: 확장 집합에 연결된 성능 메트릭을 모니터링하여 크기를 조정합니다. 이러한 메트릭이 지정된 임계값을 초과하면 확장 집합이 자동으로 새로운 가상 머신 인스턴스를 시작할 수 있습니다. 추가 리소스가 더 이상 필요하지 않다고 메트릭에 표시되면 Scale Set은 초과 인스턴스를 중지할 수 있습니다.

예시 시나리오에서는 평균 CPU 사용량이 75%를 초과하면 인스턴스 수를 1개 늘리려 합니다. 또한 확장 작업을 50개의 인스턴스로 제한하려 합니다. 이러한 한도는 공격으로 인해 발생하는 비용이 많이 드는 런어웨이 크기 조정을 방지하는 데 도움이 됩니다. 마찬가지로 평균 CPU 사용량이 50% 아래로 떨어지면 축소하려 합니다.

이러한 메트릭은 Virtual Machine Scale Set을 모니터링하는 데 일반적으로 사용됩니다.

• CPU 사용률: 이 메트릭은 모든 인스턴스에서의 CPU 사용량을 나타냅니다. 값이 크면 인스턴스가 CPU에 바인딩되어 클라이언트 요청 처리가 지연될 수 있음을 나타냅니다.
• 인바운드 흐름 및 아웃바운드 흐름: 이러한 메트릭은 네트워크 트래픽이 확장 집합의 가상 머신으로 들어오고 나가는 속도를 보여 줍니다.
• 디스크 읽기 작업/초 및 디스크 쓰기 작업/초: 이러한 메트릭은 확장 집합에서의 디스크 I/O 볼륨을 보여 줍니다.
• 데이터 디스크 큐 크기: 이 메트릭은 가상 머신에 있는 데이터 디스크에 대한 I/O 요청 중 대기 중인 요청 수를 보여 줍니다.

Scale Condition은 모든 인스턴스의 메트릭에 대해 검색한 값을 집계합니다. 또한 시간 조직 이라고 하는 기간 동안의 값을 집계합니다. 각 메트릭에는 내부 시간 조직이 있지만 일반적으로 이 기간은 1분입니다. 집계된 값은 시간 집계 라고 합니다. 시간 집계 옵션은 평균, 최소, 최대, 총계, 마지막, 개수 입니다.

1분 간격은 메트릭의 변화가 자동 크기 조정을 가치 있게 만들 만큼 충분히 오래 지속되는지 여부를 결정하기에는 너무 짧습니다. 크기 조정 규칙은 두 번째 단계를 수행하여 사용자가 지정한 더 긴 기간 동안 추가로 시간 집계 값을 집계합니다. 이 기간을 지속 시간 이라고 합니다. 최소 지속 시간은 5분입니다. 예를 들어 지속 시간이 10분으로 설정되면 Scale Condition은 시간 조직에 대해 계산된 10개의 값을 집계합니다.

지속 시간의 집계 계산은 시간 조직의 집계 계산과 다를 수 있습니다. 예를 들어 시간 집계가 평균 이고 수집된 통계가 1분 시간 조직에서의 CPU 사용률 이라고 가정해 보겠습니다. 그러면 매분 해당 분 동안 모든 인스턴스에서의 평균 CPU 사용률이 계산됩니다. 시간 조직 통계가 최대 로 설정되고 규칙의 지속 시간이 10분으로 설정된 경우, CPU 사용 백분율의 10개 평균 값 중 최대 값이 규칙 임계값 초과 여부를 결정합니다.

Scale Condition은 메트릭이 임계값을 초과했음을 감지하면 크기 조정 작업을 수행할 수 있습니다. Scaling 은 out 또는 in 일 수 있습니다. 확장 작업은 인스턴스 수를 늘립니다. 축소 작업은 인스턴스 개수를 줄입니다.

Scaling 은 연산자(예: 보다 작음, 보다 큼, 같음)를 사용하여 임계값에 대응하는 방법을 결정합니다. Scaling-out은 일반적으로 보다 큼 연산자를 사용하여 메트릭 값을 임계값과 비교합니다. Scaling-in은 보다 작음 연산자를 사용하여 메트릭 값을 임계값과 비교하는 경향이 있습니다. 크기 조정 작업은 사용 가능한 수를 늘리거나 줄이는 대신 인스턴스 개수를 특정 수준으로 설정할 수도 있습니다.

Scaling에는 분 단위로 지정된 휴지 기간이 있습니다. 이 기간 동안에는 Scale Condition규칙이 다시 트리거되지 않습니다. 시스템은 휴지 기간을 통해 Scaling이벤트 사이에 안정화될 수 있습니다. 인스턴스를 시작하거나 종료하는 데 시간이 걸리므로 수집된 메트릭에 몇 분 동안 큰 변화가 표시되지 않을 수 있습니다. 최소 휴지 기간은 5분입니다.

마지막으로 워크로드가 감소하면 축소를 계획합니다. Scale Rule을 동일한 크기 조정 조건에서 쌍으로 정의하는 것이 좋습니다. 하나의 크기 조정 규칙은 메트릭이 상한 임계값을 초과할 때 시스템을 규모 확장하는 방법을 나타내야 합니다. 다른 하나의 규칙은 동일한 메트릭이 하한 임계값 미만으로 떨어질 때 시스템을 다시 축소하는 방법을 정의해야 합니다. 두 임계값을 동일한 값으로 설정하면 안 됩니다. 동일한 값으로 설정하면 확장했다가 다시 축소하는 일련의 진동 이벤트가 트리거될 수 있습니다.

이에 관련된 실습은 아래 글을 참고 하시길 바랍니다.

[MS Azure/AZ104] - AZ104 실습 : [Computing] Azure Virtual Machine Scale Set Deployment, Configure, Install and Update App in Virtual Machine Scale Set / 가상머신 확장집합 배포, 설정, 가상머신 확장집합 안의 애플리케이션 업데이트

AZ104 실습 : [Computing] Azure Virtual Machine Scale Set Deployment, Configure, Install and Update App in Virtual Machine Scal

 

---

Install and update applications in Virtual Machine Scale Set

배송 회사 시나리오에서는 최종 사용자의 중단을 최소화하면서 애플리케이션 업데이트를 빠르게 롤아웃할 방법이 필요합니다. 사용자 지정 스크립트 확장은 이상적인 솔루션입니다.

what is an Azure custom script extension?

Azure 사용자 지정 스크립트 확장은 스크립트를 다운로드하여 Azure VM에서 실행합니다. 확장 집합의 모든 VM에서 동일한 작업을 자동화할 수 있습니다.

사용자 지정 스크립트를 Azure Storage 또는 GitHub에 저장하세요. VM에 사용자 지정 스크립트를 추가하려면 Azure Portal을 사용하면 됩니다. 템플릿 기반 배포의 일부로 사용자 지정 스크립트를 실행하려면 사용자 지정 스크립트 확장을 Azure Resource Manager 템플릿과 결합합니다.

Install an application across a scale set by using a custom script extension

Azure CLI에서 사용자 지정 스크립트 확장을 사용하려면 가져올 파일과 실행할 명령을 정의하는 구성 파일을 만듭니다. 이 파일은 JSON 형식입니다.

다음 예는 GitHub에 있는 리포지토리에서 애플리케이션을 다운로드한 후 custom_application_v1.sh라는 스크립트를 실행하여 애플리케이션을 호스트 인스턴스에 설치하는 사용자 지정 스크립트 구성을 보여 줍니다.

# yourConfigV1.json 
{
  "fileUris": ["https://raw.githubusercontent.com/yourrepo/master/custom_application_v1.sh"],
  "commandToExecute": "./custom_application_v1.sh"
}

이 구성을 확장 집합에 배포하려면 사용자 지정 스크립트 확장을 사용해야 합니다. 다음 코드는 Azure CLI를 사용하여 가상 머신 확장 집합을 위한 사용자 지정 스크립트 확장을 만드는 방법을 보여 줍니다. 다음 명령은 확장 집합의 VM에 새 앱을 설치합니다.

az vmss extension set \
  --publisher Microsoft.Azure.Extensions \
  --version 2.0 \
  --name CustomScript \
  --resource-group myResourceGroup \
  --vmss-name yourScaleSet \
  --settings @yourConfigV1.json

Update an application across a scale set by using a custom script extension

사용자 지정 스크립트 확장을 사용하여 가상 머신 확장 집합에서 기존 앱을 업데이트할 수 있습니다. 이렇게 하려면 업데이트된 배포 스크립트를 참조한 다음 Scale Set 에 확장을 다시 적용합니다. 예를 들어 다음 JSON 코드는 새로운 버전의 애플리케이션을 가져와서 설치하는 구성의 예를 보여 줍니다.

# yourConfigV2.json
{
  "fileUris": ["https://raw.githubusercontent.com/yourrepo/master/custom_application_v2.sh"],
  "commandToExecute": "./custom_application_v2.sh"
}

이전에 표시된 것과 동일한 az vmss extension set 명령을 사용하여 업데이트된 앱을 배포합니다. 단, 이번에는 새 구성 파일을 참조합니다.

az vmss extension set \
    --publisher Microsoft.Azure.Extensions \
    --version 2.0 \
    --name CustomScript \
    --resource-group yourResourceGroup \
    --vmss-name yourScaleSet \
    --settings @yourConfigV2.json

 

VM은 Scale Set 의 업그레이드 정책에 따라 업데이트됩니다. 이 정책은 확장 집합을 처음 만들 때 지정합니다. 업그레이드 정책에는 다음과 같은 세 가지 모드가 있습니다.

• 자동: Scale Set 은 VM이 업그레이드되는 시점을 정의하지 않습니다. VM이 동시에 모두 업데이트되어 서비스 중단이 발생할 수 있습니다.
• 롤링: Scale Set은 Scale Set 의 VM에서 일괄적으로 업데이트를 롤아웃합니다. 선택적 일시 중지로 서비스 중단을 최소화하거나 제거할 수 있습니다. 이 모드에서는 Scale Set 의 가상 머신들이 짧은 시간 동안 서로 다른 버전의 앱을 실행할 수 있습니다. 이 모드를 사용하려면 Scale Set에 status probe를 추가하거나 Scale Set에 애플리케이션 Status Scaling을 적용해야 합니다.
• 수동: Scale Set 의 기존 VM이 업데이트되지 않습니다. 모든 변경은 수동으로 수행해야 합니다. 이 모드가 기본값입니다.

가상 머신 확장 집합을 프로비전할 때 업그레이드 정책을 지정하려면 upgrade-policy-mode 옵션을 사용하세요. 다음 코드는 Azure CLI를 사용하는 예입니다.

az vmss create \
  --resource-group MyResourceGroup \
  --name MyScaleSet \
  --image UbuntuLTS \
  --upgrade-policy-mode automatic \
  --admin-username azureuser \
  --generate-ssh-keys

---

Reference

출처 1 : docs.microsoft.com/ko-kr/learn/modules/build-app-with-scale-sets/2-features-benefits-virtual-machine-scale-sets

가상 머신 확장 집합의 기능 및 이점 - Learn

출처 2 : docs.microsoft.com/ko-kr/azure/virtual-machine-scale-sets/virtual-machine-scale-sets-autoscale-overview

Azure 가상 머신 확장 집합을 사용한 자동 크기 조정 개요 - Azure Virtual Machine Scale Sets

출처 3 : docs.microsoft.com/ko-kr/azure/virtual-machine-scale-sets/virtual-machine-scale-sets-deploy-app

Azure 가상 머신 확장 집합에 애플리케이션 배포 - Azure Virtual Machine Scale Sets

출처 4 : docs.microsoft.com/ko-kr/azure/virtual-machine-scale-sets/virtual-machine-scale-sets-placement-groups

대규모 Azure Virtual Machine Scale Sets로 작업 - Azure Virtual Machine Scale Sets

출처 5 : docs.microsoft.com/ko-kr/azure/virtual-machines/extensions/custom-script-windows

Windows용 Azure 사용자 지정 스크립트 확장 - Azure Virtual Machines

출처 6 : docs.microsoft.com/ko-kr/azure/virtual-machines/extensions/custom-script-linux

Azure에서 Linux Vm에 대 한 사용자 지정 스크립트 확장 실행 - Azure Virtual Machines

출처 7 : docs.microsoft.com/ko-kr/azure/virtual-machine-scale-sets/virtual-machine-scale-sets-health-extension

Azure 가상 머신 확장 집합에서 응용 프로그램 상태 확장 사용 - Azure Virtual Machine Scale Sets