🔭쓰면 쓸수록 늘어나는 클라우드 비용, AI로 절약할 수 있을까?

안녕하세요 구독자님, DevOps 소식과 기술 지식을 정리해서 공유해드리는 DevOps 여행을 위한 소식지입니다.

최근 많은 기업들이 퍼블릭 클라우드를 사용하면서 더 많은 유연성과 확장성을 얻고 있는데요. 하지만 이로 인해 비용도 예측하기 어려울 정도로 증가하고 있습니다.

효율적인 서비스 운영을 위해 클라우드를 도입했는데, 왜 오히려 비용이 증가하는 일이 일어나게 되는 걸까요?

여러 가지 이유가 있겠지만, 핵심적인 주요 원인만 정리하면 아래와 같습니다.

물론 클라우드 리소스 사용량을 주기적으로 모니터링하고 최적화하는 작업을 직접 수행할 수도 있지만, 클라우드를 막 도입하여 아직 관련 지식 충분히 쌓이지 않은 조직이나 기업 입장에서는 최적화 작업을 수행하기 어려울 수 있습니다.

그래서 퍼블릭 클라우드 업체에선 AI 기반의 다양한 비용 관리 도구를 서비스하고 있는데요.

이번 소식지에서는 클라우드 비용을 모니터링하고 관리할 수 있는 AI 기반 도구를 알아보며, AI가 비용 관리에 어떻게 활용되는지 살펴보겠습니다.

AI 기반 비용 모니터링 도구는 클라우드 비용 관리를 극대화하는 데에 활용될 수 있습니다.

단순히 사용량 보고 수준을 넘어, 문제를 사전에 예방하고 비용을 최적화하는 데에도 도움을 줄 수 있는데요.

AWS 클라우드에서는 아래와 같은 도구들로 AI 기반 비용 모니터링 서비스를 제공하고 있습니다.

AWS Cost Explorer: AI가 사용량 데이터를 지속적으로 분석하여 비효율적인 지출을 식별하는 서비스입니다. 사용량 통계를 시각화하고, 어떻게 비용을 절감할 수 있을지 분석할 수 있죠.

AWS Cost Anomaly Detection: AI로 그동안의 리소스 사용 데이터를 기반으로 비정상적인 비용 증가를 자동으로 감지하고, 관리자에게 알림을 보내는 서비스입니다.

비용 절감의 핵심은 워크로드 배치와 리소스 할당의 최적화입니다.

만약 여기에 AI를 활용한다면, 복잡한 사용 패턴을 분석하면서 최적의 리소스 할당 전략을 제안받을 수 있는데요.

Google Cloud의 Active Assist가 바로 이와 같은 AI 기반의 리소스 최적화 도구입니다.

Active Assist는 성능 향상과 보안 개선 등의 측면에서도 활용될 수 있지만, 이번에는 비용 절약 측면에서 어떤 도움을 주는지 살펴보겠습니다.

사용량 패턴 분석: 애플리케이션의 사용량을 분석하여 비효율적으로 배치된 VM(Virtual Machine, 가상머신) 감지합니다. 만약 작동 중인 애플리케이션에 비해 너무 큰 규모의 VM이 할당되어 있다면, 이를 알려주고 적절한 VM 타입을 제안해줍니다.

리소스 확장/축소: 실시간 VM 사용량을 기반으로 휴면 상태이거나 사용하지 않는 VM을 제거하도록 제안해줍니다. 이를 통해 과잉 배치로 인한 낭비를 줄일 수 있습니다.

지금까지 클라우드 비용 최적화를 위해 AI를 어떻게 활용할 수 있는지를 봤으니, 이제 실제로 클라우드 비용이 절감된 기업 사례를 살펴보겠습니다.

글로벌 숙박 제공업체 Airbnb는 AWS Cost Explorer와 Amazon S3 Intelligent Tiering를 활용하여 클라우드 비용을 절감했는데요. 특히 머신러닝을 통해 자동으로 파일을 관리하는 S3의 Intelligent Tiering 덕분에 스토리지 비용이 27% 감소되었다고 합니다.

전세계 9개국에서 배달 서비스를 제공 중인 Rappi는 AWS Cost Explorer로 클라우드 리소스 비용을 관리한 덕분에, 비용편익 비율(Benefit Cost Ratio, BCR) 최적화를 90% 달성했다고 합니다.

생명과학 업계의 제조업체인 Illumina 역시 보유하고 있던 대용량 데이터를 Amazon S3 Intelligent Tiering로 옮겨 관리함으로써 비용을 절감할 수 있다고 하는데요. 50PB의 대용량 데이터를 기존 스토리지에서 S3의 Intelligent Tiering으로 이관하여 기존 대비 60%의 비용을 절약했다고 합니다.