에너지 인텔리전스가 AI의 새로운 KPI인 이유

지구의 날마다 대화는 탄소 상쇄, 재생 에너지 서약 및 지속가능성 보고서로 이어집니다. 이는 일년 내내 진행되는 대화여야 하며, 많은 사람들에게는 그렇습니다. 그러나 올해에는 광학과 운영의 생존에 대한 보다 긴박한 대화가 시작되었습니다. AI는 실제로 얼마나 많은 전력을 소비하며, 이를 관리할 전략이 있습니까?

대부분의 기업들에게 정답은 단순히 “아니요” 또는 “좋지 않다” 또는 “명확하지 않다”입니다. 이는 AI가 얼마나 빠르게 개발 및 확장되고 있는지를 고려할 때 큰 장애물입니다. MIT Technology Research와 협력하여 연간 매출이 10억 달러 이상인 기업의 고위 경영진 300명을 대상으로 실시한 최근 설문조사에서는 다음과 같은 이해 관계를 명확히 밝혔습니다. 설문조사에 참여한 모든 경영진은 향후 2년 이내에 에너지 소비를 측정하고 전략적으로 관리하여 핵심 비즈니스 지표가 될 수 있을 것으로 기대합니다. 지속가능성 체크박스가 아닙니다. KPI. 

에너지 인텔리전스 시대에 오신 것을 환영합니다.

Prioritizing energy intelligence for sustainable growth

Download the MIT Technology Review & Everpure
report on why energy intelligence is becoming
a critical business metric in the AI era.

Read the Report

에너지 인텔리전스란 무엇이며, 왜 지금 중요할까요?

에너지 인텔리전스는 데이터 인프라 전반에서 에너지가 소비되는 장소, 시기 및 이유를 이해하고, 이러한 Insight 활용하여 운영을 최적화하고, 비용을 제어하며, 성장을 계획하는 것입니다. 수동 모니터링에서 설계 효율성으로의 전환입니다.

수십 년 동안 에너지 비용은 오버헤드로 처리되었습니다. 이들은 시설 예산에 묻히거나 클라우드 청구서에 고착되었습니다. Everpure 최고 기술 및 성장 책임자인 Rob Lee는 다음과 같이 말합니다. 재무팀이 이를 포착했고 아무도 알아차리지 못했습니다.

AI는 이를 변화시켰습니다. 빠른 속도

GPU 집약적 AI 서버는 기존 인프라보다 훨씬 더 많은 에너지를 소비합니다. 대규모 언어 모델을 트레이닝하려면 엄청난 양의 전기가 필요합니다. 모바일 및 클라우드와 같은 이전 기술과 달리 AI는 추가적입니다. 기존 워크로드를 대체하지 않습니다. 그 위에 레이어링됩니다.

이를 통해, 2024년 미국 데이터센터는 국가 전력의 약 4%를 소비했으며, 이는 2028년까지 12%에 이를 수 있는 수치입니다. 그리고 다음을 고려하십시오. 단일 100메가와트 데이터센터는 미국 가정 80,000채에 달하는 전기를 소비합니다. 오늘날 구축되고 있는 데이터센터는 기가와트 규모에 맞춰 준비되고 있습니다. 이는 중소 규모의 도시에 전력을 공급하기에 충분합니다.

엔터프라이즈 리더에게 에너지 비용은 핵심 항목이 되지 않았습니다. 전략적 제약이 되고 있습니다.

수치는 빠르게 변화하고 있으며 대부분의 조직은 준비가 되어 있지 않습니다.

설문조사에 따르면, AI 기반 에너지 비용 급증은 단순히 다가오는 것이 아니라 이미 여기에 있습니다.

• 경영진의 68%는 AI와 데이터 워크로드로 인해 지난 해 에너지 비용이 10% 이상 증가했다고 답했습니다. 
• 97%는 향후 12~18개월 동안 이러한 비용이 계속 상승할 것으로 예상하며, 3분의 1은 25% 이상의 성장을 예상합니다.
• 한편, 22%만이 기업이 비용 절감을 위해 매우 준비가 되어 있다고 응답했습니다. 61%의 대다수는 스스로를 다소 준비된 것으로 묘사합니다.

인식과 준비의 격차는 위험이 존재하는 부분입니다. 또한 데이터센터의 전력이 부족하거나 클라우드 비용이 예기치 않게 급증하는 경우 AI 이니셔티브에 심각한 지장을 초래할 수 있습니다. 리가 언급한 바와 같이, “평균적인 기업은 벽돌 벽에 빠질 때에만 문제가 있다는 것을 깨닫습니다.”

PUE는 전략이 아닌 시작점입니다.

수년 동안 전력 사용 효율성(PUE)은 데이터센터 에너지 효율성에 대한 지표로 활용되어 왔습니다. 유용한 벤치마크이지만, 그 자체로는 점점 더 불충분해지고 있습니다.

PUE는 데이터센터가 에너지를 얼마나 효율적으로 사용하는지 측정합니다. 총 시설 전력을 IT 장비 전력으로 나눈 값입니다. 1.0의 PUE는 완벽한 효율성입니다. 실제 점수는 일반적으로 1.2~1.5 이상입니다. 냉각과 같이 오버헤드에서 낭비되는 에너지의 양을 알려주지만, 실제 워크로드가 얼마나 효율적으로 실행되고 있는지, 스토리지, 컴퓨팅 및 네트워크 선택이 에너지 공간을 어떻게 변화시키고 있는지는 알려주지 않습니다.

현재 대부분의 환경이 AI기반 환경에서는 세분화가 매우 중요합니다. 모든 워크로드가 동일하게 생성되는 것은 아닙니다. 모든 인프라 결정이 동일한 에너지 결과를 가져오는 것은 아닙니다. UC Santa Barbara’s Bren School of Environmental Science and Management 교수인 Eric Masanet은 다음과 같이 말합니다. 데이터센터는 정보 경제의 근간이지만, 데이터 기반의 영향을 받고 있습니다. 

업계 연합은 현재 PUE를 뛰어넘는 표준화된 지표를 위해 노력하고 있습니다. EU의 에너지 효율성 지침에서는 이미 특정 규모의 데이터센터가 매년 에너지 성능 데이터를 공개하도록 요구하고 있습니다. 진정한 에너지 인텔리전스는 워크로드, 시스템 및 계층별 소비에 대한 전체 그림으로 단일 숫자 이상의 것을 의미합니다.

에너지의 ‘FinOps’의 순간

궤적이 익숙하다면, 그 이유는 익숙하기 때문입니다.

10년 전, 클라우드 지출에 재정적 책임을 부여하는 금융 운영(FinOps)은 하나의 분야로 존재하지 않았습니다. 기업들은 클라우드 청구서를 대량으로 실행하고 있었으며, 그 원동력이나 최적화 방법에 대한 가시성이 부족했습니다. 오늘날 FinOps는 대부분의 대기업에서 표준 기능이며, 전담 팀, 성숙한 툴링 및 경영진 소유권을 갖추고 있습니다.

에너지 인텔리전스는 동일한 호를 따릅니다. “클라우드 비용은 기술 선택의 일환으로 더 큰 재정적 통찰력이 필요하다는 것을 보여줍니다.”라고 Lee는 말합니다. 에너지에도 같은 일이 일어날 것으로 기대한다.

병렬은 깊이 실행됩니다. FinOps에서 가장 중요한 결정은 사후 최적화를 시도할 때가 아니라 클라우드 아키텍처를 선택할 때 발생합니다. 에너지에도 동일한 로직이 적용됩니다. 기술 스택을 선택한 후에는 엣지를 최적화할 수 있지만, 비효율적인 것을 선택했다면, 이를 해결하기 위해 할 수 있는 일이 많을 뿐이라고 Lee는 말합니다.

이것이 바로 인프라 선택이 에너지 인텔리전스가 시작되는 이유이며, 에너지 대화에서 스토리지가 종종 간과되는 이유입니다.

스토리지 플랫폼: 효율성 향상

컴퓨팅과 냉각은 AI 인프라에서 에너지 관련 대화를 지배합니다. 스토리지는 사후에 고민하는 경향이 있지만, 그렇게 해서는 안 됩니다. 이제 우리는 “해야 할 일”뿐만 아니라 “할 수 없다”고 안전하게 말할 수 있습니다. 

AI 기반 환경에서는 방대한 양의 정형 및 비정형 데이터를 지속적으로 저장, 액세스, 결합 및 이동해야 합니다. 이러한 규모에서 작은 비효율성도 빠르게 악화됩니다. 스토리지 아키텍처를 선택하면 직접 전력 소비부터 냉각 요구 사항, 물리적 설치 공간까지 데이터센터 전체에 걸쳐 에너지 소비가 증가하게 됩니다.

스토리지 기술의 세 가지 발전은 측정 가능한 차이를 만들고 있습니다.

• 낮은 전력 소비: 회전식 하드 디스크 드라이브(HDD)에서 플래시 기반 솔리드 스테이트 드라이브(SSD)로의 이동은 데이터 저장에 필요한 에너지를 크게 감소시켰습니다.
• 향상된 하드웨어 수명: 플래시 기반 시스템은 HDD 이전 모델보다 2~3배 더 오래 사용할 수 있어 교체 주기, 물류 오버헤드 및 장기적인 설치 공간이 줄어듭니다.
• 더 높은 전력 집적도: 현대적인 플래시 시스템은 기존 대체 시스템과 동일한 물리적 공간에 약 10배 더 많은 데이터를 저장할 수 있습니다. 더 적은 수의 디바이스, 더 적은 스토리지 컨트롤러, 더 적은 수의 인클로저, 그리고 전력 공급 및 냉각에 필요한 훨씬 적은 에너지.

Everpure 고객들은 이미 이러한 상황을 실제로 목격했습니다. Virgin Media O2는 올플래시 인프라로 마이그레이션한 후 스토리지 에너지 소비를 98% 절감했다고 보고했습니다. British Telecom은 90% 이상의 감소를 기록했습니다. THG Ingenuity는 비즈니스 운영에 지장을 주지 않고 데이터센터 전력 소비를 80% 절감했습니다. 

Lee가 설명한 것처럼, 로직은 LED 전구로의 전환과 유사합니다. 단 한 번의 스왑으로도 문제가 되지는 않지만, 업계 전반의 기업들이 변화할 때 누적 효과는 혁신적입니다.

에너지 인텔리전스를 통한 경쟁 우위 확보

에너지 인텔리전스를 지속 가능성 스토리로 만들고자 합니다. 그러나 이러한 프레이밍은 이를 과소 판매합니다.

에너지 인텔리전스를 운영에 도입하는 기업들은 이제 보다 전략적으로 중요한 작업을 수행하고 있습니다. 이들은 선택권을 창출하고 있습니다. 스토리지와 냉각에 저장되는 모든 킬로와트는 AI 혁신의 다음 단계로 리디렉션될 수 있는 자본입니다. 더 적은 비용으로 더 많은 컴퓨팅을 하는 조직은 확장할 수 있는 공간이 더 많고 운영 비용이 절감되며, 여전히 비효율적인 레거시 인프라를 운영하는 경쟁사에 비해 구조적 이점이 있습니다.

또한 복원성의 차원도 있습니다. 그리드 제약이 가중되고 클라우드 비용이 증가함에 따라, 에너지 풋프린트에 대한 심층적인 가시성을 갖춘 기업은 AI 이니셔티브를 계속 실행할 수 있도록 더 나은 장비를 갖추고 대기 중인 조직에 점점 더 큰 피해를 입히는 혼란을 피할 수 있는 더 나은 위치를 확보하게 될 것입니다.

평판도 중요합니다. EMEA Patrick Smith의 Everpure Field CTO는 “지속 가능성을 중요하게 생각하는 조직의 제품과 서비스를 소비하는 것은 여전히 중요합니다.”라고 말합니다. “명예로운 요소는 아마도 에너지 효율성이 경쟁 우위로 가장 높은 부분일 것입니다.”

설문조사 데이터는 다음과 같은 필수 요소를 명확히 합니다. 

• 74%의 리더들이 기존 인프라를 최적화하기 위해 이미 노력하고 있습니다.
• 69%가 에너지 효율적인 클라우드 및 스토리지 공급업체와 협력하고 있습니다.
• 절반 이상이 AI 워크로드 스케줄링을 구현하고 보다 효율적인 하드웨어에 투자하고 있습니다.

그러나 아직 이 여정의 초기 단계에 있는 조직의 경우, 시작점은 측정입니다. 보이지 않는 것을 최적화할 수 없습니다. 워크로드별, 시스템별, 그리고 타사 클라우드 및 매니지드 서비스를 포함한 전체 인프라 스택에 걸쳐 에너지 소비를 추적할 수 있는 역량을 구축하면, 경영진의 71%가 비용 상승의 근간이 다른 모든 것에 달려 있다고 말합니다.

지구의 날, 기업이 지구를 위해 할 수 있는 가장 의미 있는 일은 에너지가 어디로 가고 있는지를 실제로 알 수 있는 가시성을 구축하고 인프라스트럭처 부문을 보유하여 이에 대해 무언가를 하는 것입니다. AI 레이스는 이미 진행 중입니다. 이를 얻는 조직은 단지 가장 많이 계산하는 조직이 아닙니다. 가장 효율적으로 계산할 수 있습니다. 에너지 인텔리전스는 지속가능성 이니셔티브가 아닙니다. 이것이 바로 여러분이 게임을 계속하는 방법입니다.