랙 하나가 수십 가구의 전력을 쓰는 시대, AI 데이터센터의 성패를 가르는 통합 MEP 설계

본 리포트는 차세대 GPU 집적화로 달라지는 AI 데이터센터의 구조·전력·냉각·안전 설계 변화를 살펴보고, 프리팹 모듈러 구축과 폐열 회수까지 아우르는 MEP 설계 방향을 제시합니다. 자세한 내용은 아래 리포트에서 확인할 수 있습니다.

 

리포트 핵심 내용 한눈에 보기

 

1. AI 팩토리 전환 – 생성형 AI와 대규모 언어모델 확산으로 데이터센터는 단순 서버 수용 시설에서 초고밀도 연산을 수행하는 AI Factory로 전환되고 있습니다. 특히 NVIDIA Blackwell·Rubin 계열과 같은 차세대 GPU 아키텍처는 랙 단위 전력·발열·중량을 기존 데이터센터 설계 한계 밖으로 끌어올리고 있습니다. – 이에 따라 데이터센터 경쟁력은 더 이상 IT 장비 성능만으로 결정되지 않습니다. 전력 공급, 냉각, 배관, 구조, 안전 제어가 통합된 MEP 역량이 AI 인프라의 성능·안정성·운영비를 좌우하는 핵심 요소로 부상하고 있습니다.   2. 초고밀도 랙 구조 – 기존 엔터프라이즈 데이터센터의 랙당 전력 밀도는 5~10kW 수준이었으나, 최신 AI 랙은 120~132kW, 피크 기준 192kW까지 요구합니다. 랙 중량도 약 1.36톤에 달해 기존 이중 마루 구조로는 하중을 감당하기 어렵습니다. – 따라서 AI 데이터센터는 표준 19인치 랙과 Raised Floor 중심 설계에서 벗어나, OCP ORv3 기반 대형 랙, Slab-on-Grade 콘크리트 바닥, 고하중 구조 보강을 전제로 설계되어야 합니다. 이는 건축·구조 단계부터 IT 장비 사양을 반영해야 함을 의미합니다.   3. 중전압·800V HVDC – 랙당 100kW 이상 전력을 공급하는 환경에서는 기존 저전압 배전 방식이 전류 증가, 케이블 비대화, 전력 손실, 공간 잠식 문제를 유발합니다. 이를 해결하기 위해 AI 데이터센터는 6~35kV 중전압 배전과 34.5kV급 MV UPS를 서버 구역 인근까지 도입하는 방향으로 진화하고 있습니다. – 또한 랙 내부에서는 기존 54V DC 체계가 한계에 도달하면서 800V 고전압 직류 배전이 핵심 대안으로 부상하고 있습니다. 800V HVDC는 전류량을 대폭 낮추고 전력 변환 단계를 줄여 구리 사용량, 열 손실, 전력실 면적을 동시에 절감할 수 있습니다.   4. 직접 칩 액체냉각 – 초고밀도 GPU 랙의 발열은 기존 공랭 방식으로 처리하기 어렵습니다. 공기보다 열전달 능력이 월등히 높은 액체를 칩 표면에 직접 접촉시키는 DLC(Direct Liquid Cooling)이 차세대 AI 데이터센터의 표준 냉각 방식으로 자리잡고 있습니다. – DLC는 CDU를 중심으로 시설수 루프와 기술 냉각수 루프를 분리하는 이중 폐루프 구조를 채택합니다. 특히 45°C 수준의 온수 냉각을 허용하면 칠러(Chiller, 냉동기) 의존도를 낮추고, 건식 냉각기를 활용해 물 소비량을 0에 가깝게 줄이는 친환경 운영이 가능합니다.   5. 안전·모듈러·폐열 회수 – 액체냉각 확대는 누수, 합선, 장비 손상 리스크를 동반합니다. 이에 따라 로프 센서, Redfish API, 자동 밸브 차단, 랙 전원 격리 등 센서 기반 자율 제어 체계가 필수 설계 요소가 되고 있습니다. – 동시에 AI 인프라 구축 속도를 높이기 위해 전력 장비, CDU, 펌프, 배관을 공장에서 사전 조립하는 프리팹 모듈러 방식이 확산되고 있습니다. 나아가 55~70°C 수준의 회수 열을 지역난방이나 탄소포집 열원으로 활용하는 폐열 회수 모델은 AI 데이터센터의 지속가능성을 높이는 핵심 전략입니다.

 

[FAQ]

 

Q1. AI 데이터센터에서 MEP 설계가 왜 핵심 경쟁력으로 떠오르고 있나요?

NVIDIA Blackwell·Rubin 계열 같은 차세대 GPU 아키텍처가 도입되면서 데이터센터는 단순 서버 수용 시설에서 초고밀도 연산을 수행하는 AI Factory로 전환되고 있습니다. 랙 단위 전력·발열·중량이 기존 설계 한계를 넘어서면서, IT 장비 성능만으로는 경쟁력을 확보하기 어려워졌습니다. 이에 따라 전력 공급, 냉각, 배관, 구조, 안전 제어를 통합한 MEP 역량이 AI 인프라의 성능·안정성·운영비를 좌우하는 핵심 요소로 자리잡고 있습니다.

 

Q2. 초고밀도 AI 랙은 데이터센터 건축·구조 설계에 어떤 변화를 요구하나요?

기존 엔터프라이즈 데이터센터의 랙당 전력 밀도는 5~10kW 수준이었지만, GB200 NVL72와 같은 최신 AI 랙은 120~132kW, 피크 기준 최대 192kW를 요구합니다. 랙 무게도 약 1.36톤으로 중형 SUV 한 대와 비슷한 수준이어서, 허용 하중이 평방피트당 150~250파운드 수준인 이중 마루(Raised Floor)로는 감당하기 어렵습니다. 따라서 OCP ORv3 기반 대형 랙, Slab-on-Grade 콘크리트 바닥, 고하중 구조 보강을 전제로 건축·구조 단계부터 IT 장비 사양을 반영해야 합니다.

 

Q3. 800V HVDC 배전은 기존 전력 공급 방식과 무엇이 다른가요?

기존 54V DC 방식으로 1MW급 랙에 전력을 공급하면 약 18,500A의 전류가 흐르고, 이를 견디기 위한 구리 버스바 무게만 랙당 약 200kg에 달합니다. 800V HVDC는 전압을 높여 필요한 전류량을 15분의 1 수준으로 낮추고, 구리 도체 사용량을 최대 45%까지 절감합니다. 또한 반도체 변압기(SST) 등을 통해 800V DC로 직접 변환한 뒤 2단계 감압만으로 GPU에 전력을 공급해 변환 손실과 전력실 면적을 줄일 수 있습니다. 여기에 34.5kV급 MV UPS를 결합하면 UPS 시스템 가동 효율을 98% 이상으로 높일 수 있습니다.

 

Q4. 45°C 온수 냉각은 어떻게 물을 거의 쓰지 않고 GPU를 식힐 수 있나요?

작동 온도 한계가 80°C를 넘는 가속기 칩 입장에서는 45°C의 온수도 충분히 열을 빼앗을 수 있는 온도입니다. 칩을 통과하며 약 55°C로 데워진 물은 옥상의 건식 냉각기(Dry Cooler)만으로 다시 45°C로 낮출 수 있어 칠러 가동이 필요 없고, 밀폐된 폐루프 안에서 순환하므로 물 증발 손실이 발생하지 않습니다. 리포트에 따르면 50MW 시설 기준 연간 약 400만 달러 이상의 운영비 절감이 가능합니다. 다만 누수 리스크에 대비해 로프 센서, Redfish API 기반 정보 연동, 자동 밸브 차단과 랙 전원 격리로 이어지는 자율 제어 체계를 함께 설계해야 합니다.

 

Q5. 프리팹 모듈러 시공과 폐열 회수는 AI 데이터센터에 어떤 효과를 주나요?

일반 건축 공법으로 데이터센터를 완공하는 데는 평균 2~3년이 소요되지만, 설비의 80% 이상을 공장에서 사전 제작하는 프리팹 모듈러 방식은 불량률을 낮추고 계약부터 상용 운영(RFS)까지의 기간을 11~13개월 수준으로 단축합니다. 또한 DLC 방식에서 나오는 55~70°C의 환수는 지역난방이나 탄소 포집 장치(DAC)의 열원으로 활용할 수 있어, 에너지 효율을 높이고 지역 탄소 발자국을 줄이는 친환경 운영 모델로 이어집니다. 유럽 에너지 효율 지침(EED)이 IT 정격 소모량 1MW 초과 시설에 폐열 환수 구조를 요구하는 등, 폐열 회수는 글로벌 표준으로 자리잡고 있습니다.

 

---

 

AX 컨설팅부터 비즈니스 모델 발굴까지
Global Top 10 AX Service Company｜SK AX

#AI데이터센터, #MEP설계, #GPU집적화, #AIFactory, #액체냉각, #DLC, #800VHVDC, #중전압배전, #랙전력밀도, #프리팹모듈러, #폐열회수, #데이터센터효율, #AIInfra, #MI리포트, #SKAX