[서울=뉴스핌] 서영욱 기자 = 서울 영등포구 양평동의 NHN클라우드 '팩토리(Factory)X 서울'. 데이터센터 지하 전기실에 들어서자 대형 수전·변전설비와 무정전전원장치(UPS)가 줄지어 서 있었다. 외부 전력이 끊겨도 서버를 멈추지 않도록 비상발전기도 별도로 갖췄다.

위층 데이터홀로 올라가자 이처럼 대규모 전력 설비가 필요한 이유가 드러났다. 높이 8m의 데이터홀에는 서버 랙이 빼곡히 들어섰고, 그 안에서는 엔비디아 최신 블랙웰 기반 B200 그래픽처리장치(GPU)가 가동되고 있었다. 팩토리X 서울에 구축된 B200은 모두 7656장이다.

수천장의 고성능 GPU를 한꺼번에 돌리기 위해 확보한 수전용량만 40MW다. GPU와 중앙처리장치(CPU)에서 발생하는 막대한 열은 직접액체냉각(DLC) 방식으로 잡는다. 데이터홀 천장에는 냉각수를 실어나르는 배관이 서버 랙을 따라 뻗어 있었다.

AI 인프라 경쟁이 단순히 'GPU를 얼마나 확보했느냐'에서 '확보한 GPU를 얼마나 안정적으로 최대 성능으로 돌리느냐'의 경쟁으로 옮겨가고 있음을 보여주는 현장이다.

더 눈길을 끄는 것은 이 같은 대규모 AI 인프라가 서울 한복판에 들어섰다는 점이다. 전력과 부지 문제로 데이터센터의 지방 분산 필요성이 커지고 있지만 실제 기업들은 여전히 수도권 데이터센터를 선호한다. 고객과 AI 전문인력, 장비업체의 기술지원 인력이 수도권에 집중돼 있어서다.

18일 찾은 팩토리X 서울은 NHN클라우드가 정부의 'AI 컴퓨팅 자원 활용 기반 강화 사업'을 통해 구축한 AI 데이터센터다. 이곳에 들어간 B200 GPU만 7656장에 달한다. 고성능 GPU를 한데 묶어 대규모 AI 모델을 학습할 수 있도록 클러스터를 구성했다. 정부는 이 자원을 기업과 대학·연구기관 등에 공급하고 NHN클라우드는 데이터센터 임차와 시스템 구축, 향후 5년간 운영을 맡는다.

수천장의 최신 GPU를 한곳에 몰아넣으려면 단순히 넓은 공간만으로는 부족하다. 팩토리X 서울의 전체 수전용량은 40MW, 실제 IT 장비가 사용할 수 있는 IT로드는 26MW다. 데이터홀은 3층부터 10층까지 8개층에 걸쳐 있으며 이 가운데 NHN은 3~6층을 사용한다. 층고는 8m, 바닥은 ㎡당 2톤의 무게를 견딜 수 있도록 설계됐다.

◆ 40MW 전력·액체냉각…블랙웰 성능 끌어낸다

이 같은 시설은 고성능 GPU를 얼마나 촘촘하게 배치할 수 있느냐를 좌우한다. 일반 데이터센터는 랙당 4~5kW 수준의 전력 사용을 전제로 설계된 경우가 많다. 고전력·고발열 GPU 서버를 기존 데이터센터에 넣으면 랙에 공간이 남더라도 전력과 냉각 한계 때문에 서버를 가득 채우기 어렵다. 특히 2020년 이전 설계된 데이터센터 상당수는 AI 인프라를 염두에 두지 않아 최신 GPU를 고밀도로 배치하는 데 제약이 있다는 게 현장 관계자의 설명이다. 팩토리X 서울은 고밀도 전력시설과 높은 층고, ㎡당 2톤의 바닥 하중을 갖춰 대규모 GPU를 집적할 수 있도록 했다.

특히 눈에 띄는 것은 냉각시설이다. GPU와 중앙처리장치(CPU)에서 발생하는 막대한 열을 잡기 위해 직접액체냉각(DLC) 방식을 적용했다. 냉각수가 냉각수분배장치(CDU)를 거쳐 서버로 전달되고 서버 내부에서는 냉각 플레이트가 GPU와 CPU에 직접 맞닿아 열을 빼낸다. 네트워크와 스토리지 등은 기존 공랭 방식을 함께 사용한다. NHN클라우드는 전체 발열의 70~80%가 GPU와 CPU에서 발생하는 만큼 핵심 칩을 액체로 식히는 것만으로도 냉각 효율을 크게 높일 수 있다고 설명했다.

냉각은 GPU 성능과도 직결된다. GPU는 온도가 높아지면 스스로 연산량을 낮춰 발열을 줄이는 '스로틀링(성능저하)'이 발생한다. NHN클라우드에 따르면 공랭 환경에서는 GPU가 약 70도 수준에서 운전되는 반면 이곳에서는 액체냉각을 통해 약 50도 수준을 유지하고 있다. 고가의 GPU가 제 성능을 발휘하도록 만드는 것이 냉각 기술의 핵심인 셈이다.

◆ 전력은 지방에 있는데 고객은 서울에…AI 데이터센터의 딜레마

팩토리X 서울의 또 다른 경쟁력은 '서울'이라는 입지다.

AI 모델 학습 자체는 대규모 데이터를 GPU에 넣고 반복 연산하는 작업이어서 데이터센터가 지방에 있어도 큰 문제가 없다. 전력과 넓은 부지를 확보하기도 지방이 상대적으로 유리하다.

하지만 실제 데이터센터를 임차하는 기업들은 여전히 수도권을 선호한다는 게 현장 관계자들의 설명이다.

특히 결제와 같은 실시간 서비스에서는 데이터센터와 이용자 사이의 물리적 거리가 서비스 품질로 이어질 수 있다. 한 번의 결제가 완료되기까지 서버와 8~16차례 이상 통신이 오갈 수 있는데 데이터센터가 멀어질수록 각각의 통신에서 발생하는 지연시간이 누적된다. 일정 수준 이상 지연되면 결제가 취소되거나 거부되는 상황도 발생할 수 있다.

인력 문제도 있다. AI 인프라와 데이터센터 전문 엔지니어는 물론 엔비디아를 비롯한 장비 제조사의 기술지원 인력도 수도권에 집중돼 있다. 서버나 네트워크에 장애가 발생했을 때 전문인력과 제조사의 지원을 빠르게 받을 수 있다는 점은 서울 데이터센터가 갖는 강점이다.

NHN클라우드 관계자는 "GPU 서비스를 이용하는 고객은 국내 어디에 있어도 크게 상관없지만 데이터센터를 직접 이용하려는 고객들은 이왕이면 수도권이면 좋겠다는 생각을 많이 한다"며 "AI 인프라 관련 우수 인력도 수도권에 많이 몰려 있어 문제가 생겼을 때 제조사의 지원 등을 더 빠르게 받을 수 있다"고 말했다.

이 때문에 수도권 데이터센터의 몸값도 높다. 서울은 지방보다 데이터센터 임차 비용이 비싸지만 공급 자체가 부족하다. 최근에는 AI 확산으로 데이터센터 수요가 늘면서 지방 역시 임차료가 빠르게 오르고 있다는 게 현장의 설명이다.

전력과 부지 때문에 데이터센터를 지방으로 분산해야 한다는 필요성은 커지고 있지만 고객과 전문인력이 수도권에 몰려 있는 한 데이터센터 역시 수도권을 쉽게 떠나기 어렵다는 얘기다. 데이터센터 입지를 둘러싼 문제는 결국 AI 산업 생태계의 수도권 집중과 맞물려 있는 셈이다.

◆ 고객 가까이 갈수록 주민도 가까워진다…도심 데이터센터 숙제

도심 입지가 장점만 있는 것은 아니다. 팩토리X 서울 역시 주변 주거시설과 가까워 구축 과정에서 전자파와 소음 등을 우려한 주민 반대가 있었다.

운영사 측은 전문가 등을 참여시켜 두세 차례 주민들을 대상으로 전자파와 안전성 등을 설명했다. 고객과 전문인력이 가까운 도심에 데이터센터를 구축할수록 주민 수용성 문제는 피하기 어려운 과제가 된다.

AI 데이터센터는 앞으로 더 많은 전력과 더 강력한 냉각시설을 요구할 가능성이 높다. 수도권 수요와 전력·부지 제약, 주민 수용성을 동시에 풀어야 하는 셈이다.

NHN클라우드 관계자는 "AI 인프라는 구축하는 것에서 끝나는 게 아니라 지속적인 모니터링과 유지보수, 기술지원이 필요하다"며 "안정적으로 GPU 자원을 운영하고 필요한 곳에 제공하는 것이 데이터센터의 중요한 역할"이라고 말했다.

syu@newspim.com