【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]GPU 납기는 줄었는데 데이터센터는 2~3년 걸린다…“AI 인프라, 서비스 운영이 관건”

온카뱅크관리자

2026-10-01 14:17:25

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="GrYlgXJ6vb">
 <figure class="figure_frm origin_fig" contents-hash="1a827fbedc9cfed0a2a160f59f89b02924426bbc58c1e416387a3320edd1554c" dmcf-pid="HmGSaZiPlB" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552796-pzfp7fF/20261001141000461rcmb.png" data-org-width="640" dmcf-mid="p93mdTQ9Ta" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552796-pzfp7fF/20261001141000461rcmb.png" width="658">
 </figure>
 [디지털데일리 이안나기자] GPU 서버 납기는 줄어드는데 이를 설치할 데이터센터는 수년 뒤 공급분까지 미리 확보해야 한다는 진단이 나왔다. AI 인프라 사업자들은 데이터센터를 늘리는 한편 그 자원을 쓸 고객을 찾고, AI 서비스를 안정적으로 운영할 플랫폼을 갖추는 데 힘을 쏟고 있다.
 1일 한국인공지능클라우드산업협회가 서울 양재 엘타워에서 연 ‘제3회 AI-클라우드 빅 테크 2026’에서 KT클라우드는 데이터센터 확보와 운영 과제를, 네이버클라우드는 AI 팩토리의 공급 대상을 제시했다. HPE는 기업이 AI를 실제 서비스로 확대할 때 겪는 비용과 구축 부담을 짚었다.
 김봉균 협회장은 영상 개회사에서 “AI 경쟁력은 AI 모델만으로 완성되지 않는다”며 “GPU와 데이터센터, 클라우드·플랫폼, 산업 현장의 서비스가 연결돼야 한다”고 말했다.
 ◆ KT클라우드 “GPU보다 설치할 공간 확보가 먼저”
 공용준 KT클라우드 전무는 GPU 서버의 납기가 짧아지는 속도를 데이터센터 구축이 따라가지 못한다고 짚었다. 연초에는 GPU 서버를 주문한 뒤 받기까지 10개월 가까이 걸렸지만 최근 납기는 줄고 있다. 반면 데이터센터를 짓는 데는 2~3년이 걸려 GPU를 구매하기 전에 설치할 공간부터 확보하는 상황이라고 설명했다.
 공 전무는 “과거 서버 랙 하나의 전력 수요가 5킬로와트(kW) 수준이었다면 고밀도 GPU 랙은 120kW에 이른다”며 “차세대 GPU 랙은 150~200kW까지 높아질 것”으로 예상했다. 기존 데이터센터에 GPU를 추가하려면 전력과 냉각 설비부터 다시 살펴야 한다는 얘기다.
 공 전무는 AI 데이터센터(AIDC)를 ‘AI 서비스센터’로 불러야 한다는 의견도 냈다. GPU를 설치하는 시설에 그치지 않고 모델 실행과 데이터 연결, 자원 배분, 서비스 상태 점검, 장애 복구까지 맡아야 한다는 취지다. 챗GPT처럼 AI 서비스가 일상 업무에 쓰이게 된 만큼 서비스가 멈췄을 때의 영향도 커졌다고 봤다. 데이터센터의 전력·냉각 상태를 감시하고 이상에 대응하는 과정에도 자동화가 필요하다고 덧붙였다.
 데이터센터 안팎의 연결도 과제로 꼽았다. 학습용 자원이 모인 데이터센터와 이용자 가까이에서 추론을 처리하는 데이터센터를 이어야 하고, 내부에서는 저장장치에서 연산 서버로 데이터를 보내는 구간이 병목이 될 수 있어 스토리지와 네트워크를 함께 설계해야 한다는 것이다.
 퍼블릭 클라우드와 기업 내부의 프라이빗 환경을 함께 쓰는 고객을 위해 계정과 접근 권한, 서비스 상태를 한 체계에서 관리하는 운영 방식도 제시했다. 공 전무는 발표 후 기자와 만나 “여러 클라우드를 한 번에 관리하는 기능은 현재 개발 중이며 2027년 상용화를 목표로 하고 있다”고 설명했다.
 <div contents-hash="84b43d4f2d583ad29727e1089a7a86759d531263058dd76d4436ee8d738ecdb5" dmcf-pid="URco2DqFlt" dmcf-ptype="general">
 공 전무는 GPU 공급에 특화된 네오클라우드와 기존 클라우드서비스제공사(CSP)도 AI 서비스 운영에 필요한 기능이 늘면서 수년 내 결합할 것으로 내다봤다. KT그룹은 향후 5년간 AI 인프라에 6조원을 투자해 1기가와트(GW) 규모의 AI 데이터센터를 단계적으로 구축할 계획이다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="757e893cdf5544c5671bcc692908706f0950ef3f620ec3070ede5fda1b3994dc" dmcf-pid="uekgVwB3W1" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552796-pzfp7fF/20261001141002384smbe.png" data-org-width="640" dmcf-mid="PSGj8s9Uy4" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552796-pzfp7fF/20261001141002384smbe.png" width="658">
 </figure>
 ◆ 네이버클라우드, 글로벌 기업부터 국방·중소 사업자까지 공급
 네이버클라우드는 AI 팩토리 공급 대상을 제시했다. 김지훈 네이버클라우드 이사는 “대규모 용량을 장기 계약하는 글로벌 AI 기업에 클러스터나 데이터센터 단위의 전용 인프라를 공급할 계획”이라고 밝혔다. 국방·금융처럼 보안 요구가 높은 분야에는 폐쇄형 전용 클라우드를 제공하고 네이버 서비스와 스마트스토어 판매자 등 중소 사업자도 GPU를 활용할 수 있도록 할 예정이다.
 국방 분야에 대해서는 “현장을 잘 아는 전문가가 필수다. 단순히 GPU만 제공해서는 안 된다”고 강조했다. 네이버클라우드는 최근 김선호 전 국방부 차관을 상근 경영고문으로 두고 실제 업무와 사업 수요를 파악하고 있다고 소개했다.
 공급 기술에서는 GPU 전용 클러스터와 고속 네트워크에 특화된 네오클라우드의 강점에 인증·스토리지 등 기존 클라우드 기능을 더하겠다고 밝혔다. 네이버가 직접 AI 모델을 개발하고 대규모 서비스를 운영해온 경험도 사업 기반으로 제시했다.
 김 이사는 앞으로 AI 인프라 수요를 넓힐 요인으로 ‘추론’을 꼽았다. 모델 학습은 일부 AI 기업에 집중되지만 추론은 다양한 기업과 이용자가 쓰기 때문이다. 로봇과 제조 현장의 피지컬 AI로 활용 범위가 넓어지면 대규모 데이터센터뿐 아니라 현장에서 AI를 실행할 인프라도 필요해질 것으로 내다봤다.
 <div contents-hash="751347e58ede405cd613111aff03949d408b2bf7ab64ebb191ff39d81bdf60c9" dmcf-pid="KaIDMl8BSY" dmcf-ptype="general">
 이를 위해 네이버클라우드는 고객 데이터센터 안에 폐쇄망 클라우드를 구축하는 상품도 제공한다. 중앙의 AI 팩토리와 고객 내부 환경에서 같은 운영 체계를 활용해 GPU 자원을 확장하도록 하겠다는 설명이다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="da1a381b40eaa923ac3a403454b2b3d5c5cc95adaf1b1489ddedfd46ad094602" dmcf-pid="9NCwRS6bCW" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552796-pzfp7fF/20261001141003766hcnj.png" data-org-width="640" dmcf-mid="Yv3XwUAilK" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552796-pzfp7fF/20261001141003766hcnj.png" width="658">
 </figure>
 ◆ HPE “AI 서비스 확대하려면 운영비와 유지관리 살펴야”
 HPE는 기업이 AI를 시험한 뒤 실제 서비스로 확대할 때 마주하는 비용과 구축 부담을 짚었다. 박운영 HPE 상무는 최신 도구나 GPU 도입에 앞서 AI로 매출을 늘리거나 비용을 줄일 수 있는지 살펴야 한다고 강조했다.
 박 상무는 AI 에이전트가 모델을 반복해서 호출하면서 토큰 사용료 부담도 커지고 있다고 설명했다. 한 고객사는 클라우드에서 1년 반 동안 서비스를 개발한 뒤 연간 운영 비용으로 18억원을 견적받았다. 이 때문에 개발은 클라우드에서 하더라도 실제 서비스 운영은 자체 인프라로 옮기는 방안을 검토하는 기업이 있다는 설명이다.
 다만 자체 환경을 구축할 때도 서버 구매만으로 준비가 끝나지 않는다. 쿠버네티스와 여러 오픈소스 소프트웨어를 구성하고 호환성을 확인하며 업데이트해야 한다. 폐쇄망을 쓰는 기관이라면 소프트웨어 반입과 패치 적용도 운영 부담이 될 수 있다.
 HPE가 엔비디아와 함께 제공하는 ‘프라이빗 클라우드 AI’는 소프트웨어 환경과 업데이트, 기술 지원을 묶은 제품이다. 박 상무는 HPE 하드웨어뿐 아니라 함께 제공하는 엔비디아 소프트웨어와 오픈소스에서 문제가 발생해도 HPE가 지원 창구를 맡는다고 밝혔다.
 박 상무는 “의미 있는 결과를 도출하는 게 AI의 목표”라고 말했다. 기업이 AI를 실제 서비스로 확대하려면 GPU를 확보하는 데서 그치지 않고 운영 비용과 유지관리 방식까지 따져야 한다는 취지다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

"AI·양자 시대에 '인간 증명'이 필수···월드ID로 디지털 신뢰 구축" "속도조절 말고 속도책임"…"韓 프론티어AI 역량·안전 함께 확보해야"

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기