[Tech&]SKT, AI 데이터센터 기반 강력한 AI 혁신 이끈다

유영상 SK텔레콤 최고경영자(CEO)가 11월에 개최된 ‘SK AI 서밋 2024’에서 ‘AI 인프라 슈퍼 하이웨이’ 구축 계획을 발표하는 모습.

《‘글로벌 인공지능(AI) 컴퍼니’를 향한 SKT의 행보가 더욱 빨라졌다. 2025년 을사년을 앞두고 SK텔레콤(SKT)이 AI 데이터센터 기반 AI 혁신의 속도를 더욱 높인다.
SKT는 2025년 조직 개편을 통해 AI 데이터센터 사업에 집중 투자할 계획이다. 국내 AI 데이터센터(AIDC) 테스트베드를 구축하고, 서비스형 GPU(GPUaaS) 출시를 통해 국내 AI 생태계 활성화에도 이바지한다는 방침이다.
또 아시아태평양 AI 데이터센터 허브를 향한 글로벌 투자 및 협력에도 속도를 낸다. 미국 GPUaaS 기업 ‘람다’는 물론이고 AI 데이터센터 통합 솔루션 기업 ‘펭귄 솔루션스’와의 협력을 통해 AI 데이터센터 경쟁력을 한층 강화시킬 계획이다.》

2025년 조직 개편 통해 ‘AI 데이터센터’를 신규사업 영역으로 집중 투자

‘SK AI 서밋 2024’에 전시된 AI DC 전경.

SKT는 최근 2025년 조직 개편을 단행하며 ‘통신’과 ‘AI’를 두 축으로 하는 7대 사업부로 재편했다.

특히 SKT는 AI 데이터센터 사업에 힘을 제대로 실었다. 2024년 ‘엔터프라이즈 사업부’의 일부 조직이었던 AI 데이터센터 영역이 SKT 7대 사업부 중 하나로 승격한 것이다.

‘AI DC 사업부’는 차세대 반도체, 친환경 에너지 등 그룹 솔루션 패키지 및 경쟁력을 기반으로 AI 데이터센터 및 GPU 클라우드 서비스(GPUaaS) 사업을 수행할 예정이다.

아시아태평양 AI 데이터센터 허브로 도약… 175조 원 이상의 경제 효과

SKT는 지난달 ‘SK AI 서밋 2024(SK AI Summit 2024)’에서 아시아태평양 지역의 ‘AI 데이터센터 허브’로 도약한다는 구상을 전격 발표했다.

국내 지역 거점에 100MW(메가와트) 이상의 전력이 필요한 하이퍼 스케일 AI 데이터센터를 시작으로, 향후 그 규모를 GW(기가와트)급 이상으로 확장할 계획이다.
SKT는 중장기적으로 GW급 AI 데이터센터 구축을 통해 △175조 원 이상의 경제 효과 △50조 원 이상의 신규 투자 유치 △55만 명 이상의 고용 창출 △지역에서의 AI 첨단산업 육성 등을 도모한다는 방침이다.

지역 거점에 AI 데이터센터가 구축되면 수소, 태양광, 풍력 등 지역의 신재생 에너지를 활용할 수 있고, 해저케이블을 통한 글로벌 확장도 용이하다.

SKT는 “SK가 보유하고 있는 고효율의 차세대 반도체와 액침냉각 등 에너지 솔루션, AI 클러스터 운영 역량을 결합할 경우 보다 저렴한 비용으로 효율적인 AI 데이터센터를 구축할 수 있다”고 설명했다.

또 SKT는 SK그룹의 역량과 파트너사가 보유한 다양한 솔루션이 결집된 AI 데이터센터 테스트베드를 12월 중 판교에 오픈할 계획이다. 이곳은 엔비디아 최신 칩과 하이닉스 고대역폭메모리(HBM) 등 첨단 AI 반도체와 차세대 액체 냉각 솔루션 3종*을 비롯한 GPU 가상화 솔루션, AI 에너지 최적화 기술 등이 모두 구현된 국내 유일의 테스트베드로서 미래형 AI DC의 모습을 미리 확인해 볼 수 있다.

* 차세대 액체 냉각 솔루션 3종: 칩 접촉 냉각(Direct Liquid Cooling), 탱크형 액침 냉각(Immer-sion Cooling), 새시형 액침 냉각(Precision Liquid Cooling)

올 1월 GPU 클라우드 기업 ‘람다’의 새너제이 본사에서 SKT 유영상 CEO(왼쪽)와 람다 창업자 겸 CEO 스티븐 발라반이 양사 협력 방안을 논의한 후 기념 촬영을 하고 있는 모습.

가산 AI 데이터센터오픈… GPUaaS도 출시해 국내 AI 생태계 활성화

SKT는 AI 인프라 사업을 본격 추진하기 위해 수도권에 위치한 가산 데이터센터를 AI 데이터센터로 전환하고, 이를 기반으로 한 GPUaaS도 12월 출시할 계획이다.
SKT는 미국 GPUaaS 기업 람다와 협력해 GPU H100을 시작으로 내년 1분기에는 국내 최초로 최신 GPU H200을 도입한다. 이후 고객사 수요에 맞춰 GPU 물량을 단계적으로 수천 대 이상까지 확대할 예정이다. 이를 통해 가산 데이터센터를 시작으로 엔비디아 단일 GPU로 구성된 국내 최대 규모의 ‘GPU Farm’을 확충하는 것이 목표다.

SK브로드밴드는 데이터센터 운영 노하우를 살려 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션* 환경을 제공한다. GPU 서버가 안정적으로 작동할 수 있도록 가산 데이터센터의 랙당 전력 밀도를 국내 최고 수준인 44kW로 구현할 계획이다. 이는 국내 데이터센터 랙당 평균 전력 밀도인 4.8kW의 약 9배에 달한다.

* 데이터센터 코로케이션: 데이터센터 전문 기업이 전산실 등의 공간을 임대하고, 고객 장비를 위탁관리·운영하는 서비스

SKT는 람다 GPU 자원을 기반으로 구독형 AI 클라우드 서비스인 ‘GPUaaS’도 12월 출시할 계획이다. GPUaaS는 기업 고객이 AI 서비스 개발이나 활용에 필요한 GPU를 직접 구매하지 않고, 클라우드를 통해 가상 환경에서 자원을 빌려 쓰는 서비스다. 공급이 부족하고 가격이 높은 GPU를 직접 구매하기 부담스러운 대기업이나 중소기업, 스타트업이 상대적으로 저렴한 비용에 사용할 수 있다.

이에 따라 세계 각국의 정보기술(IT) 기업들이 GPUaaS를 내놓고 있으며, 시장 규모도 급격히 성장하고 있다. 시장조사기관 ‘포천 비즈니스 인사이트’에 따르면 글로벌 ‘GPUaaS’ 시장은 2024년 43억1000만 달러에서 2032년 498억4000만 달러로 성장하며, 연평균 성장률은 35.8%에 달할 것으로 예상된다.

SKT는 12월 ‘GPUaaS’ 출시와 함께 GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅, AI 스타트업 지원 프로그램 등 국내 스타트업, 중견·중소기업 대상의 다양한 프로모션을 선보일 계획이다.

SKT와 SK엔무브는 2월 스페인 바르셀로나에서 열린 MWC24 현장에서 글로벌 액체냉각 전문기업 ‘아이스토프’와 차세대 냉각 기술 및 솔루션 분야 협업을 위한 업무협약을 체결했다.

미국 AI 데이터센터기업에 2억 달러 투자… AI 분야 최대 규모 투자 단행

SKT는 올해 AI 분야 역대 최대 규모인 2억 달러를 미국 AI 데이터센터 기업에 투자하며, AI 인프라 사업에 대한 투자 의지를 보여준 바 있다.
SKT는 미국 AI 데이터센터 통합 솔루션 대표 주자인 ‘펭귄 솔루션스’에 2억 달러를 투자하고, AI 인프라 사업영역에서 협력을 활발히 추진하고 있다.

미국 실리콘밸리에 본사를 둔 펭귄 솔루션스는 전 세계에서 대규모 AI 클러스터를 구축한 몇 안 되는 기업으로 손꼽힌다. 2023년 메타(Meta)의 GPU 1만6000개 규모 ‘리서치 슈퍼 클러스터’를 구축한 바 있다. 이는 당시 전 세계에서 가장 큰 규모의 AI 클러스터로 주목받았다. 또한 최근 미국 차세대 GPU 클라우드 서비스 업체인 ‘볼티지 파크’의 GPU 2만4000개 규모 AI 클러스터 운영 업체로 선정되며, 다시 한번 AI 데이터센터 솔루션 역량을 증명했다. SKT와 펭귄 솔루션스는 협력 파트너십을 추가로 체결해 AI 데이터센터·에지(Edge) AI·미래 메모리 솔루션 등 AI 인프라 사업 영역 전반에 걸친 협력을 보다 구체화한다는 방침이다.

SKT의 데이터센터 관리 시스템, 액침냉각 등의 솔루션에 펭귄 솔루션스의 AI 클러스터 구축·운영 역량이 더해지면 시너지 효과가 배가될 것으로 기대한다. 또한 산업용 특화 에지 솔루션에 통신 인프라와 AI를 접목한 ‘텔코(Telco) 에지 AI 솔루션’ 개발도 함께 할 계획이다.

AI 데이터센터글로벌 기술 표준화 작업도 SKT가 주도

SKT는 AI 데이터센터 관련 기술의 글로벌 표준 정립에도 앞장서고 있다.

SKT는 올해 유엔 산하 국제전기통신연합 전기통신표준화 부문(ITU-T)에 ‘AI DC 기술의 연동구조와 방식’ 아이템을 제안했다. 이는 ITU-T 스위스 제네바 국제회의에서 신규 표준화 과제로 승인됐다.

이번 과제에는 AI 데이터센터를 구성하는 주요 기술 요소 간 유기적인 연동과 결합을 목표로, 데이터센터의 각종 기술 요소 간 구조, 신호 방식, 사용 방식 등을 담고 있다.

또한 AI DC를 구성하는 주요 기술 요소 간 연동 구조를 기능과 역할에 따라 △AI 인프라(AI Infra) △관리(Management) △자원 배분(Resource Allocation)의 3개 모듈로 분류해 정의하고, 각 모듈 간 연동 구조와 데이터 통신 등에 대한 청사진을 표준화 안에 담았다.

향후 SKT는 회원사들과 함께 AI DC의 각 모듈 간 연동 구조, 연동을 위한 데이터 종류 등 다양한 세부 표준을 개발하게 된다. 이후 ITU-T 회의를 통해 개발된 안에 대한 논의 및 최종 채택 과정을 통과하면 SKT의 표준화 안은 정식으로 글로벌 표준이 된다.