파네시아·메타, 네이처 리뷰에 ‘CXL 기반 단일 칩형 데이터센터’ 제시

1 week ago 20

AI 인프라용 링크 설루션 기술 기업 파네시아(Panmnesia)가 메타와 함께 연구한 ‘CXL 기반 스케일업 패브릭이 구현하는 단일 칩형 데이터센터 설계(One-Chip-Like Datacenter Design Enabled by CXL-Based Scale-Up Fabrics)’ 논문이 지난 8월 10일 네이처 포트폴리오가 발행하는 전기·전자 분야의 리뷰 전문 학술지 ‘네이처 리뷰 일렉트로니컬 엔지니어링(Nature Reviews Electrical Engineering)’에 게재됐다. 해당 논문은 네이처 리뷰 측의 초청을 받아 파네시아와 메타 연구진이 집필한 리뷰 아티클이다. 국내 학계 연구진이 네이처 리뷰에 리뷰 아티클을 게재한 사례는 앞서 있었지만, 국내 기업 연구진이 초청을 받아 집필에 참여한 사례는 매우 이례적이다. 정명수 파네시아 대표가 CXL 기반 데이터센터의 핵심 장치 중 하나인 PCIe 6.4-CXL 3.2 퓨전 스위치를 소개 중이다 / 출처=파네시아 하이퍼스케일로 커진 데이터센터, 대규모 병렬연결 기술적 한계 드러나2010년대 이후 데이터센터 아키텍처는 자원을 필요에 따라 조합할 수 있는 형태로 구성했다. CPU와 GPU, 저장장치, NIC(네트워크 인터페이스 카드) 등이 각각 독립된 컴퓨터처럼 운용되고 이더넷, 인피니밴드 같은 네트워크로 연결되는 식이다. 이는 서버를 필요로 하는 다수의 사용자에게 장치별로 분배하기에는 좋은 구조지만 각 서버가 긴밀하게 연결되는 구조가 아니다. 과거에는 도메인을 운영하거나 개별 연산 등을 처리하기 위해 활용되었으니 큰 문제는 아니었다. 단일 칩형 데이터센터 개념도. 칩 내부의 자원 배치 원리를 데이터센터 전체 규모로 구현한 것이 특징이다 / 출처=파네시아 하지만 GPT 등장 이후 대규모 AI 학습, 추론 작업을 위해 수백에서 수천 개의 GPU를 병렬로 연결해서 하나의 장치처럼 활용하는 가속컴퓨팅이 대두되면서 기존의 데이터센터 통신 방식에서 한계가 드러났다. 단순 병렬화의 가장 큰 문제는 모든 장치가 동일한 속도로 가동되지 않아 느린 장치로 인한 지연이 발생하고, 장치마다 통신 속도의 편차도 발생한다. 실제 데이터센터에서는 왕복 레이턴시(입력 지연)의 99번째 백분위 값이 중앙값의 5배에 달해 전체 부하로 이어진다. 분산 운영을 전제로 해 느슨하게 결합되도록 구성한 서버 아키텍처가 단일 연산을 대규모로 처리하는 지금은 병목의 원인이 된 셈이다.그래서 최근 A...

Read Entire Article