Intel D270 GPU AI 가속기, 최대 480GB LPDDR5X 탑재

Intel GPU D270은 대규모 학습보다 프로덕션 AI 추론에 최적화한 데이터센터 GPU로, 긴 컨텍스트와 다수의 동시 세션을 처리하는 에이전트 워크로드를 겨냥함 카드당 최대 480GB LPDDR5X를 탑재해 더 큰 모델과 긴 컨텍스트, 추론 중 늘어나는 KV 캐시를 메모리에 유지하도록 설계됨 Xᵉ3P 코어 32개와 XMX 행렬 엔진 256개를 갖추고, 그래픽과 레이 트레이싱 파이프라인에 쓰이던 다이 면적을 추론 연산에 재배분함 350W 공랭식 설계와 표준 PCIe 5.0을 채택해 전용 네트워크나 액체 냉각 개조 없이 기존 서버와 랙에 배포할 수 있도록 함 네이티브 저정밀도 추론부터 FP64 과학 연산까지 지원하며, vLLM과 개방형 PyTorch 생태계에서 주요 개방형 모델의 출시 당일 지원을 내세움 에이전트 추론과 대용량 메모리 D270은 메모리 용량과 전력 효율이 중요한 기업 AI, SaaS, GPUaaS, 정부 및 소버린 클라우드 배포를 대상으로 함 주요 사용자는 AI 시스템/플랫폼 설계자, 인프라/클라우드 엔지니어링 책임자, 기업 AI 의사결정자와 프로덕션 추론 개발자임 에이전트 AI는 하나의 작업에서도 모델 호출, 도구 사용, 검색, 추론, 응답 생성을 여러 차례 반복함 긴 프롬프트와 다단계 워크플로에서는 읽는 양이 쓰는 양보다 훨씬 많고, 프리필(prefill)이 연산의 큰 비중을 차지하므로 대역폭뿐 아니라 메모리 용량, 동시성, 전력 효율도 중요함 카드당 최대 480GB LPDDR5X로 모델과 긴 컨텍스트를 더 많이 상주시켜, HBM 없이 더 적은 GPU로 풍부한 컨텍스트를 활용하는 추론을 목표로 함 수천 단계의 에이전트 실행, 10만 토큰 컨텍스트, 수십 개 동시 세션에서 에이전트를 메모리에 유지해 반복 실행 중 처리량을 뒷받침하도록 설계됨 긴 프롬프트, 검색 중심 워크플로, 추론 중 KV 캐시 증가에 필요한 메모리 용량을 확보하는 데 초점을 둠 대상 워크로드에는 장문 컨텍스트 RAG, 기업 AI 비서, 코딩 비서, 문서 이해, 멀티모달 AI, 확산 모델, 높은 동시성이 필요한 서빙이 포함됨 추론 최적화의 초점은 대규모 모델 학습이 아니라 배포된 AI 애플리케이션의 프롬프트 처리, 동시 서빙, 메모리 용량, 전력 효율과 시스템 수준 성능에 있음 연산 설계와 기존 데이터센터 배포 Xᵉ3P 코어 32개와 XMX 엔진 256개가 프리필 처리를 가속하며, 그래픽/레이 트레이싱 파이프라인의 다이 면적...