"AI 응답속도 10배 빠르게"…삼전·하닉 AI 추론 메모리 경쟁

美 AI 인프라 서밋 2026 양사 참석해 기술 소개삼성전자, zHBM·zNAND-O 차세대 기술 전면SK하이닉스 "PIM·HBF, 한계 뛰어넘은 대안" 등록 2026-09-17 오후 9:41:20 수정 2026-09-17 오후 9:44:26 가 가 [이데일리 최오현 기자] 인공지능(AI) 산업의 무게중심이 학습에서 추론으로 이동하면서 얼마나 더 많은 데이터를, 저전력으로, 빠르게 이동시키느냐가 차세대 핵심으로 떠오르고 있다. 삼성전자와 SK하이닉스는 각기 다른 차세대 메모리 방식으로 데이터 병목 해소에 나섰다. 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무가 16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 발표하고 있다. (사진=연합뉴스)17일 업계에 따르면 삼성전자와 SK하이닉스는 미국 캘리포니아주 산타클라라에서 열린 ‘AI 인프라 서밋 2026’에 참석해 각 사의 차세대 AI 메모리 기술 전략에 대해 발표했다. 삼성전자는 ‘3차원(3D)’ 구조 혁신을 해법으로 제시했다. 이날 발표에 나선 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무는 ‘AI 혁명을 이끄는 메모리·스토리지의 3차원 혁신’이라는 주제 아래 zHBM과 zNAND-O를 차기 핵심 전략으로 소개했다. zHBM는 AI 가속기 상단에 고대역폭메모리(HBM)를 직접 얹는 구조다. zNAND-O는 여러 낸드를 수직으로 쌓아 실리콘 관통 전극(TSV)으로 연결한다. 기존 낸드보다 데이터를 빠르게 공급하면서 값비싼 디램 사용량을 줄이는 것이 핵심이다. 여기서 z는 3차원 공간의 Z축인 수직 방향을 의미한다. 즉 기존의 수평이었던 메모리의 구조적 배치를 적층으로 바꿔 데이터간 이동거리를 줄이고 전력 효율을 높인다는 전략이다. 김 상무는 “현재 대화형 AI 시스템의 응답속도는 이용자당 초당 100토큰 수준”이라며 “앞으로 에이전트형 AI를 위해 초당 1000토큰으로 10배 끌어올리는 양자 도약(퀀텀 점프)을 목표로 하고 있다”고 밝혔다. 삼성전자는 지난달 플래시 메모리 행사인 FMS 2026에서 이미 zHBM의 목업을 최초로 공개했다. 회사는 zHBM4가 차세대HBM5보다 최대 8배 성능과 3배 이상의 전력 효율을 구현한다고 설명했다. 임의철 SK하이닉스 솔루션AT 담당 부사장이 16일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 'AI 인프라 서밋 2026'에서 'AI 인프라의...