AMD, 반도체에 AI 가중치 새기는 ‘탈라스’ 인수··· 추론·피지컬AI 판도 바꿀까

AMD가 지난 8월 6일, AI 추론용 반도체 기업 탈라스(Taalas) 인수 소식을 밝혔다. 탈라스는 캐나다의 AI 반도체 기업으로 AI 모델의 가중치 자체를 반도체에 인쇄하는 구조화된 주문형 반도체(Structured ASIC) 전문 기업이다. 기존의 AI 가속기가 가중치를 메모리 위에 불러온 뒤에 추론 작업을 하는 방식이라면 탈라스의 HC2 ASIC은 반도체 자체에 가중치가 새겨져있어 즉시 추론을 이행할 수 있다. 이번 인수의 구체적인 조건은 공개되지 않았으나 제품 포트폴리오를 AMD에 추가하기 위한 기업 인수며 올해 안에는 인수가 완료될 예정이다.탈라스, 반도체에 가중치 인쇄해 AI 병목 제거 AMD가 캐나다의 AI 반도체 스타트업 탈라스(Taalas)를 인수한다 / 출처=AMD 탈라스는 텐스토렌트의 공동창업자이자 전임 최고경영자인 류비사 바지치(Ljubisa Bajic)가 설립했다. 탈라스의 핵심은 반도체 제조의 핵심 단계인 노광 단계에서 가중치 회로의 금속 배전에 물리적으로 하드 와이어링 한다. 즉 반도체 실리콘에 AI 가중치를 인쇄해 AI 추론의 구조 자체를 바꾸는 것이다. 기존의 AI 가속기는 학습이 완료된 모델을 메모리 위에 얹은 상태에서 추론 작업을 진행한다. 따라서 모델의 크기가 크면 클수록 메모리 용량이 큰 가속기가 필요하고 향후 재시동 시 다시 모델을 불러와야 하는 번거로움이 있다. 이에 따른 소비전력이나 시간적 소요 등도 비용으로 볼 수 있다.반면 탈라스는 반도체 칩 자체에 매개변수를 각인하며, 고정된 학습 가중치를 새겨 넣는 마스크-ROM 리콜 패브릭과 동적으로 변동되는 연산 데이터를 처리하는 SRAM 리콜 패브릭 두 영역으로 나뉜다. 마스크-ROM 리콜 패브릭은 모델의 사전 학습 가중치를 실리콘 위의 금속 배전에 영구 각인한 방식이며, 1세대 HC1 칩은 메타의 라마 3.1 8B를 새겨넣었다. SRAM 리콜 패브릭은 추론 과정에서 실시간으로 변하는 KV캐시, 세부 내용을 가볍게 수정하는 저순위 적용 등의 값을 읽기 및 쓰기한다. 탈라스 HC1는 반도체 다이 자체에 매개변수를 인쇄하는 칩이어서 상용 GPU 등의 가속기외 비교도 안되는 속도로 동작한다 / 출처=탈라스 올해 2월 공개한 1세대 칩 탈라스 HC1은 메타 라마 3 8B 모델을 기존 고성능 AI 가속기보다 10배 이상 빠르면서 전력 소비량은 10배나 적고 구축 비용은 20배나 적다. 동일 모델을 처리할 때 엔비디아 H200의 ...