GLM 5.2와 다가오는 AI 추론 마진 붕괴

1 week ago 15

GLM 5.2는 오픈 가중치(open weights) 모델이 Opus·GPT급 에이전트 작업에 근접하면서, 폐쇄형 프런티어 모델의 높은 추론 마진을 압박할 수 있음을 보여줌
AI 비용의 쟁점은 한 번 쓰는 학습비보다 수요에 따라 늘어나는 추론 비용이며, $25/MTok 수준의 API 가격에는 높은 총마진이 포함돼 있을 가능성이 큼
품질은 Opus와 구분하기 어려운 수준이지만, 많이 “생각”하는 특성 때문에 속도와 토큰 사용량이 늘고 비전 미지원·약한 웹 검색이 약점으로 남음
Z.ai와 Fireworks의 OpenAI·Anthropic 호환 엔드포인트 덕분에 Claude Code와 Codex에서는 base URL과 API key 교체만으로 실험할 수 있음
GLM 5.2 가격은 약 $4.40/MTok로 Opus 소매가의 20% 미만, GPT5.5의 약 15% 수준이며 서빙 스택 최적화와 AMD 활용으로 더 내려갈 수 있음

비용 구조: 학습비보다 추론비가 마진을 좌우함

DeepSeek R1 당시 시장은 V3 모델 학습비가 600만 달러 미만이라는 보도에 반응해 모델 학습용 대규모 설비 투자가 끝났다고 해석했지만, 이는 AI 비용 구조를 잘못 읽은 사례에 가까움
학습 비용은 큰 자본이 들어가지만 기본적으로 선불 고정비 성격이 강함
- 프런티어 랩은 경쟁 유지를 위해 계속 새 모델을 학습하므로 완전한 일회성 비용은 아님
- 그래도 고객 사용량에 비례해 증가하는 추론 비용과는 성격이 다름
추론 비용은 수요와 함께 늘어나며 실제 한계비용을 만듦
Anthropic과 OpenAI가 추론에 $25/MTok을 청구할 때, 컴퓨트 비용 대비 약 90% 총마진일 가능성이 있다는 계산이 나옴
- OpenAI의 유출 재무자료는 매출 기준 약 60% 총마진을 시사하지만, 여기에는 지원, 결제 처리, 기타 서비스 비용이 포함됐을 가능성이 있음
프런티어 AI 랩의 사업 모델은 비싼 인력과 컴퓨트로 모델을 학습한 뒤, 수익성 높은 대량의 추론으로 그 비용을 상각하는 구조임

Z.ai의 GLM 5.2는 Opus와 GPT에 맞서는 첫 진정한 오픈 가중치 경쟁 모델로 볼 수 있음
- 작성 시점의 최신 GPT는 GPT 5.5로 언급됨
- 향후 모델이 이 수준을 넘어설 수 있다는 단서도 붙음
실제 사용에서는 일상적으로 쓰는 Opus와 구분하기 어려울 정도로 품질이 높았음
가장 큰 단점은 느린 체감 속도임
- 백그라운드 PR 리뷰처럼 시간 민감도가 낮은 비상호작용 에이전트 작업에서는 큰 문제가 아님
- 상호작용 사용에서는 주의 집중을 유지하기에 다소 느림
- 느림은 서빙 자체보다 모델이 많이 “생각”하는 데서 주로 발생함
- Fireworks의 GLM 5.2는 tokens/sec 기준으로 빠르게 출시됐지만, 실제 속도는 다소 기복이 있었음
더 많이 생각하는 특성 때문에 토큰 사용량이 늘어 비용 효율이 일부 낮아짐

GLM 5.2는 비전(vision) 지원이 없음
- Opus 4.7의 고해상도 비전 기능 이후 이미지 기반 PDF, 스크린샷, 디자인 파일을 읽는 사용이 많아졌기 때문에 체감 약점이 큼
- 프런티어 랩 대비 중요한 약점으로 남음
웹 검색 기능의 부재 또는 낮은 품질도 에이전트 작업을 제약함
- 거의 모든 에이전트 세션이 항목을 찾아보기 위해 많은 웹 검색을 수행함
- Z.ai는 웹 검색용 대체 MCP를 제공하지만 느리고 품질이 낮았음
- Fireworks는 웹 검색 기능을 제공하지 않음
임시 우회책으로 에이전트에 ddgr 같은 CLI 기반 웹 검색을 쓰도록 지시할 수 있음
좋은 서드파티 웹 검색 API는 오픈 가중치 모델 제공자가 아직 채우지 못한 큰 공백을 메울 수 있음
웹 검색 역량은 많은 에이전트 작업에 필수이며, 검색 인덱스를 만드는 주체와 적절한 파트너십·연결 작업이 갖춰지면 시간이 지나며 해결될 수 있음

프런티어 랩에 더 위협적인 부분은 오픈 가중치 모델로의 마이그레이션 난이도가 낮다는 점임
Z.ai와 Fireworks는 모두 OpenAI 호환 및 Anthropic 호환 엔드포인트를 제공함
- Claude Code와 Codex에서 base URL을 추론 제공자로 바꿈
- API key를 설정함
- 사용할 모델을 GLM 5.2로 지정함
Anthropic이 claude -p의 비상호작용 에이전트 사용에 API 요금을 부과한다고 발표했다가 철회한 상황에서, 많은 사용 사례는 GLM으로 교체 가능함
상호작용 사용에서도 비전 부재와 느린 속도를 제외하면 Claude Code 안에서 Opus가 아닌 모델을 쓰고 있다는 점을 거의 알아차리기 어려웠음
이 전환은 Microsoft나 Salesforce식 lock-in처럼 수년간 계획해야 하는 마이그레이션이 아님
- 전환 비용은 낮음
- 프런티어 랩의 정책과 약관 변경을 따라가는 비용보다 낮을 수 있음
- Claude Code가 향후 서드파티 제공자 사용을 어렵게 만들 가능성은 있음
- Codex와 OpenCode를 포함해 좋은 오픈소스 대안이 많음

기업에서 자주 나오는 우려는 데이터 프라이버시와 보안임
Z.ai의 공식 API와 구독은 약한 약관과 중국 본토와의 깊은 연결 때문에 기업에는 선택지가 되기 어렵다고 봄
오픈 가중치 모델은 다른 제공자를 선택할 수 있음
- 시장에는 더 적절한 계약 조건을 갖춘 제공자가 많음
- 필요하면 온프레미스 호스팅도 가능함
온프레미스 배포는 어떤 제3자에게도 보낼 수 없던 더 민감한 데이터까지 Opus 수준의 에이전트 워크플로에 사용할 수 있게 함

GLM 5.2의 현재 가격은 약 $4.40/MTok 수준임
- Opus 소매가의 20% 미만
- GPT5.5 비용의 약 15%
같은 작업에서 GLM 5.2가 더 많은 토큰을 쓰기 때문에 완전한 apples-to-apples 비교는 아님
그래도 거의 모든 워크플로에서 비슷한 품질을 50% 이상 저렴하게 제공할 가능성이 높음
Z.ai는 Anthropic과 OpenAI의 플랜과 유사한 “coding plan” 구독을 제공하며, 더 높은 사용 한도를 내세움
- 다만 학습과 데이터 보존에 관한 느슨한 약관은 전문적 사용에서 판매를 어렵게 만들 수 있음
- 프런티어 랩이 가격을 크게 올릴 경우 예산을 중시하는 사용자에게 신뢰 가능한 선택지가 될 수 있음
GLM 5.2 비용은 향후 몇 달간 서빙 스택 최적화로 크게 내려갈 것으로 예상됨
- Wafer는 AMD 하드웨어에서 GLM 5.2를 실행한 내용을 정리함
- AMD에서 추론을 실행하면 Nvidia Blackwell 대비 토큰당 비용이 2.75배 저렴하다고 제시함
Fireworks는 GLM 실험을 위한 무료 크레딧을 제공했음