GLM-5.3: 포스트 트레이닝 확장으로 프런티어급 코딩·사이버 역량 달성

1 day ago 11

GLM-5.2와 같은 기반 모델에서 환경·과제·연산을 늘리는 포스트 트레이닝 확장만으로 복잡한 코딩과 장기 과제 성능을 높임 실행·검증 가능한 실제 엔지니어링 환경과 SAO 장기 강화학습을 적용해 Terminal Bench 3.0은 4.6에서 28.3, DeepSWE v1.1은 46.2에서 66.9로 상승함 취약점 탐지 훈련을 확장하자 전체 공격 체인을 추론하는 사이버 역량이 예상보다 빠르게 성장해 CyberGym 84.5%, ExploitBench 54.4%를 기록함 실제 코드베이스에서는 269개 프로젝트에서 취약점 2,436개를 찾아냈으며, 공개 완료 53개와 엠바고 상태 2,383개를 별도 원장으로 추적함 가중치는 안전성 평가와 강화를 마친 뒤 출시 2주 후 공개하며, API가 사고 기능 비활성화를 지원하지 않아 기존 thinking.type: "disabled" 사용자는 마이그레이션해야 함 포스트 트레이닝 확장 GLM-5.3은 GLM-5.2와 동일한 기반 모델을 사용하며, 모든 성능 향상이 포스트 트레이닝에서 나옴 GLM-5.2에서 구축한 기술 스택을 한 달 동안 더 많은 환경과 다양한 과제, 추가 연산으로 확장함 IndexShare: 효율적인 장문 맥락 처리 SAO: 장기 과제를 위한 강화학습 slime: 대규모 비동기 훈련 GLM-5.2에서 도입한 압축 기반 SAO를 유지해 짧은 과제뿐 아니라 장기 과제에서도 성능 향상이 이어지도록 함 공개 가중치 코딩 모델 가운데 가장 높은 수준을 표방하며, 자체 Z.ai Code Bench에서는 GLM-5.2보다 50% 향상됨 실제 업무에 가까운 코딩 환경 훈련 환경을 코딩 연습문제보다 실제 전문가가 수행하는 프로덕션 작업 흐름에 가깝게 확장했으며, 일부 과제는 숙련된 엔지니어에게도 며칠이 걸리는 규모임 ML 인프라 과제에서는 모델에 연산 클러스터, 저장 시스템, 내부 문서, 코드베이스, 실험 결과를 제공함 훈련 스택 전체의 병목을 진단함 최적화를 구현하고 실험함 정확성을 유지하면서 측정 가능한 종단 간 속도 향상을 내야 함 사용자가 과제를 분해하고 각 단계를 감독하는 방식보다 모델이 상당한 업무를 처음부터 끝까지 책임지는 능력을 훈련함 환경 및 검증기 합성 에이전트 성능이 높아질수록 포스트 트레이닝 확장의 난점은 모델보다 환경으로 이동함 유용한 과제 환경은 실행·검증 가능하면서 실제 전문 업무와 가까워야 하며, 소수의 수작업 환경이 아닌 대규모 구성이 필요함 연...

Read Entire Article