“AI 구조적 결함 잡는다”… 비드래프트, 네이버클라우드와 초거대 보안 AI 구축

자율 에이전트 돌발 행동 유발하는 ‘인과 누설’ 진단 기술 앞세워 국책 과제 본격 시동 김민식 대표 “안전성 진단 기술력 바탕으로 국내 사이버보안 기술 고도화 기여할 것” 과학기술정보통신부가 추진하는 ‘사이버보안 특화 AI 파운데이션 모델 개발’ 사업에 딥테크 AI 기업 비드래프트(대표 김민식)가 네이버클라우드와 손을 잡고 본격적인 참여에 나선다. 고도화되는 지능형 사이버 위협에 기민하게 대응하고 국내 독자적인 보안 인공지능 기술 주권을 확립하기 위한 이번 프로젝트는 이달부터 향후 10개월간 진행된다. 사업단에는 B200 GPU 256장이 대규모로 지원되며, 최종적으로 매개변수 7000억개(700B) 규모의 전문가 혼합(MoE) 구조를 갖춘 초거대 사이버보안 특화 AI 모델 구축을 목표로 삼고 있다. 이번 민·관 협력 컨소시엄에서 비드래프트는 자체 개발한 혁신적 AI 안전성 진단 시스템인 ‘AX-RAY’를 핵심 기술로 내세웠다. AX-RAY는 인공지능 모델이 정상적인 추론 과정을 거치지 않고, 데이터에 숨겨진 단서나 의도치 않은 인과적 단서에 의존해 판단을 내리는 이른바 ‘인과 누설(Causal Leakage)’ 현상을 정밀 진단하는 솔루션이다. 회사 측은 로봇 및 자율 에이전트의 돌발 행동이나 AI가 보안 가이드레일을 교묘히 우회하는 시스템 접근 사고 등이 이러한 내부 의존성에서 기인한다는 가설에 주목했다. 이는 기존의 단순 벤치마크 점수 평가만으로는 판별하기 어려운 AI의 구조적 결함을 파고드는 차별화된 접근법이다. 비드래프트는 이미 기술력 검증에 속도를 내고 있다. 지난달 글로벌 AI 플랫폼 허깅페이스를 통해 ‘AX-RAY 리더보드’와 독자 평가 데이터셋을 전격 공개했으며, 주요 범용 AI 모델들을 실측한 결과 일부 모델에서 인과 누설 신호가 포착됐음을 확인했다. 앞서 수행된 코드 수준의 연구에서는 오픈소스 라이브러리 간 구현 차이를 면밀히 분석해 특정 모델들의 누설 시작점을 특정하는 성과도 거뒀다. 회사는 이러한 연구 실적을 토대로 섭동 응답과 프리픽스 불변성에 기반한 판별 기술의 특허 출원을 추진 중이다. 김민식 비드래프트 대표는 “AX-RAY를 통해 축적해 온 독보적인 안전성 진단 기술력을 바탕으로 네이버클라우드와 긴밀히 협력해 국내 사이버보안 분야의 기술 고도화에 실질적으로 기여하겠다”고 포부를 밝혔다. 한편, 지난 2024년 서울AI허브에 둥지를 켠 비드래프트는 자체 파운데이션 모델과 안전성 진단...