[기고] 컨피덴셜 컴퓨팅으로 여는 새로운 컨피덴셜 AI 시대

최근 젠슨 황 엔비디아 최고경영자(CEO)는 GTC 2026 기조연설에서 자사 GPU의 세계 최초 '컨피덴셜 컴퓨팅' 지원을 강조했다. 이를 통해 인프라 운영자조차 접근할 수 없는 환경에서 중요한 인공지능(AI) 모델과 에이전틱 시스템을 여러 클라우드 및 데이터센터에 걸쳐 안전하게 배포할 수 있도록 지원한다.

한국 정부와 민간기업의 행보도 같은 양상을 띈다. 정부는 새로운 'AI 기본법'과 국가 AI 컴퓨팅 센터 이니셔티브 하에 소버린 AI를 추진하고 있다. 국내 기업 또한 데이터 주권을 확보하고 규제를 준수하며, 안전하게 AI 학습·추론·협업을 진행할 수 있는 컨피덴셜 컴퓨팅 도입 기반을 갖추고 있다.

현재 AI 학습과 추론은 온프레미스 데이터센터부터 공유 코로케이션 시설, 퍼블릭 클라우드, 엣지 인프라에 이르기까지 다양한 환경에 걸쳐 이뤄지면서 공격 표면을 크게 확대하고 있다. 기존 보안 모델은 이러한 변화에 효과적으로 대응하지 못하고 있다. 데이터는 저장 및 전송 중에는 암호화를 통해 보호되지만, 처리 단계에서는 메모리에서 복호화된 가장 취약한 상태에 놓인다.

이러한 한계를 보완하는 새로운 보안 아키텍처로 컨피덴셜 컴퓨팅이 주목받고 있다. 컨피덴셜 컴퓨팅은 데이터가 처리되는 중에도 보호할 수 있도록 설계된 기술로, 신뢰 실행 환경(TEE:Trusted Execution Environment) 내에서 워크로드를 실행해 민감 데이터를 안전하게 처리할 수 있는 기반을 제공한다.

컨피덴셜 컴퓨팅의 핵심은 하드웨어 기반 격리 환경에 있다. 이 환경은 일반적으로 가상머신(VM) 수준에서 구현되며, 메모리 내 데이터를 암호화하고 호스트 운영체제, 하이퍼바이저, 컨테이너 플랫폼, 기타 워크로드와 엄격히 분리한다. 이로 인해 시스템 관리자를 비롯해 특수 권한을 가진 사용자조차 보호된 데이터에 직접 접근할 수 없다.

이러한 격리는 특히 AI 시스템에서 중요하다. 독점 데이터셋, 모델의 중간 상태, 그리고 추론 과정에서 생성되는 입력·출력 데이터가 처리 파이프라인 전반에 걸쳐 보호되어야 하기 때문이다. 최근에는 이러한 보호 기능이 CPU를 넘어 GPU 가속 환경으로까지 확장되면서, 성능 저하 없이 이를 구현할 수 있는 기술도 발전하고 있다.

또 하나의 중요한 기능은 어테스테이션(attestation)이다. 이는 민감한 데이터가 처리되기 전에 인프라의 무결성과 보안 상태를 검증할 수 있도록 지원한다. 어테스테이션은 암호학적 검증을 통해 워크로드가 신뢰할 수 있는 환경에서 실행되고 있음을 확인함으로써, 사전 검증 중심의 보안 모델을 구현할 수 있다. 특히 공유 인프라나 제3자 환경에서 활용 가치가 크다.

컨피덴셜 컴퓨팅 지원은 다양한 프로세서 아키텍처와 가상화 플랫폼, AI 가속기 전반으로 빠르게 확산되고 있다. 이에 따라 온프레미스·클라우드·엣지를 아우르는 환경에서 안전한 AI 워크로드 운영이 현실화되고 있다. 오늘날 데이터 저장 및 전송 시 암호화가 기본적인 보안 요구사항으로 자리 잡은 것처럼, 컨피덴셜 컴퓨팅 또한 민감 데이터를 다루는 AI 워크로드의 표준 보안으로 자리 잡을 가능성이 크다.

컨피덴셜 컴퓨팅은 명확한 방향성을 제시한다. 하드웨어 기반 격리와 검증 가능한 실행 환경을 바탕으로, 데이터가 처리되는 중에도 보호하고, 기업이 불확실성 대신 확신을 바탕으로 AI를 확장할 수 있도록 한다. 핵심 자산을 보호하면서 AI의 가치를 최대한 활용하려는 기업들에게, 컨피덴셜 컴퓨팅은 현대 AI 전략의 핵심 요소로 빠르게 자리 잡고 있다.

김성민 슈퍼마이크로 비즈니스 개발 부문 상무 AnthonyKim@supermicro.com