[신문과 놀자!/디지털 세상과 정보]내 폰 안에서 생각하는 AI, 내 비밀도 지켜줄까

대부분 AI 서비스 데이터센터 거쳐 온디바이스 AI는 기기 안에서 처리 개인정보가 서버로 전송되진 않지만 인터넷 연결-동기화 서비스 주의를 지난달 23일(현지 시간) 미국 캘리포니아주 먼로파크에서 열린 개발자 콘퍼런스 ‘메타 커넥트 2026’에서 마크 저커버그 메타 최고경영자(CEO)가 기조연설을 하고 있다. 이날 메타는 개인용 인공지능(AI) 에이전트 ‘뮤즈’를 AI 안경으로 확대한다고 했다. 뮤즈가 탑재된 안경을 쓴 채 주변 맛집을 찾고 실시간 번역 등을 할 수 있다. 먼로파크=AP 뉴시스 휴대전화를 꺼내지 않고 안경에 말을 걸어 번역을 부탁하는 모습, 상상해 본 적 있나요. 메타는 최근 새로운 인공지능(AI) 안경을 공개했습니다. AI가 책상 위 컴퓨터와 주머니 속 휴대전화를 넘어 얼굴에 쓰는 안경으로도 들어오고 있습니다. 그런데 안경에 AI를 사용한다고 해서 모든 계산이 안경 안에서 끝나는 것은 아닙니다. 메타는 일부 명령을 기기에서 처리하지만, 더 큰 AI 모델이 필요한 기능은 클라우드를 이용한다고 설명합니다. AI를 사용하는 곳과 AI가 계산하는 곳은 다를 수 있다는 뜻이지요. 오늘은 그 차이를 만드는 ‘온디바이스 AI’를 살펴보겠습니다.● 기기 안에서 처리하는 ‘온디바이스 AI’ ‘온디바이스(On-device)’는 ‘기기 위에서’, 곧 ‘기기 안에서’라는 뜻입니다. 온디바이스 AI는 스마트폰이나 컴퓨터에 담긴 AI 모델을 이용해 그 기기에서 계산하고 결과를 만드는 기술입니다. 모델은 AI가 학습한 내용을 바탕으로 답을 만드는 틀이라고 생각하면 됩니다. 우리가 인터넷으로 쓰는 AI 서비스 중에는 질문을 큰 데이터센터의 컴퓨터로 보내 답을 받아 오는 것이 많습니다. 이런 방식을 ‘클라우드 AI’라고 부릅니다. 클라우드는 영어로 구름이지만, 실제로는 어딘가에 있는 컴퓨터들이 일하는 것이지요. 온디바이스 AI는 그 일을 기기 내에서 처리합니다. 화면이 같아 보여도 일하는 장소는 다릅니다. 휴대전화에서 AI 앱을 켰다는 사실만으로 모든 계산이 휴대전화 안에서 끝난다고 생각하면 안 됩니다. 두 방식을 도서관에 빗대어 볼까요. 클라우드 AI는 큰 도서관의 도움을 받는 것과 비슷합니다. 자료도 많고 여러 일을 처리할 여력이 있지만 내 질문이 도서관까지 다녀와야 합니다. 온디바이스 AI는 책가방에 넣어 둔 참고서와 같습니다. 필요한 내용이 준비돼 있다면 길이 막혀도 꺼내 볼 수 있습니다. 질문을 멀리 보내지 않고 ...