“성능 중심 AI 모델 경쟁 한계 도달… 글로벌 윤리교육 필요”

AI 윤리 온라인 강의 프로그램 유네스코, LG와 함께 공동개발 “AI 기술 공정성 기준 제시하고 실무 적용 위해 사례 중심 담아” 지금까지는 미국과 중국 등 인공지능(AI) 개발 선진국들이 AI 모델의 성능 개선을 중심으로 치열한 경쟁 레이스를 벌여 왔다. 하지만 중동 전쟁을 계기로 한 ‘AI 무기화 논란’과 앤스로픽의 사이버 보안 특화 AI ‘미토스’의 등장은 AI 안전에 관한 가이드라인이 필요하다는 논의에 불을 댕겼다. 지나치게 똑똑해진 AI가 인간의 통제를 벗어나기 전에 ‘사용 기준’을 만들어야 한다는 얘기. 유네스코가 LG와 함께 개발자, 사업가, 정책 입안자 등 AI 정책과 관련한 주요 이해관계자들을 위한 교육 프로그램 ‘AI 윤리 MOOC(Massive Open Online Course)’를 개발하게 된 것도 비슷한 취지에서다. MOOC는 2021년 유네스코 193개 회원국이 만장일치로 채택한 ‘AI 윤리에 관한 권고’를 실무 현장에서 구현하기 위해 기획된 온라인 강의 프로그램이다. 이들은 글로벌 AI 석학인 앤드루 응 미국 스탠퍼드대 교수가 창업한 AI 온라인 교육 플랫폼 코세라(Coursera)와도 협력해 MOOC를 전 세계에 광범위하게 제공할 계획이다. 렉스 유엔대 교수 20일 서울 중구 유네스코회관에서 열린 ‘유네스코 AI 윤리 MOOC 론칭 행사’에 참석한 조지나 쿠르토 렉스 유엔대 교수는 “AI 모델이 더 클수록 더 좋다는 인식이 AI 레이스를 가속화시켰지만 이런 접근은 이제 한계에 다다랐다”며 “현시점이 AI 경쟁의 변곡점”으로 글로벌 AI 윤리 교육이 그 어느 때보다 필요하다고 강조했다. 유엔대는 국제연합(유엔)이 세계 문제를 연구하기 위해 설립한 대학원으로 일본 도쿄에 위치하고 있다. MOOC의 국제자문단으로도 활동 중인 렉스 교수는 “AI는 단순한 기술이 아닌 사회 기술적인 존재”라며 “공정성의 기준을 제시하는 것이 핵심”이라고 했다.유네스코와 손을 맞잡고 기획부터 콘텐츠 개발에까지 동참한 LG AI연구원의 김유철 전략부문장은 “단순히 추상적인 개념에서 그치는 것이 아니라 실제 업무 현장에서 어떻게 적용할 수 있는지, 가령 AI 가드레일(안전장치)이나 AI 보안 취약점을 찾는 레드팀이 어떤 방식으로 맞물려 돌아가는지 등 사례 중심으로 담았다”고 설명했다.특히 최근에는 답변에서 그치는 것이 아니라 실행까지 나아가는 ‘AI 에이전트’ 시대가 현실화되며 안전에 대한 중요성이 더욱 커지고...