‘몰라도 아는척’ 이런 AI 없앤다…억지환각 줄이는 기술 개발

KAIST 전기및전자공학부 노용만 교수 연구팀 멀티모달 AI 감각 혼선 억제 기술 연구(AI 생성 이미지·KAIST 제공) /뉴스1 AI가 ‘안 들리는데 들린다’, ‘없는데 있다’고 우기는 시대를 끝낼 핵심 기술이 개발됐다.한국과학기술원(KAIST)은 전기및전자공학부 노용만 교수 연구팀이 멀티모달 대형 언어모델(MLLM)의 감각 혼선을 줄이는 두 가지 핵심 기술을 개발했다고 31일 밝혔다. 이번 기술은 카메라와 다양한 센서의 특성을 정확히 이해하도록 하는 기술과 시각·청각 정보가 뒤섞이면서 발생하는 환각을 줄이는 기술로, 별도의 대규모 재학습 없이도 AI의 신뢰성을 크게 높였다.연구팀이 개발한 첫 번째 기술은 AI가 열화상, 깊이 영상, 엑스레이(X-ray) 등 다양한 센서가 담고 있는 물리적 의미를 정확하게 이해하도록 돕는 ‘센서 이해 AI’기술(DNA) 최적화 기법이다.사람은 열화상 화면에서 밝게 보이는 부분이 뜨거운 곳이라는 것을 알지만, 기존 AI는 이를 일반 사진처럼 해석해 단순한 빛으로 착각하기도 했다. 연구팀은 AI가 열과 거리 등 센서가 측정하는 물리 정보를 이해하는 새로운 학습 기술로 어둠이나 연기 속에서도 사물을 더 정확하게 인식할 수 있게 했다. 연구팀이 개발한 DNA 최적화 기술이 적용된 모델(KAIST 제공) /뉴스1 두 번째 기술은 시각과 청각 정보가 서로 영향을 주면서 발생하는 환각을 줄이는 ‘감각 혼선 방지’ 기술(MAD)이다.CCTV 영상에 자동차가 지나가는 장면이 담겨 있지만 실제로는 소리가 녹음되지 않았을 때, 기존 멀티모달 AI는 자동차가 보인다는 이유만으로 ‘엔진 소리가 들린다’고 답하는 경우가 있었다. 연구팀은 AI가 먼저 ‘이번 질문은 영상을 보고 판단해야 하는지, 소리를 듣고 판단해야 하는지’를 스스로 구분한 뒤, 더 중요한 감각 정보에 집중하도록 만들었다. 이를 통해 AI를 처음부터 다시 학습시키지 않고도 감각 혼선과 환각을 효과적으로 줄였다.또 연구팀은 AI를 막대한 컴퓨팅 자원으로 처음부터 다시 학습시키는 대신, DNA 기술은 적은 데이터만으로 다양한 센서를 이해하도록 성능을 높이고 MAD은 기존 AI에 프로그램을 추가하듯 바로 적용할 수 있도록 설계했다. 시간과 비용을 크게 줄이면서도 기존 멀티모달 AI의 신뢰성을 높일 수 있어 산업 현장에 빠르게 적용할 수 있다.연구팀은 AI가 스스로 어떤 감각을 신뢰해야 하는지 선택할 수 있을 때 환각이 크게 줄어든다는 사실...