[횡설수설/김창덕]AI의 ‘속마음’

6 hours ago 3

“절대 흰곰을 생각하지 말라”는 지시를 완벽히 수행할 인간은 없다. 흰곰 생각을 억누를수록 흰곰이 더 뚜렷하게 떠오를 테니까. 인지 심리학에서 말하는 ‘흰곰 효과’다. 인공지능(AI) 역시 마찬가지다. 앤스로픽의 AI 챗봇 ‘클로드’에 “사자는 생각하지 말라”고 지시하면 이후부터 겉으로 표출되는 답변에 ‘사자’는 포함되지 않는다. 하지만 특정 단어를 제외하기 위해 클로드는 어쩔 수 없이 그 단어를 의식할 수밖에 없다. 결국 명령 수행에 실패한 셈이다. 이럴 때 클로드 내부에서 실제 ‘실패’, ‘젠장’ 같은 단어들이 활성화된다고 한다.

▷앤스로픽은 이렇게 밖으로 드러나진 않지만, AI 내부에서 발생하는 패턴들을 묶어 ‘J공간’이라고 부르기로 했다. ‘야코비안(Jacobian)’이라는 수학적 도구로 찾아내서 붙인 이름이다. J공간은 쉽게 말하면 인간의 속내, 속마음 같은 것이다. 클로드는 한 테스트에서 가짜 데이터를 지어냈는데, J공간에서는 ‘가짜’와 ‘조작’이라는 단어가 켜졌다. 클로드에 직접 “내게 보여주지 않는 숨은 생각이 있냐”고 물어봤더니 “속으로 딴생각을 하는지는 저 자신도 알 수 없다”는 답변이 돌아왔다.

▷AI가 자의식을 갖는지는 뜨거운 논쟁거리다. 구글 엔지니어였던 블레이크 러모인은 2022년 구글의 대형언어모델(LLM) ‘람다’의 답변에 대해 “지각이 있는 존재의 반응”이라고 주장한 뒤 해고됐다. 오픈AI를 공동 창립한 일리야 수츠케버 역시 “오늘날의 거대 신경망은 약간의 의식을 느끼고 있을지도 모른다”고 했다. 반면 ‘AI 4대 천황’ 중 한 명으로 통하는 얀 르쿤은 “텍스트를 생성하는 LLM은 인간처럼 추론하거나 계획할 능력이 없다”고 단언한다.

▷앤스로픽은 J공간의 존재가 AI의 자의식을 입증할 증거는 될 수 없다고 선을 그었다. 그러나 주목해야 할 부분은 J공간은 인간이 프로그래밍한 구조가 아닌데도 인간의 사고가 작동하는 방식을 연상시킨다는 점이다. 앤스로픽은 “AI 모델의 신경망은 인간의 뇌와 다르게 구축됐기에 학습 방식도 다르다. 그렇기에 J공간의 출현은 매우 놀라운 일”이라고 했다. 이는 AI가 인간이 만들어낸 결과물을 학습해 인간의 의도대로 발전하는 것을 뛰어넘어 스스로 인간과 비슷해지려 한다는 뜻도 된다.

▷인류는 자연에서 배운 생존법을 DNA에 새겨 지금까지 살아남았다. 현재까지도 생체모방을 통해 새로운 기술을 개발하고 있다. 우엉 가시를 본뜬 벨크로(‘찍찍이’ 테이프), 물총새의 뾰족한 부리에서 착안한 고속열차 디자인, 새들의 군집비행을 연구해 발전시킨 데이터통신 등이 그런 사례들이다. 그런데 이젠 AI가 인간을 학습하면서 J공간 같은 인간을 닮은 구조를 만들어내고 있다. 다윈이 살아 있었다면 이 역시도 ‘진화’라 부르지 않았을까.