허사비스 “최첨단 AI 검증할 국제기구 필요”

37 minutes ago 1

“인간의 인지능력 갖춘 AGI 임박
미토스 해킹은 일종의 경고사격”
내주 美당국자들과 기구 논의 예정
올트먼-머스크도 “좋은 제안” 호응

“인간 두뇌의 모든 인지 능력을 갖춘 범용인공지능(AGI)은 몇 년 안에 현실화될 것이다. 이 기술이 미칠 영향은 전례가 없으며, 산업혁명보다 10배 더 크고 빠르게 진행될 수 있다.”

‘알파고의 아버지’ 데미스 허사비스 구글 딥마인드 최고경영자(CEO·사진)는 14일(현지 시간) 자신의 X(옛 트위터)에 AGI가 가져올 거대한 변화와 위험에 대비해야 한다고 경고했다. 그는 최첨단 인공지능(AI) 모델을 출시 전에 검증할 국제기구 설립을 주장하며 미국 워싱턴에서 정책 당국자 설득에도 나설 예정이다.

17일 블룸버그통신은 허사비스 CEO가 다음 주 미국 정책당국자들과 만나 AI 모델 사전검증 기구 설립안을 논의할 예정이라고 보도했다. AI 기업과 각국 정부가 모델 공개 여부를 사안별로 협의하는 현 체계만으로는 고도화된 AI의 위협에 대응하기 어렵다는 판단에서 허사비스는 새로운 ‘기구’ 도입 필요성을 제시하고 있다. 허사비스가 제안한 기구는 미국 증권업계 자율규제 기구인 금융산업규제국(FINRA)처럼 기업이 운영비를 부담하되 정부의 감독을 받는 방식이다. AI 기업들은 새 모델을 공개하기 최대 30일 전 기구에 자발적으로 제출하고, 독립된 기술 전문가들은 사이버 공격이나 생물안보 위협, 사람을 속이는 기만 능력 등이 있는지를 시험한다. 평가 체계가 효과적이라는 점이 입증되면 검사를 통과한 모델만 미국 시장에 내놓을 수 있도록 제도화한다는 구상이다.

이러한 논의의 배경에는 최근 지나치게 똑똑해진 AI가 새로운 리스크를 낳고 있다는 위기감이 자리한다. 허사비스 CEO는 앤스로픽의 최신 모델 ‘미토스’가 보여준 강력한 해킹 능력을 ‘경고 사격’이라고 평가하며, 지금처럼 문제가 생길 때마다 정부와 기업이 개별 협상하는 방식으로는 앞으로의 위험을 막기 어렵다고 강조했다. 그는 연말 전 기구 출범을 목표로 하고 있다.

허사비스 CEO의 주장에 대해 샘 올트먼 오픈AI CEO는 “사려 깊은 제안”이라고 평가했고, 일론 머스크 테슬라 CEO도 “논의를 위한 좋은 출발점”이라며 호응했다. 앞서 허사비스 CEO는 4월 방한해 이재명 대통령을 만난 자리에서도 “AGI 시대에는 AI를 통제할 안전장치가 반드시 필요하다”고 강조했다.

전혜진 기자 sunrise@donga.com