통제 벗어난 AI… 브레이크 밟는 AI 거물들[이창수의 영어&뉴스 따라잡기]

AI 개발 속도를 둘러싼 논쟁의 중심에 선 주요 인사들. 왼쪽부터 다리오 아모데이 앤스로픽 최고경영자(CEO), 데미스 허사비스 구글 딥마인드 공동 창업자, 일론 머스크 xAI CEO, 샘 올트먼 오픈AI CEO. AP 뉴시스 이창수 한국외대 통번역대학원 명예교수 이달 12일(현지 시간) 앤스로픽 최고경영자(CEO) 다리오 아모데이가 “최첨단 AI 개발 속도를 조절해야 한다(We Must Pace the Frontier)”는 제목의 글을 블로그에 발표하면서(put out an essay) 인공지능(AI) 개발 속도를 둘러싼 논쟁에 불이 붙었다. 미 언론들은 slow down(늦추다), slow the pace(속도를 늦추다), tap the brakes(브레이크를 살짝 밟다) 등의 표현을 써가며 AI 기업 CEO들이 개발 속도를 늦출 것을 요구하고 있다고 보도했다. 여기서 frontier(최전선)는 최첨단 AI 모델을 뜻한다. put out은 ‘발표하다, 내놓다’라는 뜻으로 뉴스에서 자주 쓰인다. 오픈AI CEO 샘 올트먼(Sam Altman)은 즉각 이 아이디어에 동의했다(signed on to the idea). sign on to는 어떤 아이디어나 정책을 공개적으로 ‘지지하다’라는 뜻이다. 일론 머스크와 구글 딥마인드 공동 창업자 데미스 허사비스도 AI의 위험성을 경고하는 목소리에 가세했다(joined the chorus of warnings about the power of AI). join the chorus는 찬성이나 비판 등 여론에 ‘목소리를 보태다’라는 뜻의 관용구다. 슈퍼지능(superintelligence)의 위험성에 대한 경고는 이전에도 있었다. 이번 경고를 촉발한(set off the latest alarm) 배경에는 두 가지 사건이 있다. 첫째는 올 7월 중순 발생한 이른바 ‘허깅페이스 사건(Hugging Face incident)’이다. 오픈AI가 1200개의 AI 에이전트를 훈련하는 과정에서 임무를 부여했는데, 에이전트들은 정해진 울타리를 탈출해 인터넷상에서 합류한 뒤 허깅페이스의 인프라를 해킹했다. AI 에이전트란 챗GPT 같은 챗봇과 달리 ‘인간의 감독 없이 긴 시간에 걸쳐 임무를 완성할 수 있는 더욱 자율적인 시스템(more autonomous systems that can complete tasks over an extended period of time without huma...