[김태형의 혁신의기술] 〈58〉AI 에이전트 시대, 우리는 누구에게 질문할 것인가〈상〉

김태형 단국대 대학원 데이터지식서비스공학과 교수·정보융합기술·창업대학원장 “인공지능(AI)은 도구가 아니다. 행위자다.” 역사학자 유발 하라리가 저서 '넥서스'에 남긴 문장이다. AI가 스스로 정보를 처리하고, 그럼으로써 의사결정에서 인간을 대체한다는 뜻이다. 도구는 사람이 들어야 움직이고 행위자는 스스로 판단하고 실행한다. 월요일 아침, 한 중견 부품업체의 구매 담당자가 화면을 연다. 주말 사이 AI 에이전트가 원자재 발주를 스스로 넣었다. 수량도, 거래처도, 납기도 지난주와 다르다. 로그에는 실행 시각과 결과 값이 남아 있다. 그러나 그 사이의 '판단'은 비어 있다. 팀장이 묻는다. “왜 이렇게 했습니까?” 아무도 답하지 못한다. 지난해까지 기업의 질문은 'AI를 도입했느냐'였다. 올해 나온 숫자는 다른 곳을 가리킨다. 글로벌 컨설팅 기업인 딜로이트가 24개국 경영·기술 책임자 3235명을 조사해 올해 1월 내놓은 보고서에 따르면, 2027년까지 AI 에이전트를 적어도 보통 수준 이상으로 쓰게 될 것으로 본 응답이 74%였다. 그런데 같은 조사에서 에이전트를 통제할 거버넌스 모델이 성숙 단계에 이르렀다고 답한 기업은 21%에 그쳤다. 한 조사 내에서 두 숫자가 53%포인트 벌어졌다. 딜로이트는 이 간격에 '가드레일보다 빠르게 확장되는 에이전트'라는 이름을 붙였다. 맥킨지가 지난해 12월부터 올해 1월까지 500여개 조직에 던진 질문의 답도 다르지 않다. 에이전트를 온전히 확장하는 데 가장 큰 걸림돌로 보안과 위험을 꼽은 응답이 3분의 2에 가까웠다. 도입은 이미 결론이 났지만, 통제는 아직 시작도 못 했다. 결과는 이미 나타나고 있다. 스탠퍼드대가 올해 발표한 'AI 인덱스 2026'에 따르면, 지난해 보고된 AI 관련 사고는 362건이다. 전년 233건에서 한 해 만에 절반 넘게 늘었다. 가트너는 지난해 6월, 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 취소될 것으로 내다봤다. 기술이 모자라서가 아니다. 무언가 잘못됐을 때 되짚어볼 근거가 남지 않기 때문이다. 그런데 규제는 오히려 뒤로 물러섰다. 유럽연합(EU)은 지난달 규정을 고쳐, 고위험 AI 의무 시행을 이달 2일에서 2027년 12월로 미뤘다. 미국 콜로라도주는 지난 5월 AI법을 폐지하고, 적용 범위를 좁힌 법으로 다시 썼다. 앞서 달리던 나라들이 속도를 늦춘 이유는 규제가 필요 없어서가 아니다. 무엇을 어떻게 물을지 아직 정하지 ...