"'AI 도입했다' 자족하면 안 돼…'AI가 움직이는 회사'만 생존" [2026 한경 AX 서밋]

"인공지능(AI)을 사용하는 기업은 늘어났지만 AI 도입을 통해 실제 성과를 내는 기업들은 많지 않습니다. AI라는 최신 도구를 사용하더라도 일하는 방식이 그대로라면 크게 달라지는 게 없기 때문입니다. AI를 단순한 도구로 쓰는 게 아니라 '회사의 운영방식이 AI로 다시 설계되고 있는지'가 중요합니다."

기업들의 AI 경쟁 기준이 달라지고 있다는 얘기가 나왔다. 챗GPT·제미나이 등 범용 챗봇 도입, AI 코딩 도구 활용, 사내 챗봇 구축만으로는 충분하지 않다는 지적이다. AI를 업무에 붙이는 수준을 넘어 회사 운영 방식 자체를 AI 중심으로 다시 설계해야 한다는 문제의식이 커지고 있다.

한경미디어그룹은 7일 서울 여의도 FKI타워 그랜드볼룸에서 '2026 대한민국 AX 대상' 시상식과 함께 '2026 한경 AX 서밋'을 열고 국내 주요 기업들의 AX(AI 전환) 생존 전략을 논의했다. 이번 행사는 '상상을 현실로, AI가 바꾸는 비즈니스 혁신'을 주제로 열린다. 한경닷컴과 한국인공지능·소프트웨어산업협회(KOSA)가 주관하고 과학기술정보통신부·정보통신산업진흥원(NIPA)이 후원한다.

이번 행사에선 기업 성장·생존의 필수 요건이 된 AX를 통해 사업 혁신, 사용자경험 개선 사례를 공유한다. 또 AX 기술 트렌드, 산업 인프라 전략을 놓고 머리를 맞댄다.

기조강연에 나선 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 '생성형 AI 도입을 넘어, AI 네이티브 기업으로'를 주제로 AX 중심의 기업 운영 방안을 발표했다. 단순한 업무 도구를 도입하는 데 그치지 않고 기업 운영 구조를 AI에 맞게 바꾸는 것이 경쟁력을 좌우한다는 것이 노 성과리더의 설명이다.

노 성과리더는 'AI를 사용하고 있는지'와 'AI가 회사를 움직이고 있는지'의 두 가지 핵심 질문을 던졌다. 그러면서 "지금부터 벌어질 기업의 격차는 이 두 질문의 차이만큼 커질 것"이라고 했다. AI 사용 여부보다 AI가 실제 업무 방식과 의사결정 구조를 바꾸고 있는지가 중요하다는 뜻이다.

노 성과리더는 많은 기업이 AI를 도입했다고 주장하지만 현실은 아직 AX와 거리가 있다고 꼬집었다. 범용 챗봇을 개인적으로 쓰거나 AI 코딩 도구 라이선스를 도입하고 사내 챗봇 몇 개를 구축하는 단계에 머무는 기업이 많다는 것. 노 성과리더는 AX를 "AI를 도입하는 데서 끝나는 것이 아니라 일하는 방식 자체를 AI에 맞게 다시 설계하는 것"으로 정의했다.

성과 격차도 문제로 제시됐다. 맥킨지 자료를 보면 AI를 하나 이상의 업무에서 정기적으로 활용하는 기업은 88%에 이른다. 하지만 생성형 AI가 실제 손익에 영향을 준다고 답한 기업은 39%에 그쳤다. AI를 쓰는 기업은 많지만 성과를 내는 기업은 많지 않은 실정이다.

성과가 나지 않는 이유로는 네 가지가 꼽혔다. 일하는 방식이 그대로였고, 데이터가 준비되지 않은 데다, 성과를 숫자로 확인하지 않았으며, 조직 전체로 확산되지 못했다는 것이다. 노 성과리더는 이를 기술 문제가 아니라 '구조와 실행의 문제'로 규정했다.

그는 올해가 AX의 전환점이 되는 시기라고 강조했다. 모델 능력, 도구 사용, 비용 대비 성능이 처음으로 동시에 갖춰진 시기라는 이유에서다. 스탠퍼드 HAI의 'AI 인덱스 리포트 2025'를 인용해 GPT-3.5급 성능 기준으로 추론 단가가 2022년 11월부터 2024년 10월까지 280배 이상 하락했다고 설명했다. AI가 실제 업무를 맡길 만큼 똑똑해졌을 뿐 아니라 데이터·시스템·툴을 직접 호출할 수 있게 됐고 비용 장벽도 낮아졌다는 의미다.

그간 생성형 AI는 '어시스턴트'에 가까웠다는 분석도 내놨다. 검색·요약·번역·문서 작성처럼 사람이 묻고 AI가 답하는 구조였다는 것이다. 이에 따라 개인의 업무 속도는 빨라졌지만 사람이 시키지 않으면 아무것도 하지 못했다는 한계가 포착됐다.

다음 단계로는 에이전틱 AI가 제시됐다. 에이전트를 목표에 맞춰 스스로 계획하고 실행하는 '일하는 주체'로 봐야 한다는 설명이다. 노 성과리더는 AI가 질문에 답하는 데서 끝나지 않고 계획·실행·협업·검증을 맡는 구조를 준비해야 한다고 주문했다.

최종 도착지는 'AI 네이티브 기업'이다. AI 네이티브 기업은 사람이 설계한 업무에 AI를 도구처럼 붙이는 회사를 의미하지 않는다. 처음부터 AI를 중심으로 업무를 설계하고 사람은 방향·판단·감독을 맡는 곳이 AI 네이티브 기업인 것이다. 기존 기업의 기본값이 사람이고 AI가 선택적 보조 수단이었다면 AI 네이티브 기업에선 AI가 운영의 기본 단위다. 사람은 지휘자·감독자 역할을 맡는다.

한국 기업 입장에선 AX가 더 절박하다. 지난해 잠정 합계출산율은 0.8명, 출생과 사망은 각각 25만5000명, 36만3000명으로 인구 자연감소가 이어졌다. 다른 나라에선 AX가 '성장 옵션'일 수 있지만 한국에선 '생존 조건'이 된다. 노동력 감소분을 고려해 현재와 같은 생산 수준을 유지하려면 AX가 필수다.

노 성과리더는 "AX는 디지털 전환의 연장이 아니다"라고 선을 그었다. 일하는 방식과 결정하는 방식을 처음부터 다시 짜는 일이라고 거듭 강조했다. 그는 앞으로의 경쟁은 'AI를 가진 기업'과 'AI로 운영되는 기업' 사이에서 벌어질 것으로 예상된다고 부연했다.

김대영 한경닷컴 기자 kdy@hankyung.com