담합을 학습하는 AI…알고리즘 시대의 새로운 경쟁 규칙은 [이인석의 공정세상]

스마트폰 알람 소리에 눈을 뜨는 순간부터 인공지능(AI)은 우리의 일상을 빈틈없이 파고든다. 맞춤형 뉴스 피드, 취향 저격 음악 추천, 최적 경로 안내는 기본이다. 사무실에서는 AI가 밤새 쌓인 메일을 정리해주고, 회의록을 요약하며, 복잡한 데이터를 분석해 업무 효율성을 극대화한다.

과거에는 상상하기 어려웠던 수준의 개인화와 최적화가 AI를 통해 현실이 되면서 우리는 그 편리함과 강력한 성능에 빠르게 익숙해지고 있다. AI는 더 이상 미래 기술이 아닌, 우리의 현재를 구성하는 핵심 동력으로 자리 잡았다.

AI의 능력은 특히 기업 활동에서 빛을 발한다. 실시간 시장 수요 예측, 동적 가격 책정(Dynamic Pricing), 공급망 최적화, 초개인화 마케팅 등 AI는 기업의 의사결정을 돕고 효율성을 비약적으로 끌어올리는 '만능 조수' 역할을 톡톡히 해낸다. 경쟁사보다 한발 앞서 시장 변화를 읽고, 더 정교하게 고객에게 다가가며, 더 효율적으로 자원을 배분하는 능력은 이제 기업 경쟁력의 핵심 요소가 되었다.

만약, 이 똑똑한 만능 조수가 효율성을 극대화하는 과정에서 경쟁을 회피하는 법을 스스로 터득한다면 어떨까? 시장의 안정을 위해, 혹은 예측 가능한 수익을 위해 경쟁사와의 치열한 싸움 대신 암묵적인 '평화'를 선택하도록 학습한다면? 인간의 명시적인 지시나 합의 없이도, AI 알고리즘들이 서로의 행동을 학습하고 예측하며 결과적으로 담합과 같은 상태에 이르게 되는 것. 이것이 바로 AI 시대가 던지는 또 다른 불편한 질문, '알고리즘 담합(Algorithmic Collusion)'의 가능성이다.

말 없는 담합, AI는 어떻게 공모하는가?

전통적인 담합, 즉 카르텔(Cartel)은 경쟁 사업자들이 은밀히 만나 가격이나 생산량, 시장 분할 등에 대해 명시적 또는 묵시적으로 '합의'하는 것을 전제로 한다. 그러나 알고리즘 담합은 이러한 인간의 직접적인 공모 과정 없이도 발생할 수 있다는 점에서 훨씬 더 교묘하고 탐지하기 어렵다.

몇 가지 가능한 시나리오를 생각해 볼 수 있다. 첫째, 알고리즘 공유(Shared Algorithms)를 통한 담합이다. 여러 경쟁사가 동일한 제삼자로부터 가격 책정 소프트웨어나 AI 서비스를 받는 경우다. 이 알고리즘이 유사한 가격 정책을 제안하거나 실행한다면, 사업자들은 의도치 않게 동일한 방향으로 움직이며 담합과 유사한 결과를 낳을 수 있다.

둘째, '허브 앤 스포크(Hub-and-Spoke)' 방식이다. 각 사업자(Spoke)가 특정 플랫폼(Hub)에 가격 등 민감한 정보를 제공하고, 플랫폼의 AI가 이 정보를 취합·분석하여 다시 각 사업자에게 직간접적인 신호나 권고를 전달하는 형태다. 플랫폼 AI가 경쟁 조정을 유도하는 방향으로 작동한다면, 사업자 간 직접 소통 없이도 플랫폼을 매개로 한 담합이 이루어질 수 있다.

셋째는 가장 우려스럽고 탐지가 어려운 방식이다. 바로 '자율 학습(Parallel Learning)'을 통한 담합 가능성이다. 독립적으로 운영되는 회사별 AI라도 서로의 가격 변동이나 시장 반응을 지속해서 학습하고 예측한다.

이 과정에서 AI들이 경쟁을 심화하기보다는 상대방의 가격 인상에 동조하거나 특정 가격에서 암묵적으로 안정화하는 것이 장기적으로 유리하다는 '균형점'을 찾아낼 수 있다는 것이다. 체스 AI가 수많은 대국을 통해 최적의 수를 학습하듯, 시장 경쟁 AI도 상호작용을 통해 '경쟁 회피'라는 안정적인 전략을 학습한다는 시나리오다.

'합의' 없는 담합, 경쟁법의 딜레마

이런 알고리즘 담합의 가능성은 현행 경쟁법 체계에 심각한 도전 과제를 던진다. 국내 경쟁법은 담합을 규제하기 위해 사업자 간 의사의 합치, 즉 '합의(Agreement)'를 요구한다. 그러나 AI가 자율적으로 학습하여 경쟁을 제한하는 결과를 초래했다면, 과연 '합의'가 있다고 할 수 있는가? 합의가 있다고 한다면 누구의 의사를 대상으로 하는가? AI 자체의 의사? 아니면 AI를 설계하거나 사용한 기업의 의도?

설령 특정 AI가 담합과 유사한 결과를 야기했다고 의심이 되더라도 그 원인을 밝히는 건 '블랙박스' 문제로 인해 지극히 어렵다. AI의 복잡한 의사결정 과정을 외부에서 명확히 이해하거나 설명하기는 쉽지 않다.

이는 AI가 내놓은 결과가 의도적인 설계의 결과물인지, 자율 학습의 우연한 산물인지, 아니면 단순히 시장 상황에 대한 합리적인 반응(소위 '의식적 병행행위')인지 구분하기가 쉽지 않기 때문이다. 기업 입장에서는 "우리는 단지 시장 상황에 가장 효율적으로 반응하도록 AI를 설계했을 뿐, 담합을 의도한 바 없다"고 항변할 여지가 충분하다.

결국, 알고리즘 담합은 '합의'라는 전통적인 법적 요건과 '의도' 입증의 어려움, 그리고 AI의 기술적 불투명성이라는 삼중 장벽에 부딪혀 현행 경쟁법의 사각지대에 놓일 위험이 크다. 만약 이러한 형태의 담합이 광범위하게 퍼져나가는데도 규제 당국이 속수무책이라면, 그 피해는 고스란히 소비자에게 전가될 수밖에 없다.

미래의 경쟁 규칙을 준비하려면

그렇다면 우리는 이 보이지 않는 위협에 어떻게 대응해야 할까? 명백한 해답을 찾기는 어렵지만, 몇 가지 방향성을 가지고 사회적 논의와 제도적 준비를 시작해야 할 시점이다.

첫째, 시장 감시 및 분석 역량 강화가 필수적이다. 경쟁 당국은 의심스러운 가격 패턴이나 시장 움직임을 조기에 포착하고 분석할 수 있는 역량을 키워야 한다. 전통적인 증거 수집 방식에 더해, 정교한 데이터 분석을 통해 알고리즘 담합의 징후를 탐지하는 노력이 필요하다. 그리고 이를 위해 경쟁 당국 역시 AI와 데이터 분석 기술을 적극적으로 활용할 필요가 있다.

둘째, 알고리즘의 투명성과 설명 가능성 요구를 강화하는 방안을 검토해야 한다. 물론 기업의 영업 비밀 보호 필요성과의 균형이 중요하지만, 적어도 시장경쟁에 중대한 영향을 미치는 AI 알고리즘에 대해서는 그 작동 방식과 주요 변수 등에 대한 설명 책임을 부과하거나, 필요한 경우 규제당국이 접근하여 조사할 수 있는 제도적 기반을 마련하는 논의가 필요하다.

셋째, 경쟁법 이론 및 집행 기준의 현대화가 요구된다. '합의' 요건을 완화하거나, AI의 특수성을 고려한 새로운 법리(예: 알고리즘의 예측 가능성이나 조율 가능성에 기반한 책임론)를 개발하는 등 보다 유연하고 실효성 있는 접근법을 모색해야 한다. 또한, 특정 시장에서 과도한 집중을 막거나, 담합 위험이 높은 유형의 알고리즘 사용을 제한하는 등 사전적 규제 방안에 대한 논의도 필요할 수 있다.

진화하는 AI, 진화해야 하는 법

AI는 이미 우리 사회에 엄청난 혁신과 편익을 가져다주고 있다. 그러나 그 강력한 힘이 '보이지 않는 담합'이라는 방식으로 오용되거나 예기치 못한 부작용을 낳을 위험 또한 내포하고 있다. 이제는 AI의 발전에 발맞춰 경쟁의 규칙 또한 그 진화를 준비해야 할 때다.

이인석 법무법인 YK 대표변호사 I 서울대 공법학과를 졸업하고 동 대학원 석사과정을 마쳤다. 제37회 사법시험에 합격해 제27기 사법연수원을 수료했다. 서울남부지법, 서울중앙지법, 서울고법 부장판사, 대전고법 부장판사 등 23년간 법원에서 경력을 쌓았다. 법원행정처 형사심의관, 공정거래 판결작성실무 집필위원 등도 역임했다. 2021년 법무법인 광장에서 공정거래그룹장을 맡아 공정거래를 비롯한 각종 기업 관련 송무 전문가로 활동해 왔다. 현재 법무법인 YK의 대표변호사이자 공정거래그룹장으로 활약 중이다.