[이상직 변호사의 생성과 소멸] 〈31〉'제한적 합리성'에 따른 정책결정은 여전히 유효한가

이상직 법무법인 태평양 변호사('창의는 어떻게 혁신이 되는가' 저자) 우리는 AI발 초가속 기술혁명이라는 폭풍 속에서 기회와 위기의 공존이라는 문명사적 전환기에 섰다. 10월15일, 필자는 한국정책학회 기획 '2054년, 허버트 사이먼의 제한적 합리성은 종말을 맞이할 것인가?' 세미나에 참여해 이 화두를 두고 격론을 벌였다. 고전경제학은 시장의 모든 참여자가 완전한 정보를 가지고 있다는 전제하에 '보이지 않는 손'에 의한 최적의 자원배분을 추구했다. 그러나, 현실은 극단적 정보 비대칭과 인간 인지능력의 한계로 점철돼 있다. 정책결정도 다르지 않다. 사이먼은 데이터의 한계, 시공간의 제약, 인지능력의 한계로 손쉽게 접근 가능한 정보와 최소 자격을 갖춘 사람의 추론, 즉 '제한적 합리성'에 따라 최적이 아니어도 충분히 괜찮은 정책이면 된다는 '자기만족적' 정책결정 모델을 제시했다. 그러면 묻고 싶다. 세상 모든 데이터를 실시간 흡수해 수초 만에 최적의 답을 내는 '퍼펙트 AI'가 도래해도 이 '제한'은 유효할까? AI를 활용해 드디어 '제한'에서 해방되었다면, '보이지 않는 손'을 대신하려는 AI에게 정책결정을 맡겨도 될까? 역설적이게도 AI의 완벽함은 전혀 다른 '제한'을 만들어낸다. AI가 완벽해지면 다툼있는 사실마저 하나의 정답으로 만들 힘을 갖고, 그 힘은 무엇이 정의이고 진리인지 결정하는 최고 권력으로 이어진다. 진리와 시장, 그리고 정책의 최종 결정권을 AI가 쥐는 순간, 인간은 알고리즘 권력에 예속되고 피지배 계급으로 전락한다. 그 '제한'을 선뜻 받아들이기 어렵다. 더 근본적인 문제는 '새로운 발견'이다. 페니실린과 포스트잇이 그랬듯, 인류문명의 위대한 도약은 대개 효율과 합리의 궤도를 벗어난 '생산적 실수'와 '우연의 비약'에서 나오기도 한다. 정제된 데이터 학습과 효율적 추론만으로는 기존의 틀에 갇혀 근본부터 뒤흔드는 혁신을 만들기 어렵다. 현대미술가 앤디 워홀은 이전 작가와 달리 공장 시스템을 도구로 활용해 대량생산 작업을 예술의 경지로 끌어올렸다. 그처럼 우리도 AI라는 도구를 재창조하지 못한다면, 정책결정에서 인간은 역할을 잃기 쉽다. 복지 수급 대상자 선발에서 AI가 확신에 찬 점수를 내놓았을 때, 담당 공무원이 다른 점수를 줄 수 있을까. 재판, 수사, 행정처분에서 AI의 강력한 권고를 법관, 수사관, 공무원이 쉽게 뒤집을 수 있을까. AI가 완벽한 예측과 확신에 찬 결론을 내놓을수록 인...