“AI가 당신을 범죄자로 분류한다면”…한국엔 ‘금지AI’ 규제 아직?

정치 > 국회·정당 “AI가 당신을 범죄자로 분류한다면”…한국엔 ‘금지AI’ 규제 아직? EU는 이미 금지AI 시행 중한국은 아직 ‘사후 규제’ 머물러시민단체 “위험 AI 원천 차단해야” [기사의 이해를 돕기위한 챗GPT 생성 이미지] 인공지능(AI)이 사람의 감정을 읽고, 일상생활을 점수화하며, 범죄를 저지를 가능성까지 예측하는 시대지만 인간의 존엄성과 기본권을 침해할 수 있는 AI 기술만큼은 개발 단계부터 차단해야 한다는 목소리가 나왔다.한국의 인공지능기본법에는 이른바 ‘금지AI’ 규정이 없는 만큼 법 개정을 통해 최소한의 안전장치를 마련해야 한다는 주장이다.7일 정치권에 따르면 참여연대는 최근 국회에서 남인순 국회부의장과 김남근·김선민·손솔·용혜인·한창민 의원 등과 공동으로 ‘금지AI 규제 마련을 위한 인공지능기본법 개정 토론회’를 개최했다. 이날 토론회에서는 인간의 존엄과 생명, 민주주의를 위협하는 AI를 어떤 기준으로 금지할 것인지 논의했다.발제를 맡은 유승익 참여연대 AI 태스크포스(TF) 위원은 현행 인공지능기본법의 한계로 사전적 금지 규범의 부재를 꼽았다. AI 시스템은 작동 원리를 투명하게 파악하기 어렵고, 피해가 발생하면 확산 속도가 빠른 데다 침해된 기본권을 원상회복하기도 쉽지 않다는 것이다.현행법은 고영향 AI 등에 대해 위험관리와 설명 의무 등 절차적·사후적 관리에 무게를 두고 있다. 그러나 사회적으로 용인할 수 없는 수준의 위험을 가진 AI는 시장에 출시된 뒤 관리할 것이 아니라 설계와 개발, 훈련 단계부터 차단해야 한다는 게 유 위원의 주장이다.유 위원이 제안한 금지 대상은 ▲연령이나 장애 등 인간의 취약성을 악용하는 AI ▲잠재의식을 조작하는 AI ▲대규모 사회적 평점(Social Scoring) AI ▲동의 없이 안면정보를 수집해 데이터베이스를 만드는 AI ▲공공장소 실시간 원격 생체식별 AI ▲직장·학교 내 감정인식 AI ▲생체정보를 활용해 민감정보를 추론하는 AI ▲자율살상무기 AI ▲프로파일링 기반 예측치안 AI ▲그 밖에 인간 존엄성을 침해하는 AI 등 크게 10개 영역이다. AI 규제 [REUTERS=연합뉴스] 가령 ‘사회적 평점 AI’는 개인의 일상 행적과 특성을 종합해 점수를 매기고 이를 취업이나 주거, 금융, 공공서비스 이용 등에 반영할 수 있다. 특정 영역에서 수집한 정보가 전혀 다른 영역의 불이익으로 이어질 수 있다는 점에서 차별을 구조화할 우려가 있다는 지...