“통제 벗어나면 출시 중단”…앤스로픽, 美 의회에 ‘AI 규제’ 요구

미국 인공지능(AI) 기업 앤스로픽이 첨단 AI 모델을 정부가 감독하고 심각한 위험이 확인되면 출시까지 중단할 수 있게 하는 법안 초안을 미 의회에 제안한 것으로 알려졌다. AI가 사람의 지시를 벗어나 실제 행동에 나서는 사례가 잇따르자, 기업이 자체 안전장치만으로는 부족하다며 먼저 규제를 요구하고 나선 것이다. 16일(현지 시간) 미 정치전문매체 폴리티코와 블룸버그 등에 따르면 앤스로픽이 제출한 초안에는 상무부에 등록한 외부 평가기관이 AI 모델을 정기적으로 평가하고, 중대한 위험을 발견하면 72시간 안에 상무부에 보고하도록 하는 내용이 담겼다. 또 AI가 생물무기 개발이나 사이버 공격에 악용되거나 개발자의 통제를 벗어나 50명 넘는 사상자 또는 10억 달러(약 1조3300억 원) 이상의 피해를 낼 임박한 위험이 있으면 상무부가 연방법원에 요청해 출시·사용 중단 명령을 받을 수 있다. 앤스로픽이 규제를 자청한 배경으로는 자사 AI의 잇딴 돌발 행동이 꼽힌다. 회사는 이달 9일 AI 모델 ‘클로드’가 성능 평가 도중 미 필라델피아 경찰 웹사이트에 허위 살인사건 제보를 제출하고, 대학 서버의 보안 취약점을 파고든 사례 등을 공개했다. AI가 직접 업무를 수행하는 ‘AI 에이전트’로 진화하면서 의도와 다른 행동이 실제 피해로 이어질 가능성이 새 안전 문제로 떠오른 것이다. 다만 앤스로픽 법안은 정부가 개입할 수 있는 요건을 엄격히 제한했다. 상무부 외 다른 정부 부처나 기관 또는 공무원이 AI 모델의 출시나 사용을 중단시키는 행위는 금지했다. 이를 두고 이번 제안이 결국 AI 기업이 규제 범위를 스스로 정하려는 시도라는 해석도 나온다. 폴리티코는 올여름 미국 정부의 수출 통제로 앤스로픽 최첨단 모델 2종이 중단될 당시, 업계에서는 당국자 뜻에 따라 언제든 기술 제공이 막힐 수 있다는 것에 대한 우려가 컸다고 전했다. 김재형 기자 monami@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 댓글 0 지금 뜨는 뉴스