AI 위협, 기계 반란 아닌 보안 결함[내 생각은/이승훈]

미국 정부는 6월 앤스로픽의 최신 인공지능(AI) 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접근을 일시 제한했다. 페이블5의 안전장치가 우회될 가능성을 우려한 것이다. 즉, AI 스스로 안전망을 무력화한 ‘자의적 반란’보다 안전망의 허점을 이용해 사이버 공격 등에 악용될 수 있다는 ‘보안 결함’에 대한 우려다. 해외 수출 통제도 앤스로픽이 미 정부와 보안 강화에 합의한 뒤 해제됐다. 주목해야 할 문제는 AI 모델의 보안 결함을 방치할 때 생기는 통제력 상실이다. 결국 새 모델 공개 전 안전성을 충분히 검증하고, 취약점이 발견되면 즉시 접근을 제한해 보완하는 체계를 갖춰야 한다. AI의 위험에는 막연한 공포가 아니라 철저한 시스템 보안으로 대응해야 한다. ※ 동아일보는 독자투고를 받고 있습니다. 각 분야 현안에 대한 여러분의 의견을 이름, 소속, 주소, 휴대전화 번호 등 연락처와 함께 e메일(opinion@donga.com)이나 팩스(02-2020-1299)로 보내주십시오. 원고가 채택되신 분께는 소정의 원고료를 지급합니다. 내 생각은 > 구독 이런 구독물도 추천합니다! 오늘과 내일 횡설수설 함께 미래 라운지 이승훈 신한투자증권 AI거버넌스팀장·변호사© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스