앤스로픽 “사람 감독 없이 AI가 AI 만들면 안돼”

“통제 벗어날 위험” 안전정책 강화 美 SEC에 수정 상장신고서 제출 미국 인공지능(AI) 기업 앤스로픽이 AI가 사람의 감독 없이 더 똑똑한 AI를 마음대로 만들지 못하도록 막는 방안을 검토하고 있다. ‘AI가 AI를 개발하는 능력’이 빠르게 발전하면서 사람이 이를 통제하지 못할 것이란 우려가 커졌기 때문이다. 2일(현지 시간) 로이터통신에 따르면 앤스로픽은 이날 미국 증권거래위원회(SEC)에 이 같은 내용을 담은 수정 상장신고서를 제출했다. 앤스로픽은 지난달 26일 처음 제출한 신고서에서 AI가 더 강력한 AI를 개발할 때 발생할 수 있는 위험을 경고한 데 이어, 이번에는 안전정책 개정을 검토하겠다는 내용을 추가했다. 앤스로픽은 수정 신고서에서 “사람이 제대로 감독하지 못하는 상태에서 AI에 첨단 모델 개발을 전적으로 맡기는 것은 안전하지 않다고 본다”고 밝혔다. 실제로 AI가 차세대 AI 개발에 참여하는 비중은 커지고 있다. 앤스로픽의 자체 조사 결과 올 8월 AI 연구개발 업무 중 26%는 AI가 사람의 감독 아래 대부분을 수행한 것으로 나타났다. 이에 따라 앤스로픽은 AI 연구개발 과정에서 중요한 결정을 내릴 때 사람의 검토와 승인을 의무화하는 방안을 검토하고 있다. 수정된 신고서에는 AI 개발에 들어가는 막대한 비용 부담도 드러났다. 앤스로픽이 데이터센터와 AI 개발에 필요한 컴퓨터 자원 등을 확보하기 위해 앞으로 지급해야 할 계약상 금액은 약 8954억 달러(약 1200조 원)에 달한다. 이 중 절반가량인 4475억 달러는 2030년 말까지 지급할 예정이다. 일부 계약은 실제 사용량과 관계없이 일정 금액을 의무적으로 내야 해 매출이 기대에 못 미치면 부담이 커질 수 있다. 앤스로픽은 올 3분기(7∼9월) 매출 169억5600만 달러, 영업손실 5억6700만 달러를 기록했다. © dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스