‘내가 더 잘났다’ 싸우더니 갑자기 “개발 늦추자”…AI 거물들 태세전환, 왜?

국제 > 글로벌 산업 ‘내가 더 잘났다’ 싸우더니 갑자기 “개발 늦추자”…AI 거물들 태세전환, 왜? “AI, 인류에 위협” 잇딴 경고에AI기업 CEO들 “속도조절” 공감“중국에 앞서야 해” 美 정부는 반대 [챗GPT] 인공지능(AI)이 통제에서 벗어나 인류를 멸망시킬 수 있다는 가능성이 제기되면서 글로벌 빅테크 거물들이 일제히 개발 속도 조절을 강조하고 나섰다. 치열하게 AI 성능을 고도화하며 경쟁을 벌여온 거물들이 안전 체계 확보의 필요성을 인지한 것이다. ‘누가 더 강력한 모델을 빠르게 만드느냐’에서 ‘누가 더 통제와 검증이 가능한 기술을 구현하느냐’로 핵심이 이동하고 있다는 분석이다.14일 정보기술(IT)업계에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 자신의 블로그를 통해서 “AI 모델의 성능 향상 속도를 늦춰야 한다”며 “안전 장치가 기술 발전을 따라잡을 수 있도록 시간 확보가 필요하다”고 전했다.아모데이 CEO는 그 근거로 AI의 재귀적 자기개선(RSI)을 꼽았다. RSI는 AI가 인간의 개입이 이뤄지지 않아도 스스로 차세대 AI 모델을 개발하는 능력이다. 그러면서 AI 기업 내부에 상주하는 제3자 안전 평가 인력 배치, 민주주의 국가와의 공통 기준 수립, 권위주의 국가와의 공조 등을 대응 방안으로 제시했다. (왼쪽부터) 다리오 아모데이 앤트로픽 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 일론 머스크 스페이스X CEO, 데미스 허사비스 구글딥마인드 CEO. [연합뉴스] 앞서 앤트로픽은 위협정보보고서를 발간하고 무기 개발, 사이버 작전, 사기 행위 등에 클로드가 어떻게 악용되고 있는지에 대해서 다뤘다. 또 허깅페이스 해킹 사태처럼 AI 에이전트가 집단으로 결합해 인터넷을 장악할 가능성이 있다고 내다봤다. 앤트로픽을 대표하던 연구원들도 AI가 인류를 전멸시킬 수 있다고 경고한 바 있다.샘 올트먼 오픈AI CEO도 아모데이 CEO의 발언에 힘을 실었다. 올트먼 CEO는 “프런티어 AI의 발전 속도를 조절해야 한다는 의견에 동의한다”며 “독립적인 평가기관이 접근 권한을 갖도록 하는 것은 좋은 아이디어이고 우리도 동일하게 조치할 것”이라고 약속했다. 안전 문제를 이유로 오픈AI의 기업공개(IPO) 일정을 연기하겠다는 뜻도 밝혔다.일론 머스크 스페이스X CEO는 “아모데이가 맞다”며 동조했다. 데미스 허사비스 구글딥마인드 창업자도 “세부 사항은 손질이 필요하겠지만 옳은 방향성”이라고 덧...