텐센트 AI 책임자 경고 “AI가 머지않아 생물학 완전 장악”

국제 > 글로벌 경제 텐센트 AI 책임자 경고 “AI가 머지않아 생물학 완전 장악” 생물학 무기·새 팬데믹 등새로운 안전 위험 발생 우려 텐센트 본사에 있는 텐센트 로고. [로이터연합뉴스] 인공지능(AI)이 머지않아 생물학 분야를 통달해 인류에게 이점과 더불어 심각한 위험을 안겨줄 것이라는 경고가 나왔다. AI가 신약 및 새로운 치료법 발견을 가속할 수 있지만, 생물학 무기 제조나 새로운 팬데믹을 촉발할 위험도 있다는 것이다.8일(현지시간) 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 텐센트 홀딩스의 수석 AI 과학자이자 전 오픈AI 연구원 빈스 야오 슌위는 최근 한 과학 심포지엄에서 “AI의 사이버 능력과 생물학적 능력이 실제로 피해를 줄 수 있는 임계점에 도달할 것”이라고 말했다. 그는 이어 “모든 중국 기업이나 오픈소스 AI 기업들은 이러한 보안 및 안전 문제에 대해 매우 책임감 있고 진지한 태도를 가져야 한다”고 강조했다.이 같은 경고는 텐센트가 과학 연구를 자동화하는 AI의 잠재력을 탐구하는 시점에 나왔다. 텐센트는 최근 플래그십 모델인 ‘Hy4’를 출시했다. AI 벤치마킹 기관인 아티피셜 어낼리시스에 따르면 이 모델은 중국 내에서 개발된 모델 중 두 번째로 우수한 성능을 기록했다.야오 과학자는 복잡한 실험을 처음부터 끝까지 수행하기 위해 AI를 활용하는 ‘자율 과학 연구소’ 운영 계획을 설명했다. 그는 “모든 기술적 변화는 시간문제일 뿐 결국 해결될 수 있다고 생각한다”며 “더 큰 과제는 사회적, 조직적 차원의 문제”라고 했다.생물학은 글로벌 사이버 보안에 큰 파장을 일으킨 코딩에 이어 AI의 다음 주요 개척지가 될 것으로 전문가들은 보고 있다.텐센트는 Hy4의 사이버 방어 능력은 유지하되 사이버 해킹 능력은 제거했다고 밝혔다. 또한 기초적인 생물학 지식을 실행 가능한 프로토콜로 전환하는 역량이 아직 부족하기 때문에 Hy4의 생물학적 능력은 고위험 임계치에 훨씬 못 미치는 수준이라고 덧붙였다.그럼에도 불구하고 야오 과학자는 중국과 미국 모델 간의 격차가 크지 않다는 점을 언급하며 업계 전반에 주의를 촉구했다. 그는 AI의 생물학적 능력이 사이버 능력보다 관리하기 더 복잡할 수 있다고 경고했다.핵심 쟁점 중 하나는 중국의 오픈소스 접근 방식이 오픈AI나 앤스로픽처럼 폐쇄형 접근 방식보다 AI 보안 측면에서 더 나은지 여부다. 앤스로픽 등 미국 기업들은 중대한 사회적 피해를 방지하기 위해 최첨단 ...