"인간 위협 않는 AI 개발하겠다"

인공지능(AI) 대부로 불리는 요슈아 벤지오 캐나다 몬트리올대 컴퓨터공학과 교수(사진)가 비영리 AI 기업 ‘로제로(Lawzero)’를 설립했다. 인간을 위협하지 않는 AI 모델을 개발하기 위해서다.

벤지오 교수는 3일(현지시간) 파이낸셜타임스(FT) 인터뷰에서 “로제로는 안전한 AI 시스템 구축에 집중할 계획”이라며 이같이 밝혔다. 얀 탈린 스카이프 공동창업자, 에릭 슈밋 전 구글 최고경영자(CEO), 자선재단 오픈필런스로피 등에서 기부금 3000만달러(약 412억원)를 모았다. 로제로는 공상과학(SF) 작가 아이작 아지모프가 세운 로봇 3원칙 중 ‘로봇이 인간에게 해를 입혀서는 안 된다’는 제0원칙에서 따 왔다.

벤지오 교수는 로제로를 설립한 이유에 대해 “지난 반년간 주요 AI 모델이 기만, 사기, 거짓말, 자기 보호 등 위험한 역량을 개발했기 때문”이라고 설명했다. 최근 앤스로픽은 자사 AI 모델 클로드오퍼스4가 자신을 다른 AI 모델로 교체하려는 사용자를 84% 확률로 협박하려 했다는 보고서를 발표했다. 오픈AI o3 모델은 사용자가 프로그램 작동 중단을 지시했지만 종료를 피하기 위해 스스로 코드를 수정한 것이 알려져 논란이 됐다.

김인엽 기자 inside@hankyung.com