“AI 위험, 정치·외교에만 맡길건가”..기술낙관주의 VC 대표의 해법

제13회 블루포인트 데모데이 '기술낙관주의' 개최“AI는 핵·기후와 달라”…언어의 한계·지능 폭발 위험 짚어조선·봉제·소재 현장 투입 AI부터 가드레일 기업까지 무대에 등록 2026-10-16 오전 12:02:01 수정 2026-10-16 오전 12:02:01 가 가 [이데일리 마켓in 송승현 기자] 이용관 블루포인트파트너스 대표가 AI가 가져올 위험을 국제 합의와 규제에만 맡겨둘 수 없다며, 기술이 남긴 문제를 기술로 풀겠다는 '기술낙관주의'를 내세웠다.블루포인트는 15일 서울 송파구 소피텔 앰배서더 서울에서 '제13회 블루포인트 데모데이'를 열었다. 올해 주제는 '기술낙관주의'다. 벤처캐피탈(VC) 등 업계 관계자 300여명이 참석했다. 이번 행사는 블루포인트가 과학기술정보통신부의 '기술사업화 종합전문회사'로서 여는 첫 데모데이다.블루포인트는 15일 서울 송파구 소피텔 앰배서더 서울에서 '제13회 블루포인트 데모데이'를 열었다. 행사 첫 순서로 이용관 블루포인트 대표가 키노트를 하고 있다. (사진=송승현 기자)AI 발달이 부른 기술의 양면…낙관주의냐 비관주의냐키노트에 나선 이 대표는 인류를 위협하는 기술로 핵무기와 기후위기, AI를 나란히 놓고 비교했다. 이 대표는 "핵은 오판했을 때 굉장히 큰 충격을 주지만 국가 간에 강한 통제가 작동하고 있고, 기후는 위험하지만 느리게 오고 있다"며 “AI는 너무 다르다. 급작스럽게 위협을 줄 수 있는데 제대로 통제될지 논의조차 되지 않고 합의도 되지 않고 있다”고 말했다. 이 대표는 AI의 위험을 두 갈래로 나눠 설명했다. 첫째는 언어다. 지금의 AI는 거대언어모델(LLM)에 기반해 있어 개념을 말로 옮기는 과정의 왜곡이 그대로 리스크가 된다는 것이다. 그는 아이작 아시모프가 1942년 단편소설 '런어라운드'에서 제시한 로봇공학 3원칙을 예로 들며 “'인간에게 해를 가하지 마라'라는 개념 정의를 언어에 기반해 정확하게 하는 건 사실상 불가능하다”고 했다.둘째는 AI가 스스로 성능을 개선하는 '지능 폭발'이다. 이 대표는 전 오픈AI 안전 연구원 등이 참여한 AI퓨처스프로젝트가 지난 7월 공개한 보고서 ‘AI 2040’을 인용했다. 보고서는 미국이 중국과 전속력으로 개발 경쟁을 벌이면 2031년 지능 폭발이 오고 인간의 통제력이 약해진다고 봤다. 국제 합의로 속도를 조절하는 시나리오에서는 그 시점이 2039년으로 8년가량 늦춰진다. 이 대표는 "최근 정치나 국제 외교 관...