[신문과 놀자!/피플 in 뉴스]“AI 통제 장치 필요” AI 대부 힌턴 교수의 경고

인간이 만든 인공지능(AI)이 어느 날 인간보다 똑똑해지고, 더 뛰어난 AI를 스스로 만들어 낸다면 어떻게 될까요. AI의 능력이 인간의 예측 범위를 벗어나면 그 행동을 이해하고 통제하기 어려워질 수도 있습니다. 이런 가능성을 경고해 온 과학자가 있습니다. 바로 ‘AI의 대부’로 불리는 제프리 힌턴 캐나다 토론토대 명예교수(사진)입니다. 1947년 영국 런던에서 태어난 힌턴 교수는 1970년 케임브리지대에서 실험심리학을 공부했고, 1978년 에든버러대에서 AI 연구로 박사 학위를 받았습니다. 그의 대표적인 업적은 인공신경망과 딥러닝의 발전에 기여한 것입니다. 인공신경망은 사람의 뇌에서 신경세포가 정보를 주고받는 방식에서 아이디어를 얻은 컴퓨터 학습 기술입니다. 딥러닝은 이러한 신경망을 여러 층으로 구성해 복잡한 정보를 학습하게 하는 방법입니다. 힌턴은 동료 연구자들과 함께 인공신경망의 학습 방법을 발전시키고 널리 알렸습니다. 그의 연구는 오늘날 이미지·음성 인식과 생성형 AI로 이어지는 기술적 토대 가운데 하나가 됐습니다. 힌턴은 존 홉필드 교수와 함께 인공신경망을 활용한 머신러닝 연구의 기초를 닦은 공로로 2024년 노벨 물리학상을 받았습니다. 지난달 28일 힌턴 교수는 주요 AI 기업의 연구자들을 포함한 세계적인 연구진과 함께 영국 케임브리지대에서 공동 논문을 발표했습니다. 이 논문은 AI가 AI 연구개발(R&D)까지 자동화하면 수년이 걸릴 진보가 수개월 안에 이뤄지는 ‘지능 폭발(Intelligence Explosion)’이 일어날 가능성이 있다고 지적했습니다. 연구진은 극단적인 시나리오로 인간의 통제력 상실 같은 심각한 위험까지 검토해야 한다고 주장했습니다. 다만 지능 폭발은 이미 발생한 사건이 아니라 앞으로 일어날 가능성을 둘러싼 가설이자 논쟁입니다. AI가 스스로 연구하는 능력이 어느 수준까지 발전할지, 인간의 개입 없이 성능을 계속 높일 수 있을지는 아직 확실하지 않습니다. 그럼에도 힌턴을 비롯한 일부 전문가들은 피해가 발생한 뒤 대응하기보다 미리 안전 대책을 마련해야 한다고 주장합니다. 실제로 이 논문은 AI 기업의 연구 자동화 정도를 표준화된 방식으로 보고하도록 의무화하고, 지능 폭발의 속도를 조절하거나 제한하는 장치를 마련해야 한다는 정책을 제안했습니다. 힌턴 교수의 경고가 AI 연구를 모두 멈추자는 뜻은 아닙니다. AI는 질병을 진단하고 신약 후보를 찾는 등 인류의 삶을 개선하는 데 ...