AI가 푼 수십년 수학 난제… 1만개가 ‘릴레이 풀이’ 나섰다

서로 다른 풀이법 동시에 시험 인간은 불가능한 규모로 답 찾아… “수학사적으로 엄청난 사건” 공식 인증은 학술지 등 검증 거쳐야 필즈상 수상자들 “연구 생태계 위협” 인공지능(AI)이 인간이 수십 년 동안 풀지 못한 수학 난제의 해법까지 찾아내면서 과학 연구에서 AI의 역할이 새 단계에 들어섰다는 평가가 나온다. 오픈AI의 미공개 AI 모델은 약 1만 개의 AI가 서로 다른 풀이를 동시에 시험하는 방식으로 세계 7대 수학 난제 중 하나인 ‘나비에-스토크스 문제’의 증명을 88시간 만에 해냈다. 일부 전문가들은 인간이 감당하기 어려운 규모의 탐색을 AI가 해냈다는 데 의미가 크다고 보지만, 수학계에서 “AI 기업의 목표와 수학 공동체의 목표가 어긋나 있다”며 반발하는 등 과제는 여전히 남아있다.● 사람은 시도 못 할 여러 방법 동시에 탐색 나비에-스토크스 방정식은 물이나 공기처럼 흐르는 물질이 어떻게 움직이는지를 계산하는 식이다. 비행기 주변 공기 흐름이나 날씨, 바닷물의 움직임을 예측할 때도 쓰인다. 하지만 처음에는 정상적으로 흐르던 유체(流體)가 시간이 지나도 계속 정상적인 상태를 유지하는지, 아니면 어느 순간 일부 지점의 움직임이 걷잡을 수 없이 커져 계산이 깨질 수도 있는지는 오랫동안 아무도 증명하지 못했다. 오픈AI는 바로 이런 계산이 ‘깨지는 경우’가 실제로 가능하다는 증명을 내놨다. 쉽게 말해 이 방정식이 모든 상황에서 끝까지 멀쩡한 답을 내는 것은 아니라는 사례를 찾아낸 것이다. 문제를 푼 방식도 주목된다. 오픈AI는 ‘GPT-6 아스트라’보다 강력하다고 밝힌 자체 미공개 모델을 기반으로 약 1만 개의 AI를 동시에 가동했다. 각각 다른 방법으로 문제를 풀게 한 뒤, 가능성이 있어 보이는 아이디어는 다른 AI들이 다시 이어받아 시험하게 했다. 이후에는 컴퓨터가 증명의 각 단계를 하나씩 확인해 논리적으로 틀린 부분이 없는지도 점검했다. 김상현 고등과학원 수학부 교수는 이번 성과를 “수학사적으로 엄청난 사건”이라고 평가했다. 다만 이번 문제는 이미 쌓여 있던 이론과 연구를 바탕으로 수많은 가능성 가운데 맞는 사례를 찾아낸 성격이 강했다고 덧붙였다. 김 교수는 “아주 깊이 있는 지식들을 사용했지만, 새로운 이론을 만들어 냈다고 보기는 어렵다”고 말했다. 이번 결과가 당장 일기예보를 더 정확하게 만들거나 비행기 설계법을 바꾸는 것은 아니다. 산업 현장에서는 이미 컴퓨터 시뮬레이션을 통해 이 방정식을 잘 활...