50년 묵은 수학 난제, 오픈AI가 1시간 만에 풀었다

GPT-5.6 솔 울트라, 64개 하위 에이전트로 증명 생성
‘사이클 이중 덮개 추측’ 프롬프트·최종 증명문 공개
학술지 심사·수학계 독립 검증 통과해야 공식 인정

ⓒ뉴시스

오픈AI가 인간이 50년 넘게 풀지 못한 수학 난제를 인공지능(AI)으로 1시간 만에 풀었다고 주장했다. 학술지 심사나 수학계의 독립적인 검증을 거쳐 증명에 오류가 없다고 공식 인정받게 되면 AI가 장기간 미해결 상태였던 주요 수학 난제를 해결한 이례적인 사례가 된다.

이선 나이트 오픈AI 연구원은 지난 11일(현지 시간) 본인 엑스 계정을 통해 “GPT-5.6 솔(Sol) 울트라로 64개의 하위 에이전트를 이용해 ‘사이클 이중 덮개 추측’ 증명을 1시간이 채 안 돼 만들어냈다”고 밝혔다.

GPT-5.6은 오픈AI가 지난 9일 출시한 최신 AI 모델이다. 플래그십 모델 ‘솔’, 범용 모델 ‘테라’, 경량·저비용 모델 ‘루나’로 나뉜다. 이 중 ‘솔’은 딩과 지식업무, 사이버보안, 과학적 추론 성능을 강화한 모델이다.

‘울트라’는 여러 하위 에이전트를 투입해 복잡한 작업을 병렬로 처리하는 모드다. 나이트 연구원은 GPT-5.6 솔을 울트라 방식으로 최대 64개의 하위 에이전트를 운용해 서로 다른 증명 전략을 탐색하고 반례와 논리적 허점을 점검하도록 했다고 설명했다.

사이클 이중 덮개 추측은 1973년 헝가리 수학자 세케레시 죄르지가 제기한 그래프 이론이다. ‘다리(브리지)가 없는 모든 무방향 그래프에서 각 변을 정확히 두 번씩 포함하도록 여러 개의 순환 경로를 만들 수 있다’는 내용을 담고 있다.

나이트 연구원은 연구 성과를 입증하기 위해 2쪽 분량의 실제 프롬프트와 3쪽 분량의 최종 증명문을 공개했다. 프롬프트로 AI에 “완전한 긍정적 증명이 존재한다고 가정하라”고 지시했고 부분적인 결과나 다른 미해결 추측으로의 환원은 답으로 인정하지 말라고 명시했다.

다만 오픈AI의 성과가 공식적으로 인정받으려면 독립적인 수학자들의 검증과 학술 평가 절차가 필요하다. 사이클 이중 덮개 추측은 과거에도 해결을 주장하는 논문이 여러 차례 공개됐지만 수학계의 정설로 받아들여지지 않았다.검증을 통과할 경우 범용 AI가 인간 수학자들이 수십 년 동안 해결하지 못한 주요 난제의 완전한 증명을 독자적으로 찾아낸 이례적인 사례가 된다. 여러 하위 에이전트가 서로 다른 풀이법을 탐색하는 범용 AI가 결과를 냈다는 점에서 AI 기반 과학 연구 방식의 전환점이 될 수 있다.

[서울=뉴시스]