AI, 인류 90년 난제까지 넘었다⋯오픈AI “‘밀레니엄 문제’ 해법 제시” [종합]

나비에-스토크스 방정식 165쪽 증명 공개
1만개 에이전트 88시간 동안 해법 탐색
아스트라 10%ㆍ새 모델 정확도 50%
선행 연구ㆍ학습데이터 놓고 공로 논란

▲오픈AI 로고가 보인다. (로이터연합뉴스)

AI가 인간 수학자들이 약 90년간 풀지 못한 수학 난제에 도전해 해법을 내놨다.

8일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 자체 개발 중인 미공개 AI 모델이 세계 7대 수학 난제로 꼽히는 ‘밀레니엄 프라이즈’ 문제 중 하나인 ‘나비에-스토크스 방정식의 존재성과 매끄러움’ 문제의 해법을 찾았다며 165쪽 분량의 증명을 만들어냈다고 밝혔다. 오픈AI는 수학적 논증의 각 단계를 검증하는 프로그래밍 언어 ‘린(Lean)’을 이용한 형식 검증 결과도 함께 공개했다.

나비에-스토크스 방정식은 물이나 공기 같은 유체의 움직임을 설명하는 수학식이다. 핵심 난제는 3차원에서 처음에는 매끄럽게 움직이던 유체가 계속 안정적으로 유지되는지, 아니면 어느 순간 속도 등이 무한대로 치솟는 ‘특이점’이 발생할 수 있는지를 증명하는 것이다. 나비에-스토크스 방정식의 해가 항상 매끄럽게 유지되는지를 둘러싼 문제는 1934년 프랑스 수학자 장 르레의 연구 이후 약 90년간 풀리지 않은 수학계의 대표적 난제다. 2000년에는 미국 클레이수학연구소가 상금 100만달러(약 13억4100만원)를 건 7개의 ‘밀레니엄 프라이즈’ 문제 중 하나로 선정했다.

오픈AI의 모델은 소용돌이가 점점 좁아지고 빨라지면서 유한한 시간 안에 특이점이 발생하는 사례를 찾아냈다. 오픈AI의 수석 과학자인 야쿠브 파초키는 “한 달 전만 해도 우리가 밀레니엄 프라이즈 문제에 관해 이야기하게 될 거라고는 상상도 못 했을 것”이라며 “이번 일은 AI가 얼마나, 그리고 얼마나 빠르게 발전했는지를 보여주는 사례”라고 말했다. WSJ는 이번 결과가 많은 뛰어난 수학자가 오랫동안 풀지 못했던 문제를 AI가 해결한 가장 눈에 띄는 사례라고 평가했다.

이번 작업에는 최대 1만 개의 AI 에이전트가 투입돼 약 88시간 동안 270만 개의 메시지를 주고받았다. 사용된 출력 토큰은 1300억 개에 달했으며 컴퓨팅 비용으로 수백만 달러가 들었다. 특히 이번에 사용한 미공개 모델은 최근 출시한 ‘GPT-6 아스트라’보다 수학 문제 해결 능력이 크게 향상됐다고 오픈AI는 밝혔다. 오픈AI가 자체 수학 문제 벤치마크를 사용해 두 모델을 테스트했을 때 아스트라는 약 10%의 정확도를, 미공개 모델은 50%에 달하는 정확도를 기록했다.

그러나 발표 직후 연구의 공로를 둘러싼 논란이 불거졌다. 뉴욕대(NYU) 수학자 트리스탄 벅마스터와 앤스로픽 소속 수학자 레벤트 알포게가 비슷한 접근법으로 관련 난제를 먼저 연구해왔기 때문이다. 두 사람은 오픈AI의 코덱스와 구글 딥마인드, 앤스로픽 등 여러 AI 도구를 연구에 사용했으며, 벅마스터는 자신과 알포게가 관련 연구를 진행하고 있다는 사실을 오픈AI가 알게 된 뒤 나비에-스토크스 문제 해결에 나섰다며 연구 공로에 문제를 제기했다. 다만 이들의 연구 대상은 나비에-스토크스 문제 자체가 아니라 이와 밀접하게 관련된 ‘강제력이 있는 오일러 방정식’ 등이었다.

오픈AI는 연구진이나 AI 에이전트가 두 사람의 연구 결과가 공개되기 전에 이를 본 적이 없으며 이 문제를 해결하기 위해 특정 이용자의 데이터에 접근하지 않았다고 반박했다. 다만 두 연구자가 오픈AI 제품을 사용하면서 생성된 비식별 데이터가 모델 개선에 간접적으로 활용됐을 가능성은 배제하지 않았다. 이에 따라 이번 성과를 둘러싸고 AI가 독자적으로 해법을 찾아냈는지와 연구 공로를 누구에게 돌려야 하는지를 놓고 논란이 이어질 것으로 보인다.

한편 오픈AI는 이번 연구 결과의 목적은 AI의 발전을 보여주는 데 있다며 밀레니엄 문제에 걸린 상금을 신청하지 않겠다고 밝혔다.