[과학세상] 수학에는 인간과 AI의 차별이 없다

오픈AI가 나비에-스토크스(이하 ‘나스’) 방정식 문제를 해결했다고 발표했다. 자연언어보다 엄밀한 언어인 린으로 풀이 과정을 상세히 정리했으니 사실일 가능성이 높다. 콜럼버스의 신대륙 발자국처럼, 암스트롱의 달 표면 발자국처럼 이번 발견도 문명을 진일보시킬 것이다. 그래도 주인공이 인간이 아니라 AI라 마냥 손뼉만 칠 수는 없다. 콜럼버스가 죄수와 원주민을 착취했듯이 AI가 인간 아이디어를 훔쳤다는 소문도 돈다.

대부분 물질은 기체, 액체, 고체 형태를 띠며 그 상태는 방정식으로 묘사된다. 방정식 없이는 기술 발전도 없었고 제품 개발도 없었다. 기체는 운동장에 뛰노는 아이들 모습으로 이상 상태방정식(PV=nRT)으로 묘사된다. 고체는 교실 의자에 앉은 학생들 모습으로 탄성 방정식(F=kX)으로 표현된다. 나스방정식은 액체 상태방정식으로 볼 수도 있는데 기체나 고체 상태방정식에 비하면 엄청 복잡하다.

난해한 나스방정식도 풀고 나면 그 해는 익숙한 유체 흐름이다. 예를 들어 커피잔을 휘저을 때 생기는 패턴이다. 기상, 해류, 원자로처럼 복잡계의 정밀한 흐름은 고성능 컴퓨터로 풀어진다. 미국 클레이 수학연구소는 2000년 나스방정식의 해에 밀레니엄 상금을 걸었다. 과학자 수학자들이 달려들었지만 성공하지 못했다.

그런데 출생신고도 마치지 않은 AI가 나스방정식을 풀었다. 약 1만 개의 AI가 역무를 나누고 정보를 주고받으며 88시간 만에 답을 내놨다. 인간에게 살짝 미안했는지 나스방정식의 정식 해는 손대지 않고 반례 비슷한 것을 찾았다. 반례도 나스방정식의 결함을 알려 주는 징표이므로 중요하다. 클레이 연구소는 나스방정식 결함 가능성을 출제시 짐작했고 이를 찾아도 상금을 준다고 약속했다. 나스방정식의 결함은, 방정식 유도 과정에서 가정한 유체의 연속성에서 기인한다. 유체는 거시적으로 균일해 보여도 미시적으로는 꽉 찬 원자와 텅 빈 공간으로 이뤄져 있다.

클레이 연구소가 주문한 반례는 유체의 무한 속도이다. 끈적거리며 달라붙는 인접 동료 유체 때문에 어떤 유체도 무한 속도를 낼 수 없다. 그런데 AI는 나스방정식을 풀면서 강력한 소용돌이를 발견했다. 사방에서 중심으로 빨려들고 중심축에서 무한 속도로 치솟는 유체 흐름 말이다. 이 소용돌이는 태풍이나 토네이도처럼 생겼지만 엄청나게 강력하다. 태풍이나 토네이도는 클레이 연구소의 주문을 만족 못 한다.

비록 결함이 발견되었지만, 이 정도 흠집으로는 나스방정식은 사라지지 않는다. 과학자들은 적용에 더 신중할 것이고, 연속체 가정이 없는 나스방정식을 찾으려 할 것이다.

콜럼버스 성과에 당대 지식인들이 시비를 걸었듯이 AI의 성공에 흠을 낼 수 없을까? 필자는 무한대의 속도를 얻는 과정이 고양이 목에 다는 방울처럼 느꼈다. 아슬아슬하게 얻은 무한 속도는 조금만 비틀어지면 퍼져버릴 수 있다. 수학자들도 창의성과 사유의 기회를 침해당했다고 성명을 발표했다. 수학을 잘하려면 정답을 보기 전에 충분히 생각하는 태도가 중요하니 공감이 된다.

그러나 수학에서 미개척 분야는 넓다. 해결할수록 새로운 추측들이 생겨난다. 수학 추측 해결로 지식 기반이 더 단단해지고 그 위에 과학과 사회가 더 정교해진다면, 인간과 AI를 차별할 필요가 없다.