125년 숙원 풀리나…'힐베르트 6번 문제' 해결 주장

ㅣ데일리포스트=김정은 기자ㅣ1900년, 독일의 수학자 다비트 힐베르트(David Hilbert)는 제2회 국제수학자대회에서 물리학의 세계를 수학의 엄밀한 논리로 재구성하라는, 인류가 도전해야 할 23가지 난제 중 여섯 번째 문제를 제시했다. 

이는 겉보기에는 연속적인 유체의 운동을, 실제 구성 요소인 이산적인 입자들의 운동으로부터 수학적으로 엄밀하게 유도할 수 있는가에 대한 근본적인 질문이었다. 한 세기가 넘는 시간 동안 풀리지 않았던 이 고전적 난제를 풀었다는 주장이 등장하며 학계의 뜨거운 관심이 쏠리고 있다.

◆ 뉴턴에서 유체 방정식까지… 수학이 길을 잇다

2025년 3월, 미국 시카고대학의 수학자 유 덴(You Deng), 자하르 하니(Zaher Hani), 샤오 마(Xiao Ma) 연구팀은 '힐베르트의 여섯 번째 문제'를 해결했다는 논문을 사전 공개 논문 사이트인 아카이브(arXiv)에 게재했다. 해당 논문은 현재 국제 학술지에 투고되어 심사를 기다리고 있다.

연구팀이 도전한 핵심 질문은 물리학의 두 핵심 이론, 미시적 입자 운동을 기술하는 뉴턴역학과 거시적 유체 거동을 설명하는 유체역학 사이의 수학적 간극을 메울 수 있는가였다. 공기나 물과 같은 유체는 수많은 입자로 이루어져 있으며, 각 입자는 시간에 대해 가역적인 뉴턴의 운동 법칙을 따른다. 

반면, 유체 전체의 움직임은 섞인 물감이 다시 분리되지 않는 것처럼 시간의 방향성을 지닌 비가역적인 나비에–스토크스 방정식과 같은 비선형 유체 방정식으로 기술된다. 힐베르트의 여섯 번째 문제는 바로 이 뚜렷한 시간적 관점의 차이를 수학적으로 연결하는 것이었다.

연구팀은 입자들의 통계적 행동을 기술하는 볼츠만 방정식을 뉴턴역학으로부터 수학적으로 도출하는 데 성공했다고 주장한다.

특히 시간적으로 멀리 떨어진 두 입자 충돌 사이의 관계를 분석하기 위해 '장결합(long bond)'이라는 새로운 개념을 도입하고, 장시간에 걸친 복잡한 충돌 과정을 추적하기 위해 '층상 클러스터 숲(layered cluster forest)' 및 '분자(molecule)'와 같은 독창적인 개념을 활용하여 이론을 정교화했다. 이는 짧은 시간 범위에 국한되었던 기존 연구의 한계를 뛰어넘는 중요한 진전이다.

◆ 통계적 극한으로 거시 세계를 조명하다

연구팀은 입자 충돌을 통해 얻은 볼츠만 방정식으로부터 유체의 밀도ㆍ운동량ㆍ에너지와 같은 거시적인 개념들을 수학적으로 엄밀하게 정의하고, 나아가 통계적 극한(hydrodynamic limit)과 같은 수학적 방법을 통해 오일러 방정식과 나비에–스토크스 방정식까지 유도할 수 있음을 제시했다. 

이 과정은 수학적으로 엄격하면서도 물리적으로 미시적 입자에서 거시적 유체로 이어지는 점진적인 계층 구조를 따른다.

덴 교수는 "시간을 되돌릴 수 있는 미시 세계에서 되돌릴 수 없는 거시 세계가 어떻게 출현하는지를 밝히는 것이 이 연구의 핵심"이라고 설명한다. 

이는 단순한 수학적 퍼즐 해결을 넘어선 의미를 지닌다. 유체역학의 기초가 더욱 견고해짐으로써 날씨 예측의 정확도를 높이거나 항공기 설계의 효율성을 개선하는 등 항공우주 분야의 시뮬레이션에서 더욱 정밀한 결과를 기대할 수 있게 된다.

해당 논문은 아직 공식적으로 학계의 엄격한 검증을 거치지 않았다. 일부 전문가들은 "기술적으로 중대한 결함이 있을 수 있다"며 신중한 검토의 필요성을 제기하고 있다. 연구의 진위는 앞으로 진행될 동료 심사를 통해 명확히 밝혀질 예정이다.

125년간 풀리지 않았던 물리학과 수학 사이의 깊은 단절을 메우려는 이번 시도는 그 결과와 무관하게 학문사에 중요한 이정표로 남을 가능성이 충분하다는 평가다.