[AI 과학②] OpenAI 나비에–스토크스, 해법 뒤 ‘연구 크레딧’ 논쟁

[KtN 전성진기자]OpenAI가 나비에–스토크스(Navier–Stokes) 밀레니엄 문제의 해법을 공개하기 하루 전인 9월 7일, 뉴욕대 쿠란트연구소 수학자 트리스탄 벅마스터(Tristan Buckmaster)와 앤트로픽 소속 수학자 레벤트 알푀게(Levent Alpöge)는 3차원 비압축성 오일러(Euler) 방정식을 비롯한 세 편의 유체방정식 연구를 공개했다. 두 연구자는 대규모언어모델(LLM)을 연구 과정에 사용했고, 오일러 방정식에서 매끄러운 외력이 작용할 때 유한한 시간 안에 특이점이 발생하는 증명을 Lean으로 검증했다.

하루 뒤 OpenAI는 약 1만개의 AI 에이전트가 88시간 동안 작업해 나비에–스토크스 문제의 유한시간 특이점 증명을 만들었다고 발표했다. 오일러 방정식에서 시작한 두 연구 흐름이 며칠 간격으로 공개되면서 관심은 수학적 해법뿐 아니라 연구 아이디어의 우선권, 미공개 연구자료의 취급, AI가 만든 성과의 저자와 책임을 어디에 둘 것인지로 번졌다.

벅마스터와 알푀게의 연구는 AI가 처음부터 연구 방향을 만들어낸 프로젝트가 아니었다. 벅마스터는 공개 입장문에서 강제력이 있는 유체방정식의 특이점을 연구해 온 디에고 코르도바(Diego Córdoba)와 루이스 마르티네스-소로아(Luis Martínez-Zoroa)의 연구를 출발점으로 삼았다고 밝혔다. 기존 연구가 거친 외력 조건에서 특이점을 구성했다면 벅마스터와 알푀게는 LLM을 활용해 매끄러운 외력 조건과 3차원 비압축성 오일러 방정식까지 연구 범위를 넓혔다. 벅마스터는 “기본 아이디어”의 공로를 코르도바와 마르티네스-소로아에게 돌렸다.

연구 과정에는 여러 회사의 AI가 동시에 사용됐다. 벅마스터는 Claude와 OpenAI Codex를 사용했고, Codex에서는 GPT-5.6 Sol도 활용했다고 밝혔다. GPT-6 Astra는 후반부 논문 작성과 논증 점검에 투입됐다. 두 연구자가 Boussinesq 방정식과 오일러 방정식에서 결정적인 진전을 얻은 날짜는 8월 15일, Lean 검증을 마친 날짜는 8월 22일이었다. 연구 결과를 사람이 읽기 좋은 논문으로 다듬는 작업은 이후에도 계속됐다.

OpenAI의 연구는 9월 1일 시작됐다. 회사는 당시 주요 미해결 수학 문제에 관한 소문을 들은 뒤 여러 밀레니엄 문제에 내부 모델과 에이전트를 투입했다고 설명했다. 약 100개의 에이전트가 먼저 오일러 방정식의 관련 문제를 약 50시간 동안 연구했고, 결과가 나오자 계산 자원을 나비에–스토크스 쪽으로 옮겼다. 에이전트 그룹 사이에서는 Codex가 유용한 중간 결과를 모아 다른 그룹에 전달했다. 9월 5일 해법이 나왔고 9월 6일까지 Lean 검증 작업이 진행됐다.

두 연구 흐름의 시간표가 가까워지면서 연구 우선권과 AI 서비스에 입력된 미공개 연구자료 문제가 함께 불거졌다.

벅마스터는 9월 3일 OpenAI 소속 수학자에게 관련 연구가 진행되고 있다는 사실을 알렸고, 이후 OpenAI 측과 연락을 주고받았다고 밝혔다. 9월 6일 통화에서는 OpenAI 내부 모델이 강제력이 있는 나비에–스토크스 방정식의 유한시간 특이점 증명을 만들었다는 설명을 들었다고 적었다.

벅마스터가 제기한 우려 가운데 하나는 Codex에 입력한 연구자료였다. 벅마스터와 알푀게는 연구 기간 동안 논문 초안과 연구 내용을 Codex 세션에 입력했다. 벅마스터는 OpenAI 내부 모델이 해당 세션에 접근했는지, 모델 훈련에 사용됐는지를 당시 OpenAI 측에 물었다고 밝혔다. 공개 입장문에서는 OpenAI가 연구자료를 사용했다고 단정하지 않았다. “우리 데이터가 사용됐는지 알지 못한다”고 명시했다.

OpenAI는 9월 8일 발표와 10일 후속 업데이트에서 자사 연구자와 AI 에이전트가 벅마스터·알푀게의 연구를 공개 전에 보지 않았다고 밝혔다. 9월 8일 발표 이전 두 달 동안 벅마스터가 Codex에 입력한 프롬프트도 이번 결과에 사용된 내부 모델에 훈련을 포함한 어떤 방식으로도 영향을 줄 수 없었다는 조사 결과를 추가했다. OpenAI는 해당 내부 모델이 기존 사전학습 모델을 기반으로 대규모 강화학습을 거쳐 개발됐다고 설명했다.

OpenAI는 오일러 문제에서 양측이 만든 결과도 구분했다. 벅마스터와 알푀게는 외력이 있는 오일러 방정식에서 특이점을 구성했고, OpenAI 시스템은 외력이 없는 조건의 결과를 만들었다고 설명했다. OpenAI는 벅마스터와 알푀게의 강제 오일러 방정식 연구에 대한 우선권도 인정한다고 밝혔다.

연구 크레딧의 범위는 AI가 연구 과정 깊숙이 들어오면서 더 복잡해졌다. 벅마스터·알푀게 연구에는 코르도바와 마르티네스-소로아가 발전시킨 기존 수학적 접근법, 두 연구자의 문제 설정과 판단, 여러 LLM이 만든 계산과 증명, Lean을 통한 형식 검증이 함께 들어갔다. OpenAI 연구에서는 회사 연구진이 문제와 자원을 배치했고 수천개의 AI 에이전트가 해법을 병렬 탐색한 뒤 Codex가 중간 결과를 결합했다.

논문 저자 명단은 여전히 사람을 기준으로 운영된다. AI가 증명의 상당 부분을 생성하거나 연구 아이디어를 제안하더라도 AI 시스템 자체가 논문의 결과에 책임을 지거나 학술적 판단에 답할 수는 없다. AI가 연구에 어느 정도 관여했는지를 공개하고 결과에 대한 책임은 인간 연구자가 지는 방향이 연구윤리 기준으로 자리 잡고 있다.

한국에서도 관련 기준이 구체화됐다. 한국연구재단은 올해 6월 ‘대학 연구자를 위한 생성형 AI 연구윤리 가이드’를 발간했다. 연구 설계부터 수행, 보고, 인용까지 생성형 AI 사용 기준을 나눠 제시하고 연구자가 AI 활용 사실과 범위를 투명하게 공개하도록 했다. 연구 과정에서 AI를 어떻게 사용했는지도 기록하도록 권고했다.

연구재단이 제시한 10가지 준칙의 첫 항목은 ‘AI를 저자로 표시하지 말라’다. 연구 결과에 대한 최종 책임도 연구자에게 둔다. AI가 생성한 정보의 검증, 개인정보와 기밀정보의 입력 제한, 연구자가 이해하지 못한 분석 결과의 사용 제한, AI 사용 사실 공개와 사용 과정 기록도 준칙에 포함됐다.

미공개 연구자료 관리도 별도의 항목으로 다뤄졌다. 논문 초안이나 공개 전 연구 결과, 개인정보와 기밀 연구데이터를 외부 생성형 AI에 입력할 경우 정보가 외부 시스템으로 전달될 수 있기 때문이다. 연구재단은 연구 보안과 개인정보 문제를 생성형 AI 사용에서 발생할 수 있는 연구윤리 위험으로 제시했다.

OpenAI와 벅마스터 사이에서 불거진 Codex 논쟁도 같은 영역에 놓인다. 수학자는 논문 출판 전에 가설과 초안, 실패한 접근법, 계산 결과를 AI 서비스에 반복해서 입력할 수 있다. 대화창에 들어가는 정보에는 이미 공개된 논문뿐 아니라 연구자가 수개월 또는 수년에 걸쳐 축적한 미공개 연구 아이디어도 포함될 수 있다.

AI를 논문 문장 교정에 사용하는 단계에서는 사용 사실을 밝히는 것으로 상당 부분 정리가 가능하다. 연구 가설을 만들고 증명 구조를 제안하고 코드를 작성하며 실패한 결과를 분석하는 단계까지 들어오면 기록해야 할 범위가 넓어진다. 어느 모델을 사용했는지, 어떤 문제를 입력했는지, 사람이 어느 단계에서 판단했는지, AI 결과 가운데 무엇을 채택하거나 버렸는지 등이 연구 재현성과 크레딧 판단에 필요한 정보가 된다.

국내 과학기술 정책에서도 AI가 연구 과정으로 들어가는 속도가 빨라지고 있다. 이재명 정부의 123대 국정과제에는 ‘AI 3대 강국 도약’과 ‘기초가 탄탄한 과학기술’이 함께 포함됐다. 과학기술정보통신부는 AI 컴퓨팅 인프라 확충과 선도기술 개발뿐 아니라 AI를 과학기술 연구에 적용하는 정책도 추진하고 있다.

올해 2월 공모를 시작한 ‘AI+S&T 혁신 기술개발 R&D’와 4월 시작된 ‘AI 기반 대학 과학기술 혁신사업’은 AI를 과학 연구의 직접적인 도구로 사용하는 사업이다. 과기정통부의 2026년 업무계획에는 과학 연구를 지원하는 ‘AI Co-Scientists’도 포함됐다. AI가 문헌을 정리하는 수준에서 가설 설정과 실험 설계, 데이터 분석, 새로운 과학적 결과 탐색으로 이동하는 흐름을 국가 연구개발 체계 안에 넣은 것이다.

연구윤리 기준 마련도 같은 시기에 진행됐다. AI 연구개발 투자가 확대된 2026년 6월 한국연구재단은 생성형 AI 연구윤리 가이드를 내놨고, 8월에는 연구자가 실제 연구 단계에서 사용할 수 있는 생성형 AI 활용 체크리스트를 별도로 배포했다. AI를 연구에 활용하면서 사용 내역을 남기고, 사람이 결과를 검증하고, 연구자가 최종 책임을 지는 구조가 국내 연구관리 체계에도 들어가기 시작했다.

나비에–스토크스 연구에서 드러난 크레딧 구조는 기존 논문의 저자 순서만으로 설명하기 어려워졌다. 최초 수학적 접근법을 만든 연구자, 문제를 확장한 연구자, AI에 연구 방향을 지시한 사람, 증명의 상당 부분을 생성한 모델, 형식검증 시스템, 대규모 계산 자원을 제공한 연구기관이 하나의 결과 안에 동시에 존재한다.

학술 연구에서 선행 연구의 공로를 밝히는 원칙은 그대로 유지된다. 벅마스터가 자신의 연구 성과를 공개하면서 코르도바와 마르티네스-소로아의 선행 작업을 먼저 언급한 것도 같은 학술적 계보에 해당한다. AI가 연구 속도를 크게 높여도 어떤 아이디어가 어디에서 시작됐는지 기록하고 인용하는 과정까지 사라지지는 않는다.

연구 속도는 이미 크게 달라졌다. 벅마스터와 알푀게는 약 1년 동안 LLM을 함께 사용해 연구를 진행하다 8월 중순 중요한 결과에 도달했고, OpenAI는 수천개의 에이전트와 막대한 연산을 투입해 며칠 만에 관련 난제를 집중 탐색했다. 논문의 생성 속도가 빨라질수록 독립 검토와 선행연구 대조, 우선권 기록에 사용할 시간은 상대적으로 짧아질 수 있다.

한국의 AI+과학 정책도 연구 속도만 높이는 방향으로 끝나지 않는다. 2026년 연구재단 가이드는 AI 사용 공개, 작업 과정 기록, 결과 검증과 인간 연구자의 최종 책임을 함께 요구한다. 이재명 정부가 AI+S&T 연구와 대학 연구현장의 AI 활용을 확대하는 시기에 연구자에게 적용되는 윤리 기준도 동시에 구체화되고 있다.

OpenAI의 나비에–스토크스 증명은 9월 19일 현재 수학계의 검토를 받고 있다. 벅마스터와 알푀게가 공개한 오일러 방정식 연구 역시 논문과 Lean 증명이 공개된 상태다. 수학적 결과의 검증과 함께 연구 아이디어의 출처, AI에 입력된 미공개 자료의 관리, 모델 사용 기록, 인간 연구자의 책임을 남기는 방식도 실제 연구 절차의 일부로 들어왔다. AI가 과학 연구의 속도를 바꾸기 시작한 2026년, 연구 크레딧은 논문 마지막에 적는 이름만이 아니라 연구가 만들어진 전 과정을 얼마나 추적할 수 있는지와 연결되고 있다.