87년 묵은 수학 난제, AI가 풀었다? "야코비안 추측" 반증 사건 정리

 

 

 

수학 좋아하시는 분들 사이에서 요즘 난리난 소식 하나 가져왔습니다.

바로 87년 동안 아무도 풀지 못했던 "야코비안 추측(Jacobian Conjecture)"이 반증되었다는 소식인데요.

그것도 사람이 손으로 푼 게 아니라, AI인 클로드 페이블(Claude Fable)이 함께 풀었다고 해서 더 화제가 되고 있습니다.

 

수학 용어가 나오면 머리부터 아파오시는 분들도 계실 텐데, 최대한 쉽게 풀어드릴게요.

 

 

야코비안 추측이 대체 뭔가요?

 

일단 이름부터 어려워 보이지만, 핵심 아이디어는 생각보다 단순합니다.

 

어떤 함수(수학적 변환 규칙이라고 생각하시면 됩니다)가 있다고 해볼게요.

이 함수에 숫자를 넣으면 다른 숫자가 나오죠.

그런데 만약 이 함수가 "국소적으로" 즉, 아주 가까운 범위에서만 봤을 때 항상 뒤집기(역함수 만들기)가 가능하다면...

 

과연 이 함수는 전체적으로도 뒤집기가 가능할까요?

 

1939년, 켈러(Keller)라는 수학자가 이 질문을 던진 이후로 무려 87년 동안 아무도 확실한 답을 내놓지 못했습니다.

많은 수학자들이 "아마 맞을 것"이라고 추측은 했지만, 증명도 반증도 하지 못한 채로 오랜 시간이 흘렀던 거죠.

 

 

국소적으로 뒤집힌다고, 전체적으로도 뒤집히는 건 아니다?

 

이해를 돕기 위해 쉬운 비유를 들어볼게요.

 

동네 골목길을 상상해보세요.

내가 서 있는 곳에서 주변을 둘러보면, 어느 방향으로 가든 길이 겹치지 않고 명확하게 구분되어 보입니다.

"이 골목에서는 어느 쪽으로 가도 다시 되돌아올 수 있겠다"라는 확신이 들죠.

 

그런데 이 골목길들이 도시 전체로 이어지면 어떨까요?

멀리 떨어진 두 갈래 길이 결국 같은 곳에서 다시 만나버릴 수도 있습니다.

가까운 곳에서 보면 문제없어 보이던 길이, 멀리서 보면 서로 겹쳐버리는 셈이죠.

 

야코비안 추측이 다루는 게 바로 이런 상황입니다.

"미분값(국소적 변화율)이 항상 0이 아니고 일정하다"는 조건만으로,

"전체 함수도 완벽하게 뒤집을 수 있다(역함수가 존재한다)"는 결론까지 이어지는지를 묻는 질문이었던 거예요.

 

 

클로드 페이블이 찾아낸 반례

 

2026년 7월 20일 새벽, 수학자 레벤트 알포게(Levent Alpöge)가 자신의 SNS에 짧은 글 하나를 올립니다.

 

"야코비안 추측은 거짓입니다. 질문해준 친구 아킬에게 감사하고, 월드컵 결승전 동안 함께 작업해준 또 다른 친구 페이블(Fable)에게도 감사드립니다."

 

그러면서 x, y, z 세 개의 변수로 이루어진 다항식 함수 하나를 공개했는데요.

이 함수의 미분값(야코비안 행렬식)을 계산해보면 정확히 -2로, 항상 일정한 값이 나옵니다.

추측이 요구하는 조건은 완벽하게 만족하는 셈이죠.

 

그런데 놀랍게도, 이 함수는 서로 다른 세 개의 입력값이 정확히 같은 출력값으로 이어지는 것으로 확인됐습니다.

즉 겉보기엔 조건을 다 만족하는 것처럼 보이는데, 실제로는 뒤집을 수 없는 함수였던 거예요.

87년 된 추측이 거짓이라는 게 증명된 순간입니다.

 

이 결과는 이후 다른 수학자들에 의해 독립적으로 검증되었고, 검증 논문(preprint)까지 공개됐습니다.

필즈상 수상자로도 유명한 팀 가워스(Timothy Gowers) 교수는 이번 결과에 대해 "자신의 전공 분야가 아니면서도 이름은 확실히 들어봤던 문제를 AI가 풀어낸 첫 사례"라며 놀라움을 표하기도 했습니다. 다만 "추측을 증명한 게 아니라 반례를 하나 찾은 것"이라는 점은 분명히 짚었죠.

 

 

그럼 AI가 혼자서 다 풀어낸 걸까요?

 

여기서 오해하지 말아야 할 부분이 있습니다.

 

수학계 반응을 보면, 이번 결과가 AI 혼자 뚝딱 만들어낸 결과라기보다는 "사람의 통찰 + AI의 계산력"이 합쳐진 결과라는 평가가 많더라고요.

폴란드의 수학자 바르토시 나스크렝츠키(Bartosz Naskręcki)는 "이런 반례를 찾는 건 건초더미에서 바늘 찾기와 같아서, 절대 단순한 프롬프트 한 줄로 나올 수 있는 결과가 아니다"라며 알포게의 전체 작업 과정을 궁금해했습니다.

 

정리하자면 이렇습니다.

 

- 찾아낸 것 : 3차원 공간(C³)에서의 명확한 반례 함수

- 아직 안 풀린 것 : 원래 추측의 원조 격인 2차원(평면) 버전은 여전히 미해결 상태

- 검증 상태 : 독립적인 계산 검증은 완료됐지만, 정식 학술지 동료 심사(peer review)는 아직 거치지 않음

 

그러니까 "AI가 수학을 정복했다"는 식으로 받아들이기보다는, AI가 수학 연구의 도구로서 실제 성과를 냈다" 정도로 이해하시는 게 정확할 것 같습니다.

 

 

마무리하며

 

개인적으로 이번 소식이 흥미로웠던 이유는, 수학이라는 가장 엄밀한 학문 분야에서조차 AI가 실질적인 발견의 파트너로 등장했다는 점이었어요.

물론 아직 정식 논문화 과정이 남아있고, 2차원 버전이라는 진짜 원조 문제는 그대로 미해결로 남아있지만요.

 

앞으로 이런 "AI와 함께 푼 수학 문제" 사례가 더 자주 나올 것 같다는 예감이 듭니다.

수학 좋아하시는 분들이라면 원문 스레드와 이후 검증 논문도 한 번 찾아보시면 재밌으실 것 같아요!

 

 

#야코비안추측 #JacobianConjecture #클로드페이블 #ClaudeFable #AI수학 #수학난제 #앤트로픽 #레벤트알포게 #역함수 #대수기하학