과결정성의 수학 (Mathematics of overdeteminedness)

수리과학부  한종규

배우자를 찾을 때 조건이 너무 많으면 이에 맞는 사람을 발견하기 어렵다.  방정식을 풀 때에도 만족해야 할 방정식의 개수가 너무 많으면 해가 존재하기 어렵다.  과결정(overdetermined) 연립방정식이란  미지수 (혹은 미지함수) 의 개수보다 방정식의 개수가 더 많은 연립방정식을 말한다.  일례로  미지수 x,y 에 관한 연립일차방정식

[eqn: (1)````````` {cases{eqalign{x``+`````y`````=`1# x``-`2y`````=`0}&#x```+`ay````=`b&}}]

을 생각해 보자.  미지수의 개수가 2이고  방정식의 개수가 3이므로 과결정이다.  과결정연립방정식은 일반적으로 해를 갖지 못한다.   (1) 의 첫 두 방정식에서

x=2/3,  y=1/3  가 결정이 되므로 이를 세 번째 방정식에 대입하면

[eqn: (2)`````````````2`+`a`=`3b]

를 얻게 되어 해가 존재하기 위하여는 방정식의 계수들 a, b 가 (2)를 만족해야 한다. (2)를 양립성조건 (compatibility condition) 이라 부른다.  일반적으로 양립성조건은 해가 존재하기 위한 필요조건이다.   이 1차방정식의 경우는 해가 존재하기 위한 충분조건이기도 하다.  1차방정식의 경우에는  선형대수를 이용하여 이 양립성조건을 찾을 수 있다.  즉 계수들의 행렬

[eqn: {bmatrix{1&1&1#1&-2&0#1&a&b}}]

의 제3행이 위의 두 행의 일차결합으로 표현되는 조건 즉,  행렬식이 영이 된다는 조건이며 이 조건은 바로 (2) 임을 볼 수 있다.

1차가 아닌 대수방정식의 경우 과결정 연립방정식으로부터 도출되는 양립성조건을 모두 찾는 문제는 더 복잡할 것이다.

미분방정식의 경우 주어진 과결정 연립방정식의 양립성조건을 찾은 일은 매우 복잡하다.  가장 간단한 예를 들자면  하나의 미지함수 u(x,y) 에 관한 두 개의 미분방정식

[eqn: (3)````````` {cases{u _{x```} =`A(x,y,u)&#u _{y`} `````=`B(x,y,u)&}}]

을 생각해보자.    (3) 의 첫 식을 y 로 미분한 것과 두 번째 식을 x 로 미분하면 두 경우 모두  [eqn: u _{{xy}}] 가 되므로

[eqn: (4)``````````````````````````A _{y} +A _{u} u _{y} =B _{x} +B _{u} u _{x}]

를 얻는다.     이 경우 (4) 는 (3)의 양립성조건이며  더 이상의 양립성조건은 없다.   모든 (x,y,u)에서 항등적으로 (4)가 성립하면 임의의 점  [eqn: (x _{0} ,y _{0} ,u _{0`} ) IN `R ^{3}]  에 대하여 초기조건 [eqn: u(x _{0}, y _{0}) = u_{0}] 를 만족하는 유일한 해 [eqn: u(x,y)] 가 존재함이 알려져 있다.  일반적으로  과결정 연립편미방이 주어졌을 때 다음과 같은  문제가 제기된다.

첫째,    양립성조건을 찾는 체계적인 방법이 있는가?

둘째,    더 이상의 양립성조건이 없는지,  즉 모든 양립성 조건을 모두 찾았는지 어떻게 알 수 있는가?

셋째,  양립성 조건을 모두 찾았을 때, 해가 존재하는가,  해의 유일성,  혹은 얼마나 많은 해가 존재하는가?

위의 세가지 문제에 대하여 좀 더 자세히 말하면

첫째 문제는  주어진 미방을 미분하고 그 결과로부터  대수적인 연산을 하여 양립성조건을 찾는 방법을 발견함으로 해결된다.  양립성조건을 발견하는 algorithm 이 바로 prolongation 이란 과정이다.

둘째,  더 이상의 양립성조건이 없는 연립방정식,  즉 모든 양립성조건을 다 포함하는 연립방정식으로 prolong 된 상태를 involutivity 라 부른다.   과결정편미방을 동등한 involutive system 으로 prolong 하는 것이 과결정미방의 해를 구하기 위한  가장 핵심적인 과정이라 할 수 있다.

셋째,  involutive system 의 해의 존재에 관하여는 1930년대에 발표된 Elie Cartan 의 이론이 있는데 해석적 범주안에서만 적용되므로 매우 제한적이다.    [eqn: C ^{ INF }] 범주에서는 알려진 사실이 별로 없었는데 수년전부터 1차형식의 involutivity 에 관한 프로베니우스 정리의 여러 가지 일반화가 알려지면서   [eqn: C ^{ INF }] 범주의 과결정연립편미분방정식의 연구가 매우 활발해 지고 있다.   Rigidity (경직성) 의 문제도 과결정성의 수학에 속한다.  적절한 함수공간에서 해가  discrete 하게 분포된 상태를 rigidity 라 부른다.

역사적으로   최초로 언급되고 본격적인 연구가 있었던  과결정연립편미분방정식은 다변수에 관한 코시-리만 방정식이다.  n 개의 복소변수에 관한 하나의 복소 함수  [eqn: f(z _{1}, ..., z_{n} )] 에 대하여 연립 1계선형 편미분방정식

(5)        [eqn: {Partial f} over {Partial x _{k}} `=`-i {Partial f} over {Partial y _{k}}],       k=1,... n,      [eqn: z _{k} = x_k + iy_k]

을 코시-리만 방정식이라 부른다.   (5) 는 함수 f 가 복소미분가능하다는 조건이며 (5)를 만족하는 함수가 holomorphic function 이다.

(5) 는 [eqn: n GEQ 2] 이면  과결정이지만   매우 특별하여 (1계 선형 상계수)  해가  무한히 많이 존재한다. (5)는 대표적인 타원형 선형미방으로서 해의 정칙성(regularity), 최대치 원리 (maximum principle) 등이 잘 알려져 있고  20세기 중엽에  깊이 있는 이론으로 정립되었다.  그러나   그 특수성 때문에 과결정 방정식에 대한 일반적인 이해에는 별로 기여하지 못하였다.  1970년대 초에 복소다양체의 기하에서 비선형이며 보다 일반적인 과결정성의 여러 특징을 가진 문제 하나가 제기되었다.   즉,  복소공간에 같은 차원의 부분다양체 [eqn: M _{1}, M_2] 가 주어졌을 때 (5) 의 해로 이루어진 사상  [eqn: (f_1, ... f_n )] 중에서 [eqn: M_1] 을 [eqn: M_2] 로 보내는 것이 존재할 것인가 하는 문제인  CR 동치문제가 그것인데  필자는 오랜 기간 이 문제를 연구해 왔다.

이 문제는 선형미방 (5) 와 비선형적인 부대조건으로 이루어진  소위 접 코시-리만 (tangential Cauchy-Riemann) 연립방정식의 해의 존재를 규명하는 문제로서  전형적인 과결정연립편미분방정식의 문제이다.   CR 동치문제는  70년대 중반에 S.S. Chern 과 J. Moser 에 의하여  기하적 불변량을 구하는 방법으로  특별한 경우에 해결을 보았다.    필자는 기하학의 개념을 사용함이 없이 방정식 자체의 prolongation 과 involutivity를 직접 규명하는 작업을 수행하였다.      이 연구의 부산물로  일반적인 과결정연립편미방에 대한  양립성조건은 미분방정식에 내재하는  대칭성으로 볼 수 있다는 것과  CR 다양체의 기하적 불변량과  접 코시-리만 방정식의  대칭성사이에 관련성이 있음을 이해하게 되었다.   이런 관점으로 근래에  필자는 준복소공간의 복소부분다양체의 존재,   CR 다양체의 minimality 등 복소함수론과 관련된 연구를 하고 있다.

비선형 방정식중 접 코시-리만 연립 방정식과 유사한 성격의 방정식으로는 그 유명한 등장매장 (isometric embedding)  방정식이 있다.   즉 리만 다양체 [eqn: (M ^{n}, g)] 를 국소적으로 유클리드 공간  [eqn: R^N] 에  매장할 수 있는가 하는 문제인데  등장매장 [eqn: u: M rarrow R^N]  은  N 개의 미지함수  [eqn: u = (u^1 ... u^N )] 에 대한 연립1계 편미방

(6)         [eqn: sum _{ alpha=1 } ^{ N} {Partial u ^{alpha }} over {Partial x _{j}} {Partial u ^{alpha }} over {Partial x _{k}} `= g_{jk}] ,        j,k = 1, ... n,

단,  x 는 M 의 좌표계, [eqn: g_{jk}] 는 M 의 리만 측도,

의 해를 말한다.     (6) 의 방정식의 개수는 [eqn: n(n+1)/2] 이다.  소설과 영화로도 소개된 바 있는 전설적인 천재 수학자 John Nash 는  세상을 놀라게 할 야심으로 청년시절 이 방정식에 도전하였다.  그는   [eqn: N > n(n+1)/2] 경우 중 특수한 몇 가지 경우에 해결을 보았다.  Nash 는 해의 존재를 밝히는  과정에서 뉴턴의 근사해법과 유사하게 비선형문제에 광범위하게 응용할 수 있는 근사해법을 창안하였다.  등장매장 문제에서  Nash 가 연구한 부분은 미지함수의 개수가 방정식의 개수 보다 많은 underdetermined case 이었다.  미지함수와 방정식의 개수가 같은 determined case, 즉 N=n(n+1)/2 인 경우는 해석적인 범주에서 1920년대의 Elie Cartan 의 결과들이 있고  가장 흥미있는 경우라고도 할 수 있는  과결정의 경우, 즉 N<n(n+1)/2 일때는 거의 알려진 바가 없다.  과결정인 경우에는 (6) 이 해를 갖기 위하여는   우선 필요조건, 즉, (6) 의 모든 양립성조건을 찾아서 리만측도  가 이 양립성조건들을 만족하는지부터 검토해야 한다.  이 과정이 involutive system 으로의 prolongation 이다.  그 다음  해석적인 경우에 카르탄의 이론이나 혹은  [eqn: C ^{ INF }] 범주의 일반화된 프로베니우스 정리 혹은 다른 방법으로 해의 존재를 증명할 수 있다.   (6) 의 양립성조건은 과결정연립방정식 (6) 에 내재한 대칭성이며 또한 기하적인 의미로는 리만 측도  의 불변량, 즉, 곡률과 그의 공변미분에 관한 조건이다.  과결정 등장매립 방정식은  미방의 대칭성, 기하적 불변량 이론, involutivity 사이의 관계를 이해하는데   실마리를 제공하는 매우 도전적인 연구 과제라 여겨진다.

아직 막연한 생각일 뿐이지만 필자는 많은 중요한 자연현상, 사회현상들이 과결정성의  문제라 여겨진다.  예컨대  돌연변이,  빙하시대의 도래나 지구의 온난화 같은 급작한 기후변화,  지구상에 광합성이 일어난 사건,     공산주의의 붕괴,  제국의 멸망 같은 자연과 사회에서 평소에는 기대할 수 없으나 급작히 발생하는 모든 놀라운 일들,  생명체와 지구의  진화의 원리가  이 과결정성에 숨어 있을 것이라 짐작된다.  과결정연립방정식의 계수는 시간에 따라 involutive 한 방향으로 변해 가다가 양립성조건이 만족되는 순간에, 혹은 과결정성이 최소가 되는 순간에 해가 존재하게 되는 홀연한  매장(embedding) = 실현 (realization) 으로  일어나는 것이리라 추측한다.  과결정성(불가능성)을 양적으로  측정하는  [eqn: L^2] 노름 같은 개념도 필요하다고 본다.

최근 과결정성과 미방의 대칭성, involutivity 와 이들 사이의 관계에 관한 관심이 고조되고 있음은 참고문헌  [EM]을 보면 알수 있다.      2008년 10월 20일

참고문헌

{EM]    M. Eastwood and W. Miller, editors,  Symmetires annd overdetermined system of partial differential equations,  IMA Volumes  in Mathematics and its applications  144,  Springer-Verlag, New York,  2008

[H]     C.-K. Han,  Overdetermined PDE systems of generic type,  RIMS-GARC Lecturnote Series 53,  November  2007