CR 기하란 무엇인가

한종규

CR 기하는 경계를 가진 복소다양체의 경계면의 기하이다.   마치 검은 비닐봉지에 여러 개의 과일을 담았을 때 비닐봉지의 겉모양만을 보고 그 안에  배가 몇 개 사과가 몇 개 있는지 알고자하는 경우처럼,  경계면의 기하로부터 경계면이 둘러싸고 있는 복소다양체의 함수론적인 성질을 규명하는 것이 CR 기하의 일차적인 목적이다.  “CR" 은 코시-리만 의 첫 글자를 딴 것이다.   복소변수의 개수가 2 이상인 경우 코시-리만 방정식은 과결정*, 즉, 미지수의 개수보다 방정식의 개수가 더 많은 방정식이다.  CR 기하는  과결정성에서 오는 수학적 현상인  국소적 불변량의 존재와 이와 관련하여  연립편미분방정식의 가해성*,  외미분계의 대합성(involutivity)  에 대한  새로운 관점과 통찰을 제공해 주는 등의  이유로  복소함수론과 무관하게  그 자체로 흥미의 대상이 되기도 한다.

일반적으로 미분다양체에 부여된 기하적구조를 이해하는  해석학적인 접근방법은 불변미분작용소*의 해의 존재와 그 성질을 연구하는 것이다.  코시-리만작용소  [eqn: bar partial] 는 복소다양체의 불변미분작용소이다.  복소다양체는 불변미분작용소가 곧 기하적구조를 정의하는 경우인데

복소다양체란 코시-리만 방정식이 정의된 다양체를 의미한다.

코시-리만 방정식의 해, 즉, [eqn: bar partial u] = 0 의 해  를  정칙*함수  라 부른다.  그러면 복소다양체의 경계면에서는 어떤 함수가 내부의 정칙함수의 경계치가 될 수 있는가?

경계면의 복소함수  가 내부의 정칙함수의 경계치가 되기 위하여는 우선 [eqn: bar partial u = 0] 의 경계면에 접하는 성분  [eqn: bar {partial} _b u] 가 영이 되어야 한다. 이를 접 코시-리만 방정식*  이라 부른다.   CR 다양체란 접 코시-리만 작용소  [eqn: bar{Partial _{b}}] 를 불변미분작용소로 갖는 미분다양체이다.  [eqn: bar partial] 의 과결정성이 경계면의 [eqn: bar partial _b] 를 유도된다는 사실이 의미하는 바를 기하적으로 표현한 것이 CR 기하이다.    이 글에서는 편의상 모든 다양체와 함수가 매끈한 ([eqn: C^{infty}]) 범주에 속한다고 가정하겠다.

실초곡면과 추상적 CR다양체

[eqn: OMEGA `] 를 복소유클리드 공간 [eqn: C^{n+1}] 의  유계영역이라 하자. CR 기하에서는 복소유클리드 공간의 차원을 [eqn: n+1],  [eqn: n ge 1],  로 잡는 것이 보통이다.  [eqn: OMEGA `] 에서 정의된 복소함수 [eqn: u(z_1, bar z_1, cdots, z_n, bar z_n )] 가 변수 [eqn: ( bar{z _{1}} , ... ,bar{z _{n}})] 에 무관하면, 즉, [eqn: u] 가 코시-리만 방정식

(1)          [eqn: { PARTIAL u} over { PARTIAL bar z_j} = 0],       [eqn: j=1, cdots, n+1]

을 만족하면 [eqn: u] 를 정칙함수라 부른다.      이제  경계면 [eqn: b OMEGA] 가 매끈하다고 가정하고 국소적으로  실초곡면* [eqn: b OMEGA] 가  미분가능한 실함수 [eqn: rho] 의 영점의 집합이라 하자.  이 경우 복소벡터마당*  [eqn: L = sum_{j=1}^n+1 a_j { partial} over {partial {bar{z}}_j }]  이   [eqn: b OMEGA] 에  접하면, 즉, [eqn: L rho = 0]  을 만족하면,   [eqn: L] 을  접 코시-리만 작용소라 부른다.         [eqn: b OMEGA] 에서 정의된 함수 [eqn: u] 가 내부의 정칙함수의 경계치가 되려면  [eqn: u] 는  접 코시-리만 방정식

(2)     [eqn: Lu=0],

즉

(2‘)         [eqn: sum_{j=1}^n+1 a_j { partial u} over {partial {bar z}_j } = 0],         단  [eqn: sum_{j=1}^n+1 a_j { partial rho} over {partial {bar z}_j } = 0]

을 만족하여야 한다.    위에서와 같이 실초곡면 [eqn: M]이 함수 [eqn: rho] ([eqn: d rho neq 0]) 의 영점집합이면  [eqn: rho] 를 [eqn: M] 의 정의함수* 라 부르자.

경계면 [eqn: b OMEGA]:=[eqn: M]   또는 보다 일반적으로   의 실초곡면 [eqn: M] 에서  접 코시-리만 작용소들의 일차결합으로 표현되는 복소벡터들의 집합을 ℧ 이라 하면 ℧은 복소화된 접벡터다발

[eqn: C OTIMES TM]  의 부분다발이며 다음과 같은 성질을 갖는다:

(3)   [℧ , ℧] [eqn: SUBSET]  ℧     (integrability 조건)

(4)     ℧[eqn: SMALLINTER] [eqn: bar ℧] = {0}.

추상적 CR 다양체는 실초곡면 [eqn: M] 의 접 코시-리만 작용소가 갖는 이같은 성질을 갖는 다양체를 의미한다.

정의 (초곡면 형의 CR 주조):  [eqn: M] 이 ,  차원 ) 실다양체이고  [eqn: M] 의 복소화된 접벡터다발  [eqn: C OTIMES TM] 의 계수 [eqn: n] 의 부분다발 ℧ 가 존재하여 (3)-(4)를 만족하면  ℧ 를 [eqn: M] 의 CR 구조 (혹은 초곡면형의 CR 구조)라 부른다.  CR 다양체 (,℧ )에서 정의된 미분가능한 복소함수 [eqn: u] 가 CR 함수라 함은  ℧ 의 임의의 절단 [eqn: L] 에 대하여  (2) 를 만족함을 의미한다.

CR 기하학의 초기역사

실초곡면의 CR 구조와 접 코시-리만 방정식이란 개념은 20세기 초 다변수복소함수론이 태동될 때 함께 태어나게 되었다.  CR 이란 개념이 형성되고 이론이 발전하게 된 것은  다음 세가지 수학적인 발견에 기인한다.

첫째,  하르톡스 확장현상의 발견 (1906년),

둘째,  실초곡면에는 정칙변환에 대한 국소불변량이 존재하며 경계면의 국소불변량을 비교함으로 복소영역의 정칙동형 여부를 판정할 수 있다는 포앙카레의 관찰 (1907년),

셋째, CR 함수의 확장가능성과 접 코시-리만 방정식의 불가해성에 관한 레위* 의 일련의 관찰 (1956~57)

등이 그것이다. 이 세 가지를  차례로 살펴보겠다.

하르톡스는 다음 사실을 관찰하였다:  , 2, 의 환형영역*, 예컨대,  [eqn: C^{2}] 에서 반지름 1인 열린 공 [eqn: |z_{1}| ^{2} `+` |z_{2}| ^{2} < 1] 을 [eqn: OMEGA_1] 이라하고  반지름 [eqn: 1/2] 인 동심의 공을 [eqn: OMEGA_2] 라 할 때  [eqn: OMEGA _{1} - OMEGA _{2}] 의 정칙함수는 자동적으로 [eqn: OMEGA_1] 전체로 확장된다 (하르톡스 의 확장현상).  이 발견으로부터  더 이상 확장할 수 없는 영역고유의 함수를 갖는 영역임을 의미하는  정칙대역* 이란 개념이 나오게 되었다.  볼록영역은 정칙대역이다.  볼록영역과 정칙동형*인 영역도 역시 정칙대역이다.  여기서 여러 가지 의사볼록*  영역이란 개념이 나오게 되었다.  20세기초부터 1960년대까지 정칙대역을 기하적으로 규명하고자 하는 소위 레비* 문제, 즉,  정칙대역 개념과 의사볼록 개념은 동치인가 하는 문제를  축으로 하여 다변수복소함수론 이론이 발전하게 되었다.   영역의 경계면이 매끄러운 경우는 하르톡스 확장현상과 레비 문제는  전적으로 경계면의 CR 구조에 에 관한 문제가 된다.   이 얘기를 하기 앞서  추상CR 다양체 [eqn: (M ^{2n+1,](℧) 의 레비 형식을 정의하자. 복소벡터 [eqn: IN]℧ 을 실수부분과 허수부분으로 나누어 [eqn: L=X+iY] 라 쓸 때 [eqn: X] 와 [eqn: Y] 들의 집합은 실접벡터 다발 [eqn: TM] 의 계수* [eqn: 2n] 부분다발 [eqn: H(M)] 을 이룬다.  이제 선다발 [eqn: H(M)^{ BOT} SUBSET T^{*}M] 의 임의의 절단 [eqn: theta] 를 선택하여  ℧ 위에 허미션 2차형식인 레비형식 [eqn: LAPLACE]를 아래와 같이 정의한다.

(5)   [eqn: LAPLACE(L_1, L_2 ) = d theta ([L_1 , {bar L}_2 ])],   단  [eqn: L _{1}] 과 [eqn: L _{2}] 는  ℧ 의 절단.

특별히 [eqn: M] 이 [eqn: C ^{{n+1}}] 에서 실함수 [eqn: rho] 의 영점집합으로 정의된 실초곡면일 경우에는

[eqn: theta = i partial rho] 이고 따라서 레비형식은 [eqn: i bar {partial} partial rho] 이다.   레비 형식의 고유치가 모두 영 이상 일때 CR 구조는 레비-의사볼록*,  고유치가 모두 양일때 강의사볼록* 이라 말한다.  강의사볼록인 경우를 포함해서 레비형식이 비퇴화인 경우, 즉 고유치가 어느 것도 영이 아닐때

[eqn: theta wedge (d theta)^n neq 0]

이므로 [eqn: theta] 는 접촉형식* 이다.

강의사 볼록일 필요충분 조건은 양방정칙사상으로 강 볼록하게 변형시킬 수 있다는 것이다.

레비 형식의 고유치가 항등적으로 영인 경우 CR 다양체는  평평하다 (flat) 고 말한다.   실초곡면의 레비 형식은 리만 기하에서 초곡면의 2차근본형식에 해당하는 개념이다.  이제 매끈한 경계면을 갖는 [eqn: C^{n+1}] ([eqn: n ge 1]) 의 유계영역 [eqn: OMEGA] 에 대하여는 다음 두 정리가 성립한다.

첫째, 하르톡스 확장 현상:  [eqn: bar OMEGA] 의 여집합이 연결되어 있으면 [eqn: OMEGA]의 경계면에서 정의된 CR 함수는 [eqn: OMEGA] 내부의 정칙함수로 확장된다.

둘째, 레비 문제의 해답:   [eqn: OMEGA] 가 정칙대역일 필요충분 조건은 경계면이 의사볼록 하다는 것이다.

1960년대에 발달된 [eqn: bar partial] 이론의 관점에서 저술한 훼르만더의 다변수복소함수론 교과서 (1966년 초판 발행) 에 위의 두 정리가 서술되어 있다.  경계면의 기하와 레비문제를 최초로 연구한 레비*  는 하르톡스 와 함께 다변수복소함수론의 태동기에 활동한 사람이다.  피사 대학을 졸업하고 제노바 대학의 교수가 되었으나   1차 세계대전에 참전하여 34세의 나이에 아깝게도 전사하고 말았다.

CR 기하를 태동하게 한 또 하나의 흐름은 리만사상정리 (1851년) 를 다변수로 얼마나 확장 할 수 있겠는가 하는 문제이었다.  포앙카레는 [eqn: C^2] 의 단위구 [eqn: |z_{1}|^2 + |z_{2}|^2 < 1] 의 정칙자기동형군과  단위원의 데카르트 곱 (polydisc)    [eqn: |z_{1}|<1],  [eqn: |z_{2}|<1]  의 정칙자기동형군을 각각 구하고 이 두 군이 동형이 아님을 보임으로 두 영역 사이에  양방정칙사상* 이 존재할 수 없음을 보였다.   그는 또한 매끄러운 경계면을 갖는 두 영역사이에 양방정칙사상이  만일 존재한다면 경계면까지 [eqn: C^{infty}] 일 것이라 추측하였다. 이 추측은 아직 특수한 경우 밖에 증명되지 못하고 있다.   이 추측이 참이라면  리만 사상정리의 다변수로의 확장문제, 혹은 영역의 분류문제는  초곡면 사이의 CR 동형여부를 묻는 문제로 귀착된다.  포앙카레는 또한 초곡면에는 양방정칙사상에 관한 국소적불변량이 존재한다는 사실을 처음으로 언급하였다.  프린스턴 대학 교수 찰스 페퍼만은  강의사볼록인 경우의 포앙카레 추측, 즉,  강의사볼록영역 사이의 정칙동형사상은 경계면까지의 미분가능하다는 사실을  증명하여 1974년  필즈상을 수상하였다.

복소변수 계수를 가진 선형 연립편미분방정식으로서의 접 코시-리만 방정식에 관한 연구는 유명한 레위작용소 가 소개된 이후,  20세기 후반에 활기를 띠웠다.

레위 작용소란 3변수의 공간    에 정의된 일계 선형편미분연산자

(6)     = [eqn: { partial } over {partial x } + i {partial } over {partial y } - 2i(x+iy) { partial } over {partial t }]

인데  레위는 1957년에 애널스에 발표한 4쪽 짜리 짤막한  논문에서  [eqn: Lu = f(t)] 가 원점의 부근에서 해를  가지면 [eqn: f] 는 해석적이어야 한다는 기묘한 관찰을 발표하였다.    [eqn: L] 은 [eqn: C^{ 2}] 의 구면 [eqn: S^{ 3}] 상의 접 코시-리만 작용소를  국소좌표로 표현한 것인데  이는  1변수 복소함수론의 기본정리중 하나인 슈바르츠 반사원리:  상반면에서 정칙인 함수가 실축까지 연속이고 실축에서 실수값을 가지면 실축너머로 정칙 확장된다는 정리를  이용하여 [eqn: f(t)]가 해석적임을 보였다.    따라서 해석적이 아닌 우변에 대하여는 이 단순한 1계선형 편미방 (6) 은 해를 갖지 못하며 초함수 범주에서도 해를 갖지 못한다.  레위는 이 논문을 위시하여 접 코시-리만 방정식에 관한 일련의 논문을 발표하였는데  그 후 지금까지 활발히 연구되고 있는  CR 함수의 정칙확장문제,   편미분방정식의 가해성* 문제에 관한 논문들의 효시가 되었다.

이상  개략적으로 살펴본 바와 같이 접 코시-리만 방정식, CR 함수 등의 아이디어는 20세기 초부터 알려져 있었지만   “접 코시-리만 콤플렉스 ([eqn: bar partial_b] complex)” 는 1965년 콘과 로시 가,   “CR" 이란 말은 1968년  S. 그린필드 가 처음으로 사용하여 그 후에 널리 통용되고 있다.

국소적 CR 불변량

다양체의 기하학은 국소적 불변량을 규명하는 국소적 기하가 존재하는 경우와  국소적 불변량이 존재하지 않는 경우로 대별된다.  리만 다양체에는 곡률텐서가 국소적 불변량이다.    복소다양체는 국소적으로 [eqn: C^n] 과 같으므로 국소적 불변량은 존재하지 않는다.   국소적 기하가 존재하는 기하는 리만기하, 등각기하, CR 기하 등이다.  기하적 구조를 가진 미분다양체의 국소적 불변량을 논하기 위하여는 먼저  하나의 국소적 변환군과  이 군이 작용하는 기하적 대상의 집합을 설정해야 한다.   CR 구조로 돌아가서 지금부터는 레비형식이 비퇴화된 경우만을 논의하기로 하자.

CR 구조의 국소적 불변량 중에서 가장 기본적인 것은 레비 형식의 부호수*  이다.   [eqn: C^{n+1}]  혹은 [eqn: n+1] 차원 복소다양체의 실초곡면 [eqn: M^{2n+1}]  과  관련하여 다음 세가지 국소변환군을 생각할 수 있다.  첫째  CR 변환군 [eqn: G_{CR}]  은 [eqn: M] 의 CR 동형사상들의 집합,   의사등각변환군 [eqn: G_{PC}] 는 [eqn: M] 의 열린근방의 양방정칙사상*으로 [eqn: M]을 [eqn: M]으로 보내는 사상들의 집합,  그리고 의사허미션군 [eqn: G_{PH}] 은 [eqn: M]의 특정한 접촉형식 [eqn: theta] 를 보존하는 CR 동형사상들의 집합이다.  이들 사이의 포함관계는

[eqn: G_{PC}] [eqn: subset] [eqn: G_{CR}],      그리고  [eqn: G_{PH} subset G_{ CR}]

이며   레비형식이  음과 양의 고유치를 모두 가질 때는  [eqn: G_{CR}]  과 [eqn: G_PC}]  은 같다.

[eqn: G_PC}] 에 관한 불변량을 의사 등각불변량*,  [eqn: G_{CR}] 에 관한 불변량을 CR 불변량,  [eqn: G_{PH}] 에 관한 불변량을 의사 허미션불변량* 이라 부른다.  불변량의 집합들의 포함관계는 아래와 같다:

{CR 불변량}[eqn: SUBSET]{의사등각 불변량},    그리고  {CR 불변량}[eqn: SUBSET]{의사 허미션불변량}.

레비형식이 양과 음의 고유치를 모두 갖는 경우에는 CR 불변량과 의사등각 불변량은 같다.의사등각 이란 말은   카르탄*이  1932년 논문에서 처음 사용하였다.

1907년 경에 포앙카레는 해석적인 초곡면의 경우  의사 등각불변량이 존재한다는 사실을 다음과 같이 설명하였다.

“복소2변수의 공간 [eqn: C^{ 2}] 의 하나의 초곡면은 국소적으로 3개의 실변수에 관한 하나의 실함수의 그래프이고  양방정칙사상은  2개의 복소변수에 관한 2개의 복소함수로 주어진다. 이제 각 경우에 수렴하는 멱급수의 집합을 생각하면  [eqn: m] 계이하의 미분계수는 3변수의 실함수 쪽이 [eqn: m] 의 값이 커질 때 2개의 복소함수의 경우보다 훨씬 더 많아진다.  그러므로 실초곡면의 정의함수의 미분으로 표현되는 어떤 불변량이 존재해야 한다.”

이것을 흔히 포앙카레의 설명 (heuristic) 이라 부르는데  이 설명을 듣고 나서도  그의 아이디어가 무엇인지 정확히 알기는 어려운 것 같다.

카르탄의 동치방법

20세기 초에 E. 카르탄* 은  19세기 후반의 수학의  두개의 큰 흐름, 즉 가우스-리만의 내재적*기하와  클라인-리 의 연속군 이론을  결합하는 진일보된 이론을 창안하였다.   카르탄은 다양체에 작용하는 변환군이 아니라 움직이는 틀* 에 작용하는 변환군을 생각하였다.  [eqn: G]-구조의 동치방법* 이 그것인데, 이 이론에서  종래의 여러 가지 국소적 불변량이란 개념이 구체적인 함수 혹은 텐서마당*이란  계산가능한 형태로 다시 태어나게 되었다.    [eqn: G] 를 [eqn: n times n] 행렬군의 닫힌 부분군이라 하자.   다양체 [eqn: M^n] 위에 틀마당* 이란  [eqn: n] 개의 독립인 벡터마당의 집합 [eqn: e = (e_1 , cdots , e_n )] 을 말한다.   [eqn: M] 위의 [eqn: G]-구조란 틀마당 전체의 다발  [eqn: F(M) rarrow M] 의 부분다발로   군 [eqn: G] 의 작용에 관한 동치관계에 있는 틀마당들의 집합이다.   즉, 두 개의 틀마당 [eqn: e] 와 [eqn: e'] 이  [eqn: G] 작용에 관해 동치라 함은  [eqn: e' = g e] 인 [eqn: g in G] 가 존재함을 말한다.  예컨대, 리만 구조란 직교행렬군 [eqn: O(n)] 구조이고 [eqn: M^{2n}] 위의 준복소구조는 [eqn: 2n times 2n] 행렬로 본 복소 [eqn: n times n] 가역행렬들의 군 [eqn: GL(n, C)] 구조이다.  리만 다양체에 국소 불변량이 존재하는 것은 전적으로 [eqn: O(n)] 이 유한형이란 사실,  군의 구조 때문이다.  벡터마당의 미분을 다룰 때는 벡터마당 대신 그것의 쌍대적 개념인 미분형식을  사용하는 것이 계산상 절대로 유리하다는 사실은 카르탄 보다 한세대 전 프로베니우스* 시대에  이미 알려져 있었다.  카르탄도 [eqn: G]-구조이론을 전개할 때 벡터마당 대신 미분형식을 사용하였다.

다양체 [eqn: M^n] 위에  독립인 [eqn: n] 개의 [eqn: 1]차 형식 [eqn: theta = (theta^1, cdots , theta^n )^t] 들이 이루는 틀다발의 부분다발  [eqn: pi :] [eqn: P rarrow M] 이 있어서  각각의 fibre [eqn: pi^{-1} (x)] 은 어느 하나의 틀 [eqn: theta] [eqn: in P] 에 대한 군작용궤적 [eqn: G(theta)] 와 같을 때 이 부분 틀다발 [eqn: P] 를 [eqn: M] 위의 하나의 [eqn: G]-구조라 부른다.    같은 [eqn: n] 차원의 두 다양체 [eqn: M] 과 [eqn: M``'] 에 각각 [eqn: P] 와 [eqn: P``'] 이란   [eqn: G]-구조 가 있다고 하자.  이제 [eqn: P] 의 절단*인 틀마당 [eqn: theta] 와 [eqn: M``'] 의 절단 [eqn: theta `` prime] 을 선택하자.  사상 [eqn: f : M rarrow M ^{ prime}] 이 [eqn: G] 구조의 동치사상이라 함은

(8)   [eqn: F^* theta' = g theta],    단  [eqn: g: M rarrow G] 는 미분가능한 사상,

을 만족하는 [eqn: g] 가 존재함을 의미한다.  예를 들면 두 리만 다양체 [eqn: M^n] 과 [eqn: M'^n] 사이에 등장사상* 이 존재하겠는가 하는 문제가 [eqn: O(n)]-구조의 동치문제이다.  카르탄은 그의 접속*이론을 이용하여 동치문제에 접근하고 있다.    이제 다양체 ([eqn: M,][eqn: G]) 위의  틀마당 ([eqn: P] 의 단절) [eqn: theta] 를 생각하자.  [eqn: M]상의 한 점에서 모든 가능한 틀마당은 군 [eqn: G]를 작용하여 얻는 것이다. [eqn: G] 의 단위원소에서의 미소변화, 즉, [eqn: G]의 리-대수를 ℊ 라 하면

(9)     [eqn: d theta = - omega wedge theta]

를 만족하도록 ℊ 값을 갖는 일차형식 [eqn: omega] 를 미리 정해놓은 표준적인 방법으로 유일하게 구할 수 있다고 가정하자.    리만구조인 경우에 [eqn: omega] 는 추가적인 조건 없이 유일하게 결정된다 (레비-치비타 접속).   군이 너무 작으면 [eqn: omega] 는 존재하지 않는다.  [eqn: omega] 를 [eqn: G]-구조의 접속이라 부른다.

접속 [eqn: omega] 는 다발 [eqn: P] 수준으로 다음과 같이 올려진다.

[eqn: P] 는 국소적으로 [eqn: M times G] 와 같다.  임의의 점 [eqn: (x, g) in M times G] 에서 일차형식

(10)    [eqn: Theta(x,g):= g theta(x)]

을 미분하면 [eqn: d Theta = dg wedge theta + g d theta]  이고  (10) 으로부터 얻은 [eqn: theta = g^{-1} Theta] 와 (9)를 여기에 대입하면

(11)  [eqn: d Theta = (dg g^{-1} - g omega g^{-1}) wedge Theta]

을 얻는다.  괄호 안의 양

(12)  [eqn: Omega := dg g^{-1} - g omega g^{-1}]

은 리-대수  ℊ 값을 가진다.   이제 [eqn: (Theta, Omega)] 는 [eqn: P] 의 틀마당이 된다.

카르탄은 다음과 같이 동치문제에 접근하였다.  [eqn: M] 과 [eqn: M^{ prime}] 상에 각각 주어진 틀마당 [eqn: theta, theta'] 에 대하여 (8)을 만족하는 사상 [eqn: F] 가 존재한다면 다음 도식과 같이 [eqn: F:M` -> `M prime] 은 는 틀다발 수준의 사상

[eqn: Phi: P rarrow P'] 으로  올려진다:

(13)             [eqn: {matrix{P&-> ^{PHI }&P ^{prime }# downarrow & & downarrow #M&rarrow^{F}&M^{ '}}}]

뿐만 아니라 [eqn: (Theta', Omega')] 을 위와 같이 유일하게 결정된 [eqn: P'] 의 틀마당이라 하면  위로 올려진 사상 [eqn: Phi] 는 이들 틀마당을 보존한다, 즉

(14)  [eqn: Phi ^* Theta' = Theta],   그리고    [eqn: Phi^* Omega' = Omega].

(14) 의 해 [eqn: Phi] 는 해가 존재하면 한 점의 0번째 젵, 즉 [eqn: Phi(0)=0] 라는 한 점에서의 정보로 완전히 결정된다.  (14)는 {e}-구조의 동치문제이다.  카르탄의 동치방법은 G-구조의 문제를 {e}-구조의 문제로 환원시키는 과정을 말한다.  ([eqn: Theta, Omega]) 를 불변량의 완비계* 라 부른다.

카르탄-타나카-천-모저 이론

1932년 카르탄은 [eqn: C^2] 의 실초곡면의 의사등각 불변량의 완비계를  상술한 바와 같은 그 자신의  동치방법을 적용하여 계산하였다.  일반적인 차원 [eqn: C^{n+1}],  [eqn: n ge 1,] 의 실초곡면에 관한 의사등각 불변량은 1960 년대 타나카*가 특별한 가정하에 계산하였다.   가장 일반적인 결과는 비퇴화된 레비 형식을 갖는 CR 구조의 CR 불변량의 완비계를 계산하여 1974년 Acta Math. 에 출판된 천-모저의 논문이다.  이 논문 역시 카르탄의 움직이는 틀과 동치방법을 사용한 것이었다.    추상적 CR 다양체 [eqn: M^{2n+1}] 의 CR 구조에 부합하는 틀 마당은

(15)    [eqn: (theta, theta^{1}, cdots , theta^{n}, bar theta ^1 , cdots , bar theta ^n )], 여기서 [eqn: theta] 는 실1차형식,  [eqn: theta^j], [eqn: bar theta^j], [eqn: j=1, cdots , n] 은 복소1형식

꼴이고 여기 작용하는 군 [eqn: G] 는

[eqn: bmatrix { u&0 &0 # *&A &0 #bar * &0 &bar A }],     단   [eqn: u] 는 실수,   * 는 복소 n-벡터,  [eqn: A in GL(n,C)]

꼴의 행렬들의 집합이다.   그러나 이 [eqn: G]-구조에 관하여는 접속, 즉, 불변량의 완비계 [eqn: (Theta, Omega)] 를 계산할 수가 없다.  CR 구조에 관하여는 접촉형식 [eqn: theta] 대신 [eqn: u theta], [eqn: u>0], 를 선택하여도 무방하므로 선다발 {[eqn: u theta]}:= [eqn: E rarrow M] 에서 카르탄의 동치방법을 적용한다.

선다발 [eqn: E] 위에서 틀마당 [eqn: omega, omega^{alpha} , { bar{ omega}}^{alpha}], [eqn: alpha =1, cdots, n], 을 적절히 선택하여

(16)   [eqn: d omega = i g_{alpha bar beta} omega^{alpha} wedge {bar omega}^{beta} + omega wedge phi],    단 [eqn: omega], [eqn: phi] 는 실1차형식,    [eqn: omega^alpha] 는 복소1차형식,

[eqn: g_{alpha bar beta}] 는 상수로 레비형식과 같은 부호수,

를 만족하게 할 수 있다.  (16)을 만족하는 [eqn: E] 의 틀마당 전체의 집합을 [eqn: Y] 라 두자.  레비형식의 부호수를 [eqn: (p,q)] 라 하면 이때 틀에 작용하는 군 [eqn: G_1] 은 [eqn: SU(p+1, q+1)] 을 유한 정규부분군으로 나눈  몫군의 부분군이다.    이 [eqn: G_1] 구조    [eqn: Y rarrow E]  에 대한 불변량의 완비계를 카르탄의 동치방법론으로 계산한 것이  천-모저의 논문의 골자이다.

국소불변량에 대한 다른 관점들

CR 불변량 혹은 보다 일반적으로 기하적 구조의 국소불변량을 보는 여러 가지 다른 시각이 있을 수 있다.   포앙카레의 관점, 카르탄 의 관점도 그 여러 관점들 중 하나일 뿐이다.  예컨대 “의사 등각불변량“ 이란 개념을  정의함수의 집합에서 생각해 보면

[eqn: C^2] 의 원점 부근에서 정의된 실함수 [eqn: rho] ([eqn: d rho neq 0], [eqn: rho(O)=0]) 들의 집합을 원점을 고정하는 양방정칙사상들의 국소적 군[eqn: G_{PC}] 작용에 관한 동치류로 분해할 때,   두 정의함수  [eqn: rho] 와 [eqn: r] 이 양방정칙사상 [eqn: F] 에 대하여

(17)   [eqn: rho ```=`r CIRC F]

인 관계라면 [eqn: rho] 와 [eqn: r] 은 의사정칙동형인 초곡면을 각각 정의한다.  (17) 을 연쇄법칙으로  계속 미분하여 충분히 큰 차수의 미분에까지 이르면  [eqn: F] 의 미분의 개수가 두 실함수의 미분의 개수보다 적으므로 대부분의 경우에는 어느 차수 이하의  [eqn: F] 의 모든 미분을 [eqn: rho] 와 [eqn: r] 의 미분으로 표현할 수 있게 된다.  이를 (17) 의 다음 단계의 미분에서 치환하면 [eqn: rho] 의 미분과 [eqn: r] 의 미분사이에 직접적인 관계를 얻는다.  여기서 만일  [eqn: rho] 의 미분과   [eqn: r] 의 미분을 등식의 양변으로 분리시킬 수 있다 가정하자.  [eqn: rho] 가 주어진 함수라면 이 때 등식의 반대쪽 [eqn: r] 의 미분으로 표현이 양이  [eqn: G_{PC}] 군작용에 관한 정의함수의 불변량이 된다.

마지막으로 의사 등각사상에 관한 국소불변량을 과결정연립편미분 방정식의 가해성의 관점에서 보도록 하자.  예를 들어 [eqn: C^2] = {(z,w)} 의 원점의 부근에서 주어진 실함수

[eqn: rho(z, bar z, w, bar w)], [eqn: d rho neq 0], 의 영점 집합을 [eqn: M] 이라하자.    [eqn: M] 이 구면과 양방정칙함수에 의하여 합동이 되려면 (즉 의사등각 동치) [eqn: rho] 가 어떤 조건을 만족해야 하는가?  이것이 구면의 국소불변량이다.  우리는 먼저 [eqn: M] 의 접 코시-리만 작용소

(18)   [eqn: L := { partial} over {partial bar z } - { rho_{bar z}} over { rho _{bar w}} { partial} over {partial bar w }]

와 [eqn: M] 의 복소접벡터 공간에 포함되지 아니하는  실벡터마당 [eqn: T] 를 택하여 {[eqn: L, bar L , T]} 로    접벡터다발 [eqn: T(M)] 의  기저로 삼자.  이제 정칙사상  [eqn: F(z,w) :=(f(z,w), g(z,w))] 이 [eqn: M] 을 단위구면으로 보낸다면  [eqn: M] 위에서는

(19)  [eqn: f bar f + g bar g = 1]

이 만족 될 것이다.  이제 (19)에 벡터마당 [eqn: L, bar L, T]  방향미분을  적절한 순서로 계속 해 나가면서  접 코시리만 방정식

(20) [eqn: Lf = 0,]    [eqn: Lg=0]

을 이용하여 위수를 낮추는 작업을 병행해 나가면 [eqn: (f,g)] 의 모든 3계 미분을 하위 미분으로 표현할 수 있다.  이런 경우를 3계의 미분 완비계라 부른다.  완비계는 과결정성의 극단이라 할 수 있다.  이런 경우에는 연립 편미분 방정식 (19)-(20) 의 해가 존재할 조건, 즉 양립성조건*을 이 미방의 계수의 유한한 미분으로 표현할 수 있다.  이 표현이 구면의 국소CR불변량이다.

국내외의 연구동향

CR 기하의 주요 연구 흐름들은 다음과 같다.

CR 국소매장문제:   추상CR 구조가 복소공간의 어느 실초곡면과 CR동형이 되겠는가 하는 문제.  추상CR 다양체가 해석적일 때는 항상 매장가능하다.  [eqn: C^{infty}] 범주에서는  강의사볼록이란 가정하에서 1980년대 초에 콜럼비아 대학의 쿠라니시* 교수가  CR 다양체의 차원이 9 이상일 때 매장가능함을 증명하였고 7이상 일때는 일본의 아카호리 교수가 증명하였다.  3차원일때는 매장 불가한 예가 있고 5차원 경우는 미해결 문제로 남아있다.

대역적 불변량:  3차원 콤팩트 강의사볼록 CR 다양체의 대역적불변량에 대한  번즈*와 엡스타인의  1988년 인벤치온 학술지에 게재된 논문이 대역적 불변량 논문 중 가장 먼저 나온 듯 하다. 위의 두 사람 외에 스티븐 야우 교수와 몇 사람이 대역적불변량에 관한 연구를 그 즈음부터 관심을 갖고 연구해오고 있다.  3차원의 경우 (15) 와 같은 CR 구조에 관한 틀마당 [eqn: (theta, theta^1 , bar theta^1 )] 에 대하여  부피형식 (미분 3-형식) [eqn: theta wedge theta^1 wedge bar theta^1]  을 보면  다른 틀마당을 선택할 때는 완전미분형식* 만큼 차이가 난다.  코호몰로지 류 [[eqn: theta wedge theta^1 wedge bar theta^1]] 의 적분값은 대역적 불변량(특성수)이다.  이와 대비되어 3차원 콤팩트 리만 다양체 [eqn: N]의 특성수는  [eqn: N] 이  [eqn: R^4] 에 등각 매장* 되지 못하게 하는 장애요인이 된다는 1970년대의 천-사이몬의 연구결과가 있다.  그러나 CR 경우에는 [eqn: C^2] 에 초곡면은 어떤 양수값도 특성수로 가질 수 있다.  그 후에 고차원에 대한 후속연구도 있었다.

한편 일본의 미야지마 교수와 아카호리 교수는 고립특이점을 갖는 복소다양체의 경계면의 CR 구조에서 내부의 특이성(singularity) 이 경계면의 대역적 구조에 어떤 영향을 미치는가 하는 문제를 학생시절부터 오랜 세월 연구하였다.  이 두분은 그 경험을 바탕으로 근래는 사교기하학의 유사한 문제를 연구하고 있다고 한다.

CR 함수의 정칙확장문제,    쐐기의 날*,

복소공간의 실초곡면에서 정의된 CR 함수를 주위공간의 정칙함수로 확장하는 문제는 1950년대 한스 레위의 발견이후 꾸준히 여러사람들이 연구해 온 주제이다.  방법론은 크게 두가지이다.

첫째는 해석적원반 방법 (analytic disc method) 인데 이 방법은  일변수 [eqn: C^1] 의 원반 (disc) 을 [eqn: C^{n+1}] 에 매장시키되  원반의 둘레가  주어진 초곡면 [eqn: M] [eqn: subset C^{n+1}] 에 놓이도록 하여

[eqn: M] 위에 정의된 CR 함수를 경계값으로 하여 코시-리만 적분공식으로 원반 내부로 확장하는 방법이다.  이 방법에서 가장 핵심적인 문제는 원반을 [eqn: (2n+1-2)] 개의 매개변수 족의 해석적 원반으로 M 을 경계면으로 갖는 열린집합을 채워야 하는 과정인데 여기서 비숍의 방법을 사용한다.   두 번째는 푸리에 변환과 열방정식의 초기치문제에서 발전된 기법을 사용하는 방법인데 바오웬디, 트레브스 등이 1980년대 전후하여 이 방법으로 CR 함수의 확장을  연구하였다.

한스 레위의 50년대의 연구결과 이후에 CR 함수의 정칙연장에 관한 가장 중요한 결과는 해석적원반 방법을 사용한 트레프로의 정리인데 실초곡면 M 이 복소초곡면을 포함하지 않으면 CR 함수는 적어도 한쪽으로는 확장된다는 것이다.  그러면 더 작은 실부분다양체의 함수중 정칙확장 되는 함수는 어떤 것들인가 하는 의문이 제기된다.  여기서 우리는 초곡면형이 아닌,  더 높은 여차원의 CR 다양체*라는 개념에 이르게 된다.

복소유클리드 공간 [eqn: C^{n+d}] 의 원점부근에서 정의된 실함수 [eqn: rho] = ([eqn: rho^1 , cdots , rho^d]) 의 공통 영점들의 집합 [eqn: M]을 생각해 보자.    [eqn: M] 이 미분다양체가 되기 위한 조건 [eqn: d rho^1 wedge cdots wedge d rho^d neq 0]  외에  다음 조건을 추가하자:   양정수 [eqn: j=1, cdots d] 에 대하여 [eqn: H_j] 를 초곡면 {[eqn: rho^j = 0]} 의 복소접평면의 다발이라 할 때  {[eqn: H_j]} 가 일반적인 위치에 있기를, 즉,  [eqn: SMALLINTER_{j=1}^n H _{j`}] 이 복소 n 차원이기를 요구한다.   [eqn: Gamma] [eqn: subset R^d]  를 원점을 꼭지점으로 하는 열린 뿔모양* 이라 할 때 [eqn: C^{n+d}] 의 부분집합 {[eqn: z: rho (z) in Gamma]} 를 [eqn: M] 을 날로 갖는 쐐기 라 부른다.   1988년에 발표된 투마노프* 의 정리는 쐐기의 날  [eqn: M] 이 어떤 가벼운 비퇴화 조건을 만족할 때  [eqn: M] 에서 정의된 CR 함수는 쐐기의 정칙함수로 확장된다는 것이다.   “쐐기의 날 정리“ 라 부르는 투마노프의 정리는 실초곡면, 즉  [eqn: d=1] 인 경우에 레위의 확장정리의 일반화이며 그 이후에   바오웬디, 에벤펠트, 로트차일드 등 캘리포니아 대학 산디에고 분교에 있는 수학자들이 그 후속연구를 많이 해오고 있다.

버그만 핵함수의 점근 전개식과 CR 불변량    일반적으로 기하구조의 국소적 불변량은 텐서마당으로 표현된다.  그 중 가장 원초적인 관심사는  물론 스칼라 불변량, 즉  (0,0)-형 텐서마당 이다.   리만구조의 경우 스칼라 곡률은 스칼라 불변량이다.   리만 다양체에서 열핵함수 [eqn: H(t,x,y)] 의 대각원소에 대한값 [eqn: H(t,x,x)] 은 초기 ([eqn: t=0]) 에 위치 [eqn: x] 에 단위열원을 놓았을 때 시간 [eqn: t>0] 에서 [eqn: x] 의 온도이다.  [eqn: t rarrow 0^+] 일 때 열핵함수의 대각원소에 대한 값은 무한대로 발산한다.  특이점 [eqn: t]=0 에 관한 점근전개식의 각 계수는 리만구조의 스칼라 불변량이다.      이와 대비되는 복소함수론과 CR 기하의 문제는 다음과 같다.

영역  [eqn: Omega subset C^{n+1}] 에서 정의된 [eqn: L^2] 정칙함수들의 집합은 힐베르트 공간을 이룬다. 이 함수공간의 정규직교기저를 {[eqn: phi^k]: [eqn: k=1, 2, cdots]} 라 할 때 [eqn: K(z,w):= sum_{k=1}^{infty} phi(z) bar {phi (w)}]  가 버그만 핵함수이다.   [eqn: C^{infty}] 경계면을 갖는 강의사볼록 유계영역  의 버그만 핵함수의 대각원소에 대한 값은 경계면으로 접근할 때 무한대로 발산한다.   정의함수 [eqn: r] 에 대하여,  [eqn: Omega =] {[eqn: r>0]},  버그만 핵함수의 대각원소에 대한 값을 의 특이점   [eqn: r = 0] 에 관한  점근전개식에서 각 계수는 CR 구조의 스칼라 불변량이 될 것인가?

이 문제의 해답을 리만다양체의 경우를 그대로 답습하여 얻을 수 없는 이유는 다음과 같다.

첫째,  열핵함수가 리만 구조의 불변량인데 반하여 버그만 핵함수는 양방정칙함수에 의하여 일정한 규칙을 가지고 변한다.  그러나 변환규칙이 간단하여 거의 불변량이라 볼 수 있다.

두 번째,  열핵함수의 경우 [eqn: t] 라는 변수는 “시간“ 이라는 물리적 의미를 갖는 보편적으로 주어진 변수임에 반하여  정의함수 [eqn: r] 은 영점집합을 변화시키지 않는 한 임의로 선택할 수 있는 변수이다.

위와 같은 이유로 정의함수 [eqn: r] 을 버그만 핵함수의 변환규칙에 맞게 잘 선택하면 버그만 핵함수의 점근전개식의 계수가 양방정칙사상에 의하여 간단한 변환식을 만족하며 변화하도록 거의 불변량이 되게 할 수 있다.    이 아이디어는 1970년대 초에 찰스 페퍼만이 착안하였고 오사카 대학의 코마추 교수와 동경대학의 히라치 교수가 발전시켜 오늘날은 다변수복소함수론의 중요한 이론으로 자리잡고 있다.    영역의 복소함수론과 경계면의 기하와의 연관성을 모색하는 CR 기하 본연의 목적에 가장 충실한 이론이라 할 수 있다.

켈러 다양체의 CR부분다양체, 이론 물리:  복소다양체에 추가적인 기하구조, 예컨대 켈러 거리계가 주어진 경우의 실부분다양체의 기하학을 한국과 일본의  일군의 기하학자들이 활발한 연구를 수행하고 있다.  이 분야는 복소함수론과의 연관성은 현저히 줄어든 대신 부분다양체위의 텐서해석 위주의 보다 고전적인 미분기하에 가깝다.   그리고 “물리적인 시공간과 매장불가능한 CR 구조“ 라는 제목하에 1983년 미국수학회 회보 (Bulletin) 에 실린 로저 펜로즈의 논문과 그 후속 연구들로 이루어진 물리학의 이론이 있다.    이 두 분야는  필자의 지식의 범위를 벗어나고 있다.

CR 다양체의 동력학계, 준복소 CR 다양체, CR 사상의 경직성, 해석성:     강의사볼록 CR 다양체위의 동력학계에 관하여 최근에  김강태 교수와 김성연 교수가  중요한 연구결과들을 내고 있다.  그 중 두 분의 공동논문 한편은  강의사볼록 CR 다양체위의  CR동형사상을 생성하는 벡터마당 (무한소CR 동형사상) 이 있어 한 점으로 빠져 들어가는 (sink) 점을 갖는다면 이 다양체는 구면과 동형이라는 내용인데 이 정리는 비컴팩트 정칙동형군 에 관한 왕-로제 정리를 경계면에서의 현상으로 설명하였다는 점에서 매우 흥미롭다.    이강혁-주재천-오종원 박사의 준복소공간의 실초곡면에 대한  의사 허미션 국소불변량을 계산하는 일련의 연구결과들이 있고  필자는 CR 사상의 해석성, 경직성을 연구한 바 있다.

국문-영문 대조표 (수학용어 및 인명)

가해성  solvability

강의사볼록  stronly pseudo-convex

계수 (階數)  rank

국소적 불변량  local invariant

과결정  overdetermined

내재적  intrinsic

더 높은 여차원의 CR 다양체    CR manifolds of higher codimensions

동치방법  equivalence method

등장사상  isometry,  isometric diffeomorphism

레비   Eugenio Elia Levi  (1883~1917)

레비형식  Levi form

레위   Hans Lewy (1904~1988),  괴팅겐 대학에서 1926년에 , R. 쿠란트를 지도교수로         박사학위 취득,   UC 버클리 교수 (1935~1972) 역임

마당, 장(場)  field

매장   embedding

모저   Jürgen Moser  (1928~1999)

번즈   Daniel Burns,  미시간 대학 교수, 필자의 박사학위 지도교수

부호수   signature

불변 미분작용소   invariant differential operator

뿔모양   cone

실초곡면   real hypersurface

쐐기의 날   edge of the wedge

양방정칙 사상   biholomorphic mapping

양립성조건   compatibility condition

완비계   complete system

완전미분형식   exact differential form

움직이는 틀   moving frame

위수   order

의사등각 불변량   pseudo-conformal invariant

의사볼록   pseudo-convex

의사허미션 불변량   pseudo-hermitian invariant

자기동형군  automorphism group

작용소  operator

절단   section

접촉형식  contact form

접 코시-리만 방정식 tangential Cauchy-Riemann equations

정의함수  defining function

정칙  holomorphic

정칙대역  domain of holomorphy

정칙동형  biholomorphic

천   Shiing-shen Chern (1911~2004)

카르탄    Elie Cartan  (1869~1951)

쿠라니시   Masatake Kuranishi,  콜럼비아 대학 교수

텐서마당   tensor field

투마노프   Alexander Tumanov,  일리노이 대학 교수

틀마당  frame field

프로베니우스  Ferdinand Georg Frobenius (1849~1917)

타나카   Noboru Tanaka,   교토 대학과 혹가이도 대학 교수 역임

하르톡스  Friedrich Hartogs (1874~1943) , 벨지움 태생, 뮌헨 대학교수 역임

환형영역   annular domain

끝