이차형식 이론 연구의 동향과 전망

Trends and Prospects in Researches of the Theory of Quadratic Forms

서울대학교 수학과 교수 김명환

이차형식 이론은 Gauss에 의하여 처음으로 체계적인 연구가 시작되었다. 그로부터 약 100년 후인 1900년에 개최된 제2회 ICM에서 Hilbert가 발표한 20세기의 중요한 수학문제 23문제 중에 이차형식 이론에 관한 문제가 두 문제(11번과 17번)나 포함됨으로써, 더욱 활발한 연구가 이루어졌다. 그 결과 Hasse 등에 의하여 국소-광역 이론이 개발되었으며, Hecke와 Siegel 등에 의하여 모듈라형식 이론이 접목되었으며, 동차의 이차 다항식 또는 대칭행렬 등으로만 이해되던 이차형식을 대칭이중선형사상(symmetric bilinear form)을 가진 공간 또는 격자로 이해하게 되었다.

이차형식 이론은 연구대상에 따라 체(field) 상의 이론과 환(ring) 상의 이론으로 나눌 수 있고, 연구주제에 따라서는 크게 분류(classification) 이론과 표현(representation) 이론, 구조(structure) 이론으로 나눌 수 있으며, 끝으로 연구방법에 따라서 산술적(arithmetic) 이론, 해석적(analytic) 이론, 기하적(geometric) 이론, 대수적(algebraic) 이론으로 나눌 수 있다.

1. 산술적 이론: 이차형식의 산술적 이론의 역사는 Pythagoras부터 시작되었다고 볼 수 있다. 그러나 체계적인 이론을 처음으로 정립한 것은 Gauss였으며, 그 후 19세기말까지  Euler, Lagrange 등에 의하여 큰 발전을 이루었다. 산술적 이론은 수체나 수체의 정수환 상의 이차형식을 주로 다룬다. 20세기 들어서면서, Hasse의 국소-광역 정리(local-global principle)에 의하여 수체 상의 이차형식의 분류 및 표현은 완전히 해결되었다. 따라서 산술적 이론은 수체의 정수환 상의 이차형식에 국한하여 소개한다. 20세기 중반부터 Eichler, Watson, Kneser, O'Meara 등에 의하여 이차형식의 종(genus)과 회종(spinor genus)의 개념, 일반화 된 근사 정리(approximation theorem)의 개념, 국소 이론 등이 정립되면서 수체의 정수환 상의 이차형식에 관한 산술적 이론은 크게 발전하였다.

1-1. 이차형식의 류수(class numbers)

부정(不定-indefinite) 이차형식의 류수문제는 차원이 3이상인 경우 아델-이델(ad□le-id□le) 이론을 이용하여 Kneser 등이 해결하였다. Z상의 양 이차형식의 경우 Watson이 류수 1이고 6차원 이상인 Z상의 양 이차형식을 찾았으며, 3, 4, 5차원의 류수 1인 양 이차형식에 대한 부분적인 결과들이 알려져 있다. 한편, Nimeier는 24차원 짝 유니모듈라(even unimodular) 양 이차형식의 류수가 24임을 증명하였다.

그러나 2차원의 경우 별로 알려진 것이 없다. 류수 1인 2차원 부정 이차형식은 동류 이데알수(ideal class number)가 1인 이차체(quadratic number field)에 대한 Gauss 예상과 관련된 미해결 문제이다.

일반적으로 환 상의 이차형식의 류수를 구하는 방법은 Siegel의 무게공식(mass formula)을 이용하는 방법 외에는 별로 알려진 것이 없으며 따라서 이에 대한 결과도 별로 알려진 것이 없는 실정이다. 류수의 상계와 하계에 관하여 Gerstein 등이 부분적인 결과들을 발표하였다.

1-2. 이차형식의 분류 및 표현(classification and representation)

환 상의 이차형식에 대하여는 특별한 경우를 제외하면 국소-광역 정리가 적용되지 않는다. 따라서 이차형식의 표현 연구에서 가장 중요한 것은 이러한 국소-광역 현상의 불일치가 왜,언제, 어떻게 발생하는가를 규명하는 일이다.

1970년대 중반에 Hsia, Kitaoka, Kneser는 다음과 같은 결과를 발표하였다:

m차원 양 이차형식 M이 국소적으로 n차원 양 이차형식 N을 항상 표현할 경우, m이       2n+3 이상이고 N의 최소값이 충분히 크면 M이 N을 광역적으로 표현한다.

이 결과는 국소-광역 정리가 일반적으로 성립하지 않는 상황에서 이차형식의 표현 연구에 새로운 가능성을 제시하였다. 그 후, m-n의 값을 최적화하기 위한 연구가 Estes, J□chner, Kitaoka 등에 의하여 활발히 진행되고 있다.

보편(universal)형식과 정규(regular)형식은 Lagrange의 네 제곱 정리(four square theorem) 이후 Ramanujan, Dickson, Mordell, Pall 등에 의하여 활발히 연구되어 왔다. 최근 Conway, Earnest, 김명환 등에 의하여 새로운 연구결과가 발표되고 있다.

한편, 제곱수의 합(sums of squares) 문제는 Siegel과 Maass가 수체의 정수환에서의 제곱수의 합에 관한 결과를 발표한 이후, 수체의 Pythagoras 수, Mordell의 이차-Waring 문제 등과 관련된 연구가 이어지고 있다.

1-3. 이차형식의 구조(structure)

이차형식의 구조에 대한 연구는 이차형식의 직교군(orthogonal groups) 연구, 기약(reduced)형식 연구, 이차형식의 분해(decomposition) 연구 등이 그 주류를 이룬다.

이차형식의 직교군에 관한 연구는 기하적 이론에서 더욱 활발하게 이루어지고 있다. 직교군에 관한 연구결과는 이차형식의 연구뿐만 아니라 수학의 여러 분야에 다양하게 응용되기 때문에 직교군은 여러 분야의 수학자들에 의하여 광범위하게 연구되고 있다.

기약형식의 이론은 Minkowski가 Z상에서의 이론을 정립하였고 Humboldt가 수체의 정수환 상에서의 이론으로 확장시킨 이후 별로 Ozeki 등 몇몇의 연구결과를 제외하고는 별 진전이 없다. 그러나 최소벡터(minimal vector)의 크기와 Hermite 상수 등과 관련된 연구는 활발하게 진행되어 왔다.

한편, 불가해(indecomposable)형식, 이차형식의 분해문제, 정수환의 확장과 이차형식의 관계 등에 관한 연구는 그 중요성에 비해 활발한 연구가 이루어지지 않고 있는 실정이다. 다만,

정수환의 확장과 이차형식의 관계와 관련된 Bartel의 예상에 관하여 Kitaoka가 계속하여 부분적인 결과를 발표하고 있는 정도이다.

1-4. 국소 이론(local theory)

이차형식의 국소 구조, 분류 및 표현이론은 O'Meara, Riehm 등에 의하여 거의 완성되었다. 2-진 소수(dyadic prime)에서의 분류 및 표현을 규명하는 일만 남았는데 별로 진척이 없으며 Xu를 제외하곤 연구하는 수학자도 거의 없는 상태이다.

Eichler 등에 의하여 발견된 회종(spinor genus)은 종(genus)과 류(class)의 사이에 위치하는 새로운 개념으로서, 류들과는 달리 회종들이 군을 이룸으로써 이차형식의 산술적 이론의 획기적인 발전을 가능케 하였다. 이에 따라 종의 표현과 류의 표현 사이에 회종의 표현이라는  징검다리가 생긴 것이다. 회종의 표현에 대하여 Eichler 이후, Kneser, Hsia, Schulze-Pillot 등이 많은 연구를 하였으며 지금도 활발한 연구가 이루어지고 있다.

한편, 이차형식 직교군의 강 혹은 약 근사 이론 등을 발전시키고 보다 일반적인 대수군으로 확장시키는 연구가 Hsia, Chan 등에 의하여 시도되고 있다.

2. 대수적 이론: 이차형식의 대수이론의 역사는 선형대수의 역사만큼 오래되었다고 할 수 있으나, 현대적인 의미에서의 대수적 이론은 20세기 초반 Witt부터 시작되었다. 산술적 이론이 수체나 수체의 정수환 상의 이차형식을 다루는데 비하여 대수적 이론은 임의의 체나 환 상의 이차형식을 다루며, 분류와 표현의 문제 보다는 구조의 문제를 강조한다. 그리고 1960년대 Pfister가 Hilbert의 17번 문제와 관련된 스투페(Stufe)에 관한 논문을 발표하면서부터 크게 각광을 받기 시작하였다.

2-1. Hilbert의 17번 문제

실수계수를 가지는 임의의 n변수 양 유리함수 f가 주어졌을 때, f가 항상 유한 개의 유리함수의 제곱의 합으로 표현되는가 하는 것이 Hilbert의 17번 문제로서 이것은 Artin에 의하여 증명되었다. 이 때 임의의 f를 제곱의 합으로 표현하기 위하여 필요한 유리함수의 개수의 최소값 PR(n)을 Pythagoras 수라고 한다. Pfister는 Witt 환과 이차형식의 텐서곱(tensor multiplication)의 구조를 이용하여 PR(n)□2n 임을 보였다. PR(n)의 정확한 값을 구하기 위한 많은 연구가 이루어지고 있지만 아직은 요원한 상태이다.

계수를 수체 K로 바꾸었을 경우의 Pythagoras 수 PK(n)에 대한 연구도 활발하며, 특히 계수를 유리수로 제한했을 경우 Hsia-Johnson의 예상: SQ(n)□2n+3 이 흥미롭다.

2-2. Witt 환의 구조론(structure theory)

1930년대 Witt의 선구자적 연구로부터 시작된 Witt 이론은 이차형식의 대수적 이론의 핵심을 이루고 있다.

1960년대 W. Scharlau 등에 의하여 임의의 체 K에 대응되는 Witt 환 W(K)의 구조가 규명되기 시작한 이래, 코호몰로지이론과 Scharlau-변환을 이용하여 Brauer 군, Grothedieck-Witt 군 등과 함께 Witt 환의 구조에 관한 많은 연구가 진행되었고 또 진행되고 있다.

한편, Knebush는 환에 대응되는 Witt 환의 구조를 시작으로 일반적인 스킴(scheme)에 대응되는 Witt 환을 연구함으로써 Witt 환의 구조론을 확장시켰다. 그 후 Milnor는 대수적 K-이론과 코호몰로지 이론, 그리고 Witt 이론의 관계을 규명하였다.

2-3. 수준, 높이, 비멸수, 기타(level, height, u-invariant, etc.)

□Stufe'는 독일어로서 수준(level)이라는 뜻이다. 임의의 체 K에 대하여 m개의 원소의 제곱의 합으로 표시되는 원소들의 집합을 Sm이라고 하자. 이 때, Sm이 -1을 포함하게 되는 최소의 m을 K의 수준(혹은 스투페)라고 하고, s(K)로 쓴다. Pfister는 s(K)는 무한이거나 2n 꼴임을 증명하였다. 스투페의 연구는 Hilbert의 문제 17번을 해결하는데 결정적인 공헌을 한 바 있다.

스투페 s(K)와 함께, Witt 환 W(K)의 토션(torsion)을 없애는 소멸자(annihilator) 2d 에 대하여 d의 최소값으로 정의되는 K의 높이(height) h(K), K상의 비멸(非滅-anisotropic) 이차형식(q(v)=0이면 v=0)의 최대차원으로 정의되는 K의 비멸수(u-invariant) u(K) 등에 관한 연구가 여전히 활발하다.

이외에도 r개의 변수의 제곱의 합과 s개의 변수의 제곱의 합이 최소 몇 개(Hurwitz 수)의 제곱의 합으로 표현될 수 있는가에 대한 Hurwitz 문제가 다양한 계수 체 혹은 환에 대하여 연구되고 있다.

3. 해석적 이론: 이차형식의 해석이론이라 함은 복소해석학 또는 복소함수론에 기초한 다양한 방법론을 통칭하는 말로 볼 수 있다. 그러나 현대적인 의미에서의 해석적 이론은 통상 모듈라(modular) 형식을 이용한 이차형식의 이론으로 이해된다. 20세기 초반 Hecke, Siegel 등으로 부터 시작된 모듈라 형식을 이용한 이차형식 이론은, 그 후 Shimura, Andrainov 등에 의하여 크게 발전하였다. 이 방법은 이차형식에 대응되는 □-급수(theta-series)의 Fourier 계수가 이차형식의 표현수와 일치한다는 사실로부터 출발한다. 이 □-급수가 바로 다양한 모듈라 형식으로 나타난다. Z상의 이차형식에 대응되는 고전적인 타원 모듈라 형식(elliptic modular forms)과 Siegel 모듈라 형식, 수체의 정수환 상의 이차형식에 대응되는 Hilbert 모듈라 형식, 그리고 Klingen 형식, Jacobi 모듈라 형식 등과 이 이차형식의 표현이론과 깊이 관련되어 있다.

3-1. Fourier 계수의 근사식(estimation of Fourier coefficients)

다양한 모듈라 형식에 대하여 Fourier 계수의 크기의 근사식을 계산함으로써 이차형식의 표현에 관한 새로운 정보를 알아 낼 수 있는데, 이러한 방법으로 Delign, Shimura 등에 이어, Duke, Schulze-Pillot, R. Scharlau, B□cherer, Kohnen, 그리고 최근에는 K. Ono 등이 새로운 결과를 발표하였다.

3-2. 국소 밀도(local density)

Siegel의 무게공식이나 표현공식의 좌변은 직교군의 위수(order) 또는 표현수의 가중평균값(weighted average)로 나타나고 우변은 국소 밀도의 무한 곱으로 나타난다. 따라서 국소 밀도를 계산함으로써 이차형식의 류수와 표현에 관한 정보를 얻을 수 있게 된다. 국소 밀도는 Shimura, Andrianove, Kitaoka 등에 이어, 최근에는 Ibukiyama, Katsurada, Y. Hironaka 등 주로 일본 수학자들에 의하여 구체적으로 계산되고 있다.

3-3. 기타

Lehmer의 □-예상, □-급수를 이용한 이차형식의 분류문제, □-급수의 계수간의 합동식, Hecke 작용소와 Siegel 작용소의 역할 및 이들의 관계 등을 비롯한 수많은 흥미로운 문제들이 있으며, 이들에 대한 활발한 연구가 진행되고 있다.

4. 기하적 이론: 이차형식의 기하이론은 Minkowski의 수의 기하학(geometry of number)로부터 비롯되었다고 할 수 있다. 특히 최근에는 공 쌓기(sphere packing), 코딩이론 등과 다양한 응용분야가 생기면서 매우 활발하게 연구되고 있다. 기하적 이론에서는 Z상의 이차형식 대신에 이에 대응되는 (Z-)격자(lattice)를 연구한다.

4-1. 격자이론(lattice theory)

격자이론으로 불리는 이 분야의 연구는 격자의 다양한 분류, 새로운 격자의 구성(construction), 격자의 구조와 직교군의 성질 및 계산, 특별한 성질(큰 최소 벡터 등)과 다양한 응용(공 쌓기, 코딩이론 및 암호론 등)에 관련된 최적의 격자 찾기 등을 주요 주제로 삼고 있다. Coxeter, Rogers, Leech 등에 이어 Ryskov, B.B. Venkov, Martinet, Conway, Sloane, Plesken, Smith, Wilson, Bachoc, Nebe, Raines, Elkies, Sol□, Bacher, Bayer-Fl□ckiger 등이 활약하고 하고 있다.

4-2. 타 분야의 격자(lattices from other areas)

수학의 여러 분야에서 다양한 격자들을 다룬다. 따라서 이차형식 이론을 전공하지 않는 타 분야의 수학자들이 앞서 언급한 특별한 성질과 다양한 응용에 적합한 좋은 격자를 제공하는 것이 드물지 않은 현상이다. 간헐 단순군의 연구에서 Thompson이 관찰한 내용을 바탕으로  함수체 상에서 정의된 타원곡선의 Mordell-Weil 군을 이용하여 밀도 높은 공 쌓기를 주는 격자를 발견한 Shioda, Elkies, 그리고 이들의 결과를 일반화 한 Gross, Tiep 등이 좋은 예이다. 한편, Nikulin은 K3 곡면을 이용하여 좋은 격자를 제공한 경우이며, 이러한 예는 앞으로 더욱 많아질 것이다.