군과 조화해석
계승혁 저
대우학술총서-자연과학 120권 민음사, 1998, pp.250

유한군의 표현론에서 시작된 군표현론은 이십세기 이후 함수해석학의 발달과 더불어 옹골군(이 책에서는 콤팩트집합을 옹골집합으로 부른다.)의 표현론으로 확대되었다. 바일은 군대수의 곱하기와 푸리에해석의 콘볼류션이 본질적으로 같은 연산이고, 군의 유니터리표현을 군대수의 표현으로 확장하는 것이 바로 푸리에변환임을 알아차렸다. 이는 옹골군의 표현론을 연구하게 된 결정적인 계기가 되었는데, 이와 같이 가환군의 푸리에변환과 국소옹골군의 표현론을 같은 관점에서 바라보고 공부하는 것이 이 책의 목적이다.

군의 표현을 공부할 때, 이를 군대수의 표현으로 확장하여 다루는 것이 필수적이다. 군대수의 곱하기를 일반적인 위상군에서 정의하려면 평행이동에 관하여 불변인 측도가 필요한데, 국소옹골군의 경우 이러한 측도의 존재가 보장된다. 이 측도에 관한 $L^1$-공간에 곱하기와 $*$-연산을 정의함으로써 바나하 $*$-대수를 얻고, 군의 유니터리표현과 이 바나하 $*$-대수의 $*$-표현이 서로 대응됨을 알 수 있다. 일반적으로 $*$-대수가 주어지면 자연스레 순서가 정의된다. 이 순서에 관한 양선형범함수는 군표현을 공부하는 데에 핵심적인 역할을 하는데, 이를 $L^\infty$-함수로 이해한 것이 군의 양부호함수이다. 군의 유니터리표현과 양부호함수는 서로 일대일 대응관계를 가진다. 군의 기약표현에 대응되는 양부호함수는 양부호함수 집합의 꼭지점에 해당하는 것들인데, 바나하--알라우글루 정리와 크라인--밀만 정리 등 함수해석의 이론을 적용하여 국소옹골군의 기약표현이 충분히 많다는 겔판트--라이코프 정리를 증명한다.

가환군의 기약표현은 항상 일차원인데, 이를 지표라 부른다. 이 지표에 대응하는 $L^1$-대수의 표현이 바로 푸리에계수이므로, 가환군의 푸리에해석은 바로 군표현론이다. 제 2 장에서는 고전적인 역변환공식이나 플랑셰를변환을 일반적인 국소옹골가환군에서 다룬다. 이와 아울러, 뽕트리야겡 쌍대정리를 증명하고 이를 이용하여 가환군의 푸리에대수나 푸리에--스틸체스대수를 보다 자세히 살펴본다. 옹골군의 핵심적인 성질은 그 기약표현이 모두 유한차원이란 점인데, 이를 이용하여 피터--바일 분해정리를 얻는다. 옹골군에서도 쌍대정리를 얻을 수 있는데, 여기서는 다나까 쌍대정리를 간단히 살펴보고 옹골군의 군대수가 어떤 모양인지 알아본다. 또한 옹골군의 예로서 간단한 치환군과 유니터리군의 기약표현을 모두 찾고 지금까지 전개한 이론들이 어떻게 적용되는지 살펴본다.

군표현론을 공부하는 이유는 추상적 대상인 군의 원소를 행렬 혹은 작용소로 이해하자는 것인데, $L^1$-군대수의 노음은 작용소노음과 전혀 다른 노음이다. 군대수에 여러 가지 작용소노음을 부여하여 얻어지는 작용소대수들을 공부하는 것이 3 장의 목적이다. 이러한 작용소대수들의 바나하 쌍대공간을 생각하면, 가환군의 푸리에대수나 푸리에--스틸체스대수를 임의의 국소옹골군에서 정의할 수 있다. 또한 정규표현에 의하여 얻어지는 작용소대수와 보편표현에 의하여 얻어지는 작용소대수가 같아지는가 하는 문제는, 평행이동에 관하여 불변인 평균이 존재하는가 하는 문제로 귀착되는데 이러한 군을 평균가능군이라 한다. 평균가능군에서 얻어지는 작용소대수들은 여러 가지 좋은 성질들을 가지는데, 그 대표적인 예가 점근성질과 확장성질이다. 제 4 장에서는 이러한 성질들과 아울러 평균가능하지 않은 군의 대표적 예로서 자유군의 작용소대수를 다룬다. 특히 이산군의 정규표현으로 얻어지는 $C^*$-대수 가운데 단순 $C^*$-대수들이 어떤 것이 있는가 살펴본다.

이 책은 올해 일 년 동안 강의하면서 배포한 강의록을 정리한 것인데, 앞에서 언급하였다시피 함수해석에 관한 기본적인 소양은 필수적이다. 구체적으로 $L^p$-공간의 쌍대정리, 한--바나하 정리, 바나하--알라우글루 정리, 크라인--밀만 정리, 스톤--바이어쉬트라스 정리 등은 아는 것으로 간주하였다. 이와 더불어 힐버트공간의 유계선형작용소에 관한 지식도 약간 필요한데, 특히 스펙트럼 정리가 필수적이다. 작용소대수의 일반론은 요구하지 않는다. 오히려 3 장 이후부터 바나하 $*$-대수와 작용소대수의 성질들을 비교하면서 필요한 이론들을 그때 그때 증명함으로써, 군 작용소대수를 공부하는 동기가 부여되도록 하였다.

저자는 1993 년 가을 학기에 한 학기짜리 특강을 맡을 기회가 있었는데, 그때 강의한 주제가 가환군의 푸리에해석과 옹골군의 유니터리표현을 같은 관점에서 공부하는 것이었다. 그러나 이러한 주제에 적합한 단행본을 찾을 수 없어서 강의록을 배포하고 이를 모아서 책으로 낸 바 있다. 따라서 이 책의 1 장과 2 장은 그 책의 내용과 거의 중복되고, 3 장과 4 장은 그 후속편이라 할 수 있다. 다만 재작년에 강의할 때는 동기 부여를 위하여 가환군의 푸리에변환을 먼저 공부하고 겔판트--라이코프 정리를 나중에 하였으나 이번에는 그 순서를 바꾸었다. 따라서 가환 바나하대수의 겔판트변환 등 몇 가지 주제를 생략할 수 있었으므로 그 분량을 줄일 수 있었다. 뒤에 붙어 있는 참고문헌 가운데, 논문은 그 양을 최소한으로 줄여서 이 책을 쓰는 데 직접 참고한 것으로 제한하였다. 각 장의 끝에, 본문에서 다룬 내용의 출처와 더 참고할 문헌들을 제시하였다.

이 책을 쓰는 동안 여러 분들의 도움을 받았다. 우선 일 년 동안 수강한 학생들은 여러 가지 질문과 제안을 해 줌으로써 크게 도움을 주었고, 특히 하길찬 군은 세세한 부분까지 교정을 보아주었다. 또한 앞서 말한 책을 펴낸 후에 많은 분들이 잘못된 부분을 알려 주었는데, 일일이 적을 수 없는 점이 유감이다. 끝으로 저자가 대학원 학생이었을 때 가환군의 쌍대정리 및 작용소대수를 공부하도록 안내해 주신 윤재한 선생님과 이사계 선생님을 비롯하여, 여러 가지 귀찮은 자문에 흔쾌히 응해 주신 동료 교수들께 감사드린다.

1995 년 12 월

제 1 장 군대수와 그 표현
1. 하르적분
2. 군대수
3. 양부호함수
4. 유니터리표현
5. 기약표현

제 2 가환군과 옹골군
6. 푸리에변환
7. 뽕트리야겡 쌍대정리
8. 옹골군의 기약표현
9. 다나까 쌍대정리
10. 치환군과 유니터리군

제 3 장 군 작용소대수와 쌍대공간
11. 군 C*-대수와 푸리에-스틸체스대수
12. 군 폰노이만대수와 푸리에대수
13. 평균가능군

제 4 장 군 작용소대수의 여러 가지 성질
14. 군 작용소대수의 점근성질
15. 군 폰노이만대수의 확장성질
16. 자유군
17. 단순 군 C*-대수

참고문헌

이 책은 현재 절판되었습니다.
필요하신 분은 연락주시기 바랍니다.