(한민기 교수)

1 자기소개 및 부임 소감

안녕하세요, 카이스트 전산학부 조교수 한민기입니다.
저는 수리과학부 11학번이고, 졸업 이후 전산학부로 왔는데, 양자 알고리즘/양자암호 등을 연구하고 있습니다.
KIAS, UT austin 등을 거쳐 올해 2월부터 카이스트에서 일하게 되었습니다.

부임소감을 한 마디로 말하자면, 생각보다 힘들고 바쁩니다.
이번 학기엔 양자 알고리즘 수업 하나 밖에 안 하는데도 생각보다 어렵습니다.
다른 교수님들도 그렇겠지만, 처음 자료 만드는게 고된 일이네요. 하지만 동시에 생각보다 재밌기도 합니다. 조교로 채점하는 것과는 또 다른 느낌이랄까요.

2. 현재 주력하고 계신 연구 분야에 대해 설명 부탁드립니다.

최근 양자 컴퓨터의 이론과 구현이 급격히 발전하면서, 기존의 암호 체계(RSA, ECC 등)를 무너뜨릴 수 있는 '쇼어 알고리즘'에 대한 대응이 시급해졌습니다.
그래서 제 연구의 한 축은 양자 컴퓨터로도 풀기 어려운 수학적 문제를 활용하는 양자내성암호(PQC, 대양자암호)에 맞추어져 있습니다.

제가 하는 연구 분야중 하나는 현재 사용하는 암호들의 양자안전성을 연구하는 것입니다. 특히 대칭키 암호의 양자 안전성에 관심이 많습니다.
공개키 암호와 달리 대칭키는 수학적 기반보다는 경험적(ad hoc)으로 발전해온 측면이 있어 양자 공격에 대한 안전성이 덜 밝혀진 부분이 많았거든요.
저는 이전에 밝혀지지 않았던 대칭키 암호들의 안전성을 수학적으로 입증하는 연구를 수행했습니다.

또한 공격자가 양자 컴퓨터를 가진 상황을 넘어, 우리 모두가 양자 통신을 하는 시대의 암호인 양자 암호를 주로 연구하고 있습니다.
오래된 예로는 이번에 튜링상을 수상한 QKD (Quantum key distribution)이 있는데요,
저는 좀 더 현대적인 관점에서 발전하고 있는 양자세상에서의 새로운 암호와 랜덤 양자상태 등에 관심이 많습니다.
물론 양자컴퓨터를 넘어 양자 네트워크 구축 등 실현에는 먼 길이 남아있지만, 이론적인 관점에서 흥미로운 질문들이 많습니다.

암호를 설계하기 위해서는 견고한 구조가 필수적이기에, 저는 이론 컴퓨터과학을 거의 수학의 한 분야라고 봅니다.
특히 양자 암호를 엄밀하게 정의하려면 큐비트(Qubit)가 놓인 복소 벡터 공간에 대한 이해가 필수적이고,
양자 세계의 '랜덤'을 규정하기 위해 하르 측도(Haar measure)를 다루는 등 고도의 수학적 도구가 끊임없이 요구됩니다.
유니터리 행렬(Unitary matrix)이나 랜덤 행렬론을 활용하고, 고차원 대상을 분석하기 위해 표현론(Representation theory)을 끌어오기도 하죠.
결국 제가 다루는 대상들을 봐도 그렇고, 그 이면의 철학적으로도 수학적인 면이 매우 많다고 생각합니다.

3. 이 생소하고도 어려운 분야를 선택하게 된 계기가 궁금합니다.

저는 양자 알고리즘이 정말 어려웠습니다. 처음 쇼어 알고리즘을 접했을 때 "이게 대체 뭐지?" 싶을 정도로 어려웠던 기억이 납니다.
그래서 나중에 언젠가 공부해봐야겠다는 생각이었는데, 공부할 기회가 주어졌고, 막상 해보니 너무 재밌었습니다. 흐르듯 공부하다 보니 여기까지 오게 됐네요.
최근에는 쇼어 알고리즘보다 훨씬 더 빠르게 특정 문제를 푸는 것이 수학적으로 얼마나 어려운가를 규명하는 연구를 하기도 했습니다.

4. 수학과 후배들에게 '양자 암호 연구'의 매력을 어필하신다면?

수학과 학생이라면 누구나 "이 어려운 수학을 배워서 어디에 쓰나"라는 고민을 한 번쯤 할 겁니다.
양자 암호는 그 고민에 대한 가장 명쾌한 답이 될 수 있는 분야입니다.

확률론, 랜덤 행렬론(Random Matrix), 표현론은 물론이고 어떨 때는 미분기하나 대수기하 같은 도구들이 암호의 구조를 설계하고 안전성을 증명하는 데 실제로 쓰이거든요.

다양한 현대 수학을 가장 역동적으로 활용할 수 있다는 점이 이 분야의 가장 큰 매력입니다.

5. 앞으로의 연구 목표와 교육에 대한 철학이 궁금합니다.

거창한 목표보다는 '재밌게 연구하며 먹고살기'가 제 모토입니다. (웃음)
제가 정말 재밌어하는 것들을 계속하고 싶거든요. 또 하나의 목표는 'AI에게 지지 않는 것'입니다. 
사실 저는 AI를 꽤 훌륭한 콜라보레이터라고 생각해요. 다양한 수학을 연구에 끌어다 쓸 때, 예를 들어 미분기하 같은 분야는 AI를 통해 배우기도 했죠.
깊이 있는 결과들을 적재적소에 활용하는 법을 AI와 함께 고민하기도 합니다.

교육적으로는, 우리 학부생들이 암호나 양자 같은 복잡한 대상을 나중에 만났을 때 “이거 한 번 배웠었는데?”라고 생각하거나,
이게 대략 어떤 원리로 돌아가는지를 알고 있다는 기분을 심어주고 싶습니다. 전문가 수준은 아니더라도 시스템의 이면을 꿰뚫어 볼 수 있게 말이죠.
아직 대학원생은 없지만, 앞으로 만날 대학원생들도 그저 연구를 즐겁게 했으면 좋겠고, 무엇보다 자기 앞가림 잘하며 행복하게 먹고 살 수 있기를 바랍니다.

6. 연구나 진로 과정에서 가장 힘들었던 순간은 언제였나요? 어떻게 극복하셨는지도 궁금합니다.

코로나19가 한창일 때가 기억에 남네요. 그때 처음 양자 분야를 시작했는데, 거의 2년 넘게 눈에 보이는 성과가 전혀 없었습니다.
연구 실적이 텅 비어있었죠. 정말 막막하고 혼란스러웠지만, 그저 끈을 놓지 않고 닥치는 대로 공부했습니다.
 2~300페이지가 넘는 논문들을 밑도 끝도 없이 파고들었죠.

그런데 신기하게도 그때 정말 고통스럽게 익혔던 것들이 나중에 연구 곳곳에서 툭툭 튀어나오더라고요.
결과가 보이지 않았을 뿐, 저는 계속 앞으로 나아가고 있었던 셈입니다.
그 시간을 견디니 어느 순간부터 다시 발전이 시작되었습니다.

7. KIAS(고등과학원)와 UT Austin을 거쳐 지금 KAIST에 계십니다. 연구소와 학교 생활의 가장 큰 차이는 무엇인가요?

KIAS나 미국(UT Austin)에서의 생활은 정말 '연구' 그 자체였습니다.
하고 싶은 공부를 마음껏 할 수 있다는 장점도 있지만, 연구가 뜻대로 풀리지 않을 때는 다른 논문들만 읽으면서 생활 자체가 지루하고 정체되는 느낌을 받기도 했어요.
소위 '심심한' 생활이었죠.

한국으로 돌아올지도 고민을 많이 했는데, 교직을 선택했을 때 "최소한 심심하진 않겠지"라는 기대를 했습니다.
예상대로 지금은 수업 준비와 학생 지도 등으로 훨씬 바쁜 삶을 살고 있는데, 저는 이런 역동적인 변화가 오히려 즐겁습니다.

8. Eurocrypt, Asiacrypt 등 세계적인 암호학회에서 PC Member(Program Committee Member)로 활동하고 계십니다.
    구체적으로 어떤 일을 하시나요?

전산학부나 CS 분야는 수학을 포함한 다른 기초과학 분야와는 조금 다른 독특한 문화를 가지고 있습니다.
수학은 보통 저널을 중심으로 학계가 돌아가지만, 암호학이나 AI 같은 분야는 학회를 중심으로 학계가 운영됩니다.
가장 뛰어난 연구 결과들이 저널이 아닌 학술대회에서 가장 먼저 발표되죠.

PC Member는 바로 이 학술대회에 제출된 논문들을 심사하는 프로그램 위원입니다. 일반적인 저널의 리뷰어과 비슷한 역할을 한다고 보시면 됩니다.
다만 학회는 매년 개최 장소와 운영진이 바뀌기 때문에 심사위원단도 매번 새로 구성됩니다.
저는 위원으로서 제출된 논문을 직접 리뷰하기도 하고, 해당 분야의 다른 전문가들에게 리뷰를 부탁하여 논문의 게재 여부를 결정하는 역할을 수행하고 있습니다.

9. 교수님의 학창 시절은 어떠셨나요?

사실 저는 수업 시간에 잠도 많이 자고 출튀도 좀 했습니다.(웃음)
가장 아찔했던 기억은 1학년 2학기 오병권 교수님의 미적분학 수업 때였어요.
교수님이 칠판에 필기하시는 틈을 타 가방 싸고 몰래 나가고 있는데, 갑자기 적막이 흐르더라고요. 왠지 모를 불안한 정막함 있잖아요?
뒤를 돌아보니 교수님이 저를 가만히 보고 계셨죠.
"너 어디 가니?"라고 물으시는데, 가방까지 메고 있어서 빼도 박도 못 하고 당황한 나머지 "아.. 저 배가 고파서요"하고 그냥 나가버렸습니다.
생각해보니 너무 심한 거 같아서 나중에 따로 찾아뵙고 정중히 사과드렸던 기억이 나네요.

또 그다지 성실하지 않았어서 필기를 안 한 과목도 종종 있었어요.
그래서 어떤 친구한데 필기를 빌리는 일이 종종 있었는데, 나름 경쟁자기도 하니까, 나한테 빌려줘도 아무렇지 않냐고 어느 날은 한 번 물어봤습니다.
그런데 그 친구는 ‘그게 왜? 나는 이거 공부한 걸로 만족해’라고 하더라고요. 아 이런 친구가 수학자를 하는거구나 하고 느꼈던 기억이 있습니다.

학부 미분기하 수업이 너무 재미없어서 "수학이 나랑 안 맞나?" 하고 고민 끝에 휴학을 했던 적이 있습니다.
다음 학기는 복학하고 열심히 학교를 다녔어요. 위상수학2 시험을 전체 2등했을 정도였어요.
그런데 중간고사 끝나고 etl 들어가보니까 강의가 아무것도 없더라구요?
장학금을 받고 수강 신청까지 다 마쳤는데, 알고 보니 공식 복학 신청을 안 했던 겁니다. 별다른 방법도 없어서 강제로 한 학기를 쉬어야 했죠.
위상수학 조교님도 2등한 애가 성적입력이 안 되니까 대체 어디갔냐고 찾았다고 하셨다고 하네요.

그런데 놀랍게도 휴학하고 딱 일주일 노니까 다시 수학 공부가 너무 하고 싶더라고요. 그때 "아, 나는 결국 공부를 업으로 삼아야겠구나"라고 확신했습니다.

학원에서 학생들을 가르쳐본 적도 있지만, 학생들이 제 수업 시간에 자주 조는 걸 보고 "아, 이건 내 길이 아니다" 싶었더군요.

10. 수리과학부 동기나 선후배들과의 특별한 인연이 있으신가요?

지금 수리과학부에 계신 변성수 교수님과 박현준 박사(현 허준이 펠로우)와 함께했던 '뭉크레스(Munkres) 위상수학' 스터디가 가장 기억에 남습니다. 
이미 셋 다 위상 수업을 듣긴 했었는데, 셋이서 뭉크레스의 모든 문제를 다 풀어보자는 야심 찬 계획을 세웠죠.
특히 쳅터 36에 17개의 성질을 주고 수백 개의 함의관계와 예시, 반례를 찾는 문제가 있었는데, 박현준 씨가 그걸 거의 다 찾아냈던 기억이 납니다.
지금 생각해봐도 인생에서 한 번쯤 해보면 좋은 수준을 넘어서 인생에서 한 번조차 안해봐도 될 것 같은 고된 작업이었던 거 같습니다.

11. 학문을 계속하시는 이유를 한 줄로 정의하신다면 무엇일까요?

너무 재밌고 제 적성과도 잘 맞아서 그런것 같아요.
저는 우리 분야의 동료들과 학회에서 만나 술 한잔 기울이며 함께 머리를 맞대고 문제를 푸는 과정이 무엇보다 즐겁습니다.
그 즐거움이 워낙 크다 보니 이제는 제 삶과 학문이 딱히 구별되지 않을 정도예요. 제 성격이나 취향과도 아주 잘 맞는 길이라고 생각합니다.

12. 학문의 길을 걷는 데 있어 가장 중요한 자질이나 태도는 무엇이라고 보시나요?

제 생각에는 ‘그냥 하는 거’ 같아요. 그냥 계속하는 거. 힘든 거를 다 참을 수 없죠. 그런 것들도 다 잘 감당하면서 그냥 계속 해야해죠.

예를 들어, 제가 학생일 때는 전산학부의 인기가 지금 같지 않았습니다. 그런데 얼마 전엔인기가 피크를 찍고, 지금은 약간 시들한 것 같습니다.
사실 이런 모든 것은 예측할 수 없는 '운'의 영역이 크거든요.
그래서 내가 하는 일을 잘 해내며 만족하고, 계속해서 자리를 지키는 것, 그 성실함이 결국 연구자를 만든다고 믿습니다.

13. 진로를 고민하는 후배들에게 조언 한마디 부탁드립니다.

가장 드리고 싶은 말씀은 하고 싶은 것을 하라는 것입니다. 하지만 내가 무엇을 좋아하는지 아직 찾지 못한 분들도 많을 거예요.
그럴 때는 반대로 접근해보는 것도 방법입니다. 내가 무엇을 싫어하는지부터 찾아보는 것이죠.

세상 모든 일이 적당히 좋아 보일 때는, 내가 왜 특정 분야를 좋아하거나 싫어하는지 그 이유를 면밀히 파악해 보세요.
일종의 인생 Optimization 과정인 셈입니다. 저 역시 학창 시절에 게임 제작 수업을 듣기도 하고, 어릴 때는 문학의 길을 꿈꿔보기도 했습니다.
결과적으로 저와 아주 잘 맞지는 않았지만, 그런 다양한 시도들이 있었기에 지금의 길에 확신을 가질 수 있었습니다. 무엇이든 많이 경험해 보시길 바랍니다.

14. 마지막으로 뉴스레터를 읽는 독자들에게 전하고 싶은 말씀이 있다면?

이렇게 지면으로나마 인연이 닿게 되어 반갑습니다. 거창한 말보다는, 다들 잘 먹고 잘 사셨으면 좋겠습니다