<프레시안>이 독자들과 '과학 이야기'를 나누고자 새롭게 '최준석의 과학자 열전'을 연재합니다. 최준석 과학저널리스트는 '문과' 출신으로 최근 수년간 '과학책 읽기'에 푹 빠진 중견 언론인입니다. <나는 과학책으로 세상을 다시 배웠다> 저자인 최준석 과학저널리스트는 매주, 혹은 격주로 한국의 과학자들을 직접 만나 인터뷰하며, 한국의 과학자와 과학의 최신 트렌드에 대해 독자들과 알기 쉬운 언어로 소통하고자 합니다. 프레시안에서 흥미로운 '과학 컨텐츠'를 만나보시길 바랍니다.편집자 

서울 홍릉에 있는 고등과학원(KIAS, Korea Institute for Advanced Study)을 지난 6월 3일 찾아갔다. 김재완 계산과학부 교수 겸 고등과학원 부원장을 만나러 갔다. 김재완 교수는 양자정보과학자다. 그는 한국에 양자컴퓨터와 양자정보기술 개발의 중요성을 강조한 1세대 연구자이다. 고등과학원의 김재완 교수 인터넷 홈페이지는 김재완 교수의 연구 분야를 '양자컴퓨터와 양자정보'라고 소개하고 있다. 이런 설명도 보인다. 

"양자물리학은 반도체나 레이저처럼 정보 처리를 위한 하드웨어를 제공하는 원리뿐만 아니라, 정보 그 자체를 다루는 소프트웨어와 운영체제의 원리로도 쓰이게 되었다."

김재완 교수의 방안에는 책들이 산처럼 쌓여 있다. 그는 "나는 양자 얽힘(quantum entanglement)에 관한 연구에 가장 관심이 있다"라며 주요 연구 키워드는 '양자 정보' '큐디트(qudit)'라고 했다. '양자 얽힘'은 많이 들어봤다. 양자 세계에서 일어나는, 즉 일상세계에서는 보기 힘든 물리 현상이다. '큐디트'는 처음 듣는 용어다. '큐비트'와 용어가 비슷한 걸로 보아, 두 개를 관통하는 원리가 있어 보인다. 김 교수는 "큐디트 얽힘을 어떻게 만들 것인지, 그걸 어떻게 활용할 것인지를 연구했다. 그걸 실험으로 구현해볼 사람을 찾았지만 한국에서는 실험을 해주는 사람을 찾지 못했다."라고 말했다. 그는 실험가가 아니라, 이론가다. 큐디트가 무엇인지는 천천히 물어보기로 하고, 일단 그의 애기를 들었다. "양자컴퓨터를 한국에서 처음으로 이야기한 세대이시냐."라고 물었다. 이에 김재완 교수는 "이제 그 이야기를 해주겠다."라고 했다.

한국 양자정보과학의 1세대 연구자 "자유 의지' 나를 과학으로 이끌었다"

원래 물리학을 좋아했다. 그리고 대학 입시를 앞둔 직전인 1976년 부산 집에서 구독하던 신문 기사를 보고 물리학과 진학을 결심했다. 그때 신문 기사를 그는 자신의 고등과학원 7동 3층 연구실의 출입문 쪽 벽면에 붙여놓았다. 김 교수가 그걸 떼어 와서 보여줬다. 1976년 12월 16일자 중앙일보 4면 기사다. 기사 제목은 '양자역학 50돌, 뉴튼 역학 뒤엎다'. 독일 물리학자 베르너 하이젠베르크(1901-1976)가 불확정성원리를 발견한 50주년을 기념하기 위해 한국과학사학회가 심포지엄을 열었고, 거기에서 나온 논문 두 개의 내용을 소개하는 기사다. 하이젠베르크는 양자역학의 아버지 중 한 명이다. 17세기 영국 물리학자 아이작 뉴턴이 시작한 고전물리학은 '결정론'이고, 결정론에 따르면 우주는 탄생의 순간부터 미래가 결정되어 있다. 하이젠베르크가 1927년에 내놓은 불확정성원리는 뉴턴의 결정론적인 세계관을 무너뜨렸다. 원자 수준의 미시세계를 들여다보니, 정해진 것 없다는 걸 하이젠베르크는 알아냈다. 가령, 입자 한 개의 운동량이나 위치를 측정하려 해도 정확한 값을 알아낼 수 없으며, 특정한 값을 얻어낼 수 있는 확률만을 알 수 있을 뿐이었다. 김재완 교수가 양자물리학을 소개한 기사에 학창 시절 매료된 건 '자유의지'에 관심이 많기 때문이다. 예컨대 이런 일이 있었다. 그가 다닌 부산 대동고등학교는 개신교가 설립했다. 칼뱅을 따르는 개신교 장로교는 '예정론'이라는 종교관을 갖고 있다. 그가 학교 수업시간에 들은 목사님 얘기에 따르면, 각 개인들이 어떻게 살아갈지가 세상이 끝날 때까지 다 정해져 있다. 지옥에 갈지, 천국에 갈지가 다 결정되어 있다. 김재완 학생은 '저 말이 사실이라면 성당에 다니지 말아야겠다.'라고 생각했다. 그리고 성당에 가서 신부에게 물었다. 그는 가톨릭 신자다. 그랬더니 신부님이 "교회에서 말하는 예정론은 틀렸다. 천주교회는 하느님이 천지창조 때 인간에게 자유의지를 주셨다라고 생각한다."라고 말해줬다. 김재완 교수는 "나는 자유의지에 관심이 많았고, 자유의지가 지금도 나의 화두 중 하나다."라고 말했다. 그는 서울대 물리학과 1977학번이다. 2학년 때 물리학과에 진학해 과대표를 했고, 3학년 때 서울대 가톨릭학생회를 만들었다. 그를 잘 아는 지인에 따르면, 그는 신부가 되려고 생각했다. 그런데 현재의 부인(서해영 씨, 서울대 미생물학과 77학번, 현 아주대학교 의과대학 해부학교실 교수)을 알게 되면서 생각을 접었다. 결혼하고 1985년 미국 텍사스의 휴스턴대학교(University of Houston) 대학원 물리학과로 유학을 떠났다. 부인은 휴스턴의 명문 의과대학교인 베일러 의과대학교에서 공부하게 되었다. 김재완 박사과정 학생의 유학은 험난했다. 지도교수를 두 번이나 바꿨다. 한 번 바꿔도 박사공부가 힘들어지는 데, 두 번이라니. 적지 않은 자연과학자를 취재했으나, 지도교수를 두 번 바꾼 경우는 처음 본다. 휴스턴에서 처음에는 입자물리학 실험을 공부했다. 실험을 하고 싶었기 때문이다. 입자물리학은 자연이 무엇으로 만들어졌는지를 연구하며, 그 답으로 표준모형이라는 걸 내놓았다. 표준모형에 따르면 우주는 17개 입자로 만들어졌다. 김재완 학생은 표준모형에 나오는 입자 관련 실험(경입자 수 lepton number 보존 관련)을 했다. 실험을 위해 텍사스주 휴스턴에서 뉴멕시코주에 있는 로스알라모스 국립연구소를 오가야했다. 로스알라모스는 미국이 원자폭탄을 개발했던 곳이다. 김재완 교수가 참여한 실험은 MEGA(Muon decays into an Electron and a GAmma ray)실험이었다. 새로운 입자검출기를 만드는 일이 너무 어려웠다. 3년이란 시간을 보냈지만, 본 실험은 시작도 못하고 있었다.(김재완 교수가 박사학위를 받았을 때까지 본 실험은 시작도 못했다.) 이때 휴스턴대학교 물리학과에 새로 온 교수가 김재완 학생에게 같이 연구해 보자고 제안해왔다. 그는 '비선형 동역학 및 카오스' 전문가인 로버트 H.G. 헬리먼(Helleman) 교수. 미국 정부는 당시 텍사스 웩서헤치에 거대한 입자가속기(SSC)를 짓고 있었다. 입자물리 실험을 위한 시설이다. 지구촌 최대의 입자가속기를 만들기 위해 미국 정부는 입자물리학자와, 가속기 물리학자들을 모았는데, 입자물리학과 얼핏 관련 없어 보이는 사람들도 그중에는 있었다. 그의 두 번째 지도교수인 헬리먼 박사가 그런 사람이었다. 김재완 교수 설명을 들어본다.

"입자가속기 안에서 입자 다발이 광속에 가깝게 빠른 속도로 돈다. 입자를 많이 만들어 가속기에 집어넣는데, 몇 초 만에 그 안을 몇 천 만 번 돌게 된다. 그런데 그렇게 되면 집어넣은 입자들을 다 잃어버릴 거라는 얘기가 있었다. 카오스 현상 때문에 입자다발의 궤도를 제대로 추정하기 힘들지 않을까하는 우려가 제기됐다. 그래서 비선형 동역학과 카오스 연구자인 핼리먼 교수가 입자가속기 디자인을 돕기 위해 텍사스로 온 거다. 헬리먼 교수는 휴스턴대학에 와서 양자역학을 가르쳤다. 내가 그 과목을 들었고, 성적이 제일 좋았다. 그분이 내게 같이 연구하자고 했고, 나는 MEGA 실험이 언제 끝날지 몰라 안 되겠다고 싶어, 비선형 동역학 연구로 돌아섰다. 카오스의 특징이 뭐냐면 초기 조건이 중요하다는 거다. 초기 조건이 조금만 달라져도 결과가 완전히 달라진다. 카오스는 내가 보기에는 장로교의 예정론과 똑같았다. 신만이 운명을 알고 있을 뿐이며, 우리는 그걸 계산할 수 없다, 예측할 수 없다는 거다. 그런데 헬리먼 교수가 한 카오스 연구는 '결정론적 카오스' 이론이다. 나는 헬리먼 교수에게 당신의 결정론적 카오스 이론이 양자물리학과 어떻게 연관되는지 공부하고 싶다고 말했다. 왜냐면 양자물리학은 불확정성원리에 따라 결정론을 배격하기 때문이다. 결정론적 카오스 이론과 양자물리학은 서로 다른 이야기를 한. 그게 뭔지를 알고 싶었고, 이때부터 나는 두 개가 만나는 연구 분야인 양자 카오스(Qauntum chaos)를 공부하게 되었다. 이때가 1989년 1월이었다."

'양자 카오스'라는 용어는 낯설다. 김재완 박사과정 학생은 그해 여름 프랑스 알프스의 휴양지 샤모니 인근에서 열린 여름 물리학 학교에 갔다. 알프스 여름 물리학 학교는 우수한 대학원 학생과 박사후연구원들을 최고의 연구자들이 몰려와 가르치는 걸로 유명하다. 김재완 교수가 당시 자신이 참석했던 프로그램 관련 자료를 갖고 와서 보여줬다. 르주쉬 여름학교(Les Houches Summer School)라고 쓰여 있고, 여름학교는 1989년 8월 1일부터 8월 31일까지 열렸다고 되어 있다. 참석자들이 같이 찍은 사진도 있다. 이 해의 토픽이 '카오스와 양자 물리학'이었고, 주제를 보고 헬리먼 교수가 김재완 학생을 미국 텍사스에서 유럽으로 보내준 거였다. 한 달 간의 알프스 여름학교가 끝나갈 때쯤 휴스턴에서 첫 아이가 태어났다는 전화를 받았다. 그런데 3년 공부하고 또 지도교수를 바꿔야 했다. 어느 날 휴스턴대학교 대학원 물리학과장이 불러서 갔더니 '당신 졸업하고 싶으면 핼리먼 밑에서 연구하지 마라. 그렇지 않으면 장학금 줄 수 없다.'라는 식으로 위협했다. 헬리먼 교수가 연구는 잘 하는데 너무 거만한 게 문제였고, 학과 동료들과 사이가 안 좋았다. 그게 불씨가 된듯했다. 1991년 고체물리학 이론을 하는 대만계 우페이 수(Wu-Pei Su, 蘇武沛) 교수를 세 번째 지도교수로 택했다. 전도성 고분자를 연구했다. 플라스틱인데 전기가 통하는 게 '전도성 고분자'다. 우페이 수 교수는 대학원생 때 중요한 연구 업적을 남겼다. 전도성고분자 이론에 SSH모델이 있다. 전도성 고분자에서 나오는 발광, 그러니까 요즘 디스플레이로 사용되는 OLED같은 것에 SSH 모델이 기여했다. SSH(Su-Schrieffer-Heeger)의 맨 앞의 'S'가 우페이 수 교수의 S다.(※참고로 두 번째 S는 존 슈리퍼이고 그는 초전도 현상 연구로 노벨물리학상(1972년)을 받았다. H는 2000년에 노벨상을 받은 앨런 히거이고, 그는 전도성 플라스틱 발견 공로를 인정받았다.) 김재완 학생은 1993년에 박사학위를 받을 수 있었다. 졸업 논문은 풀러린(Fullerene)의 흡광도를 계산한 걸로 썼다. 풀러린은 탄소 원자 60개가 축구 공 모양으로 결합해 생긴 분자다. 가장 비싼 물질이라고 얘기된다. 그리고 양자 카오스 연구도 했으니, 관련한 문제도 한 챕터에 집어넣었다. 양자정보과학과의 만남은 학위를 받은 즈음에 있었다. 휴스턴대학교 우페이 수 교수 연구실에서 마지막으로 간 학회에서다. 1993년 이탈리아 북부의 휴양지로 유명한 코모 호수변에서 양자카오스 학회가 열렸다. 그곳에서 재밌는 걸 봤다. 1984년 양자암호를 발명하고, 1989년에는 동료들과 세계 최초의 양자암호 실험을 한 IBM의 찰스 베넷 박사가 양자전송(Quantum teleportation)이라는 걸 발표했다. 찰스 베넷은 양자 전송을 발명하고 논문을 처음 쓴 6인의 공저자 중 한 명이다. 1994년에는 미국 벨연구소의 응용수학자 피터 쇼(Peter Shor)가 양자 소인수분해 알고리듬을 발표하였다. 소인수분해가 어렵다는 것을 바탕으로 만들어진 RSA 암호체계가 큰 위기에 처한 셈이다. 다음 해인 1995년에는 양자 오류정정 방식이 발표되면서, 양자컴퓨터 개발에 청신호가 켜졌다. 1997년에는 양자전송 실험까지 성공하여 1990년대에 양자정보연구가 불붙기 시작했다.

'계산을 위한' 새로운 알고리듬을 만드는 과학자

우페이수 교수 연구실에서 1년을 더 박사후연구원으로 머물렀고, 1994년 한국에 돌아왔다. 삼성종합기술원에 몸을 담았고, 컴퓨터 시뮬레이션을 하는 '슈퍼컴퓨터 응용랩' 소속으로 일했다. 그가 휴스턴에서 컴퓨터로 시뮬레이션을 많이 한 바 있다. 삼성종기원에서는 프로그램 만들고, 또 한국에서 아마도 처음으로 병렬 컴퓨팅을 해본 세대가 되었다. 병렬컴퓨터는 당시만 해도 컴퓨터 500개를 돌린다고 하면 컴퓨터 칩이 500개 있는 것이고, 문제를 500개로 나눠서 풀었다. 그러니 칩들끼리 커뮤니케이션을 해야 한다. 프로그램이 좀 복잡했다. 요즘은 간단해졌지만 그때만 해도 시작 단계여서 병렬컴퓨팅이 쉽지 않았다. 삼성에서 그렇게 해서 병렬컴퓨팅을 시작했다. 그러다가 병렬 컴퓨터 도입을 위해 미국에 갔다. 인텔에도 갔고, 오크리지 국립연구소에도 갔다. 캘리포니아공과대학교에 들러 물리학자들을 만났더니, 젊은 박사후연구원들이 양자컴퓨터에 대한 아이디어로 흥분해 있었다. 그걸 보고, 양자컴퓨터와 양자암호를 연구해야겠다는 생각이 들었다. 귀국해서 삼성종합연구원의 당시 원장이던 손욱 사장에게 보고했다. 손욱 사장이 '경영진 앞에서 세미나를 하라'고 지시했고, 발표를 했다. 결과적으로 양자컴퓨터와 양자 암호 연구를 삼성에서 시작하지 못했다. 카이스트의 양자정보학자인 이해웅 교수가 연구교수를 구한다는 걸 보고 2000년 삼성종기원에 2년 휴직원을 내고 카이스트로 갔다. 6년 만에 다시 대학으로 돌아갔다. 이해웅 카이스트 교수와 논문을 같이 낼 수 있었다. '단일 광자 얽힘을 이용한 양자 원격 전송' 관련이었다. 논문은 미국 물리학회가 내는 학술지 '피지컬 리뷰 A'에 나왔다. 그때 마침 고등과학원에서 오라고 했다. 2002년 당시 고등과학원이 계산과학부를 만들고 있었다. 그는 김대만 교수(반도체 소자 물리), 이주영 교수(단백질 접힘)에 이어 세 번째로 계산과학부에 합류했다. 그런데 계산과학은 무엇인가? 김재완 교수의 설명을 들어본다.

"1990년대에 세계적으로 계산과학이라는 분야가 뜨고 있었다. 내가 삼성종기원에서 마지막으로 맡았던 보직명은 '계산과학 팀장'이었다. 앞서 삼성종기원에서 내가 처음 소속된 연구실이 '수퍼컴퓨터 응용 랩'이라고 했는데, 그 이름이 나중에 '컴퓨터 과학 엔지니어링 랩(Computational Science Engineering Lab)으로 바뀌었다. 컴퓨터가 나오면서 사람들이 손으로 계산하는 데 한계가 있으면 컴퓨터로 했다. 컴퓨터로 하는 시뮬레이션이 발전했다. 손으로 계산하는 걸 컴퓨터로 게산한다든가, 실험 상황을 그대로 모사해 보기 시작했고, 이렇게 컴퓨터 계산과학 분야가 등장했다. 내가 삼성에 있을 때 계산과학에 대해 개념 정리를 한 게 있다. 뭐나 하면, 계산과학이란 '계산(computation)에 의한 과학, 계산을 위한 과학'이다. 미국 대통령 링컨의 게티스버그 연설(1863년)을 흉내 내어 내가 지어낸 말이다. '계산에 의한 과학'은 시뮬레이션을 가리킨다. 그리고 '계산을 위한 과학'은 새로운 계산방법, 알고리듬을 만들거나 하드웨어를 만들어내는 연구를 말한다. 나는 '계산을 위한 과학' 연구를 하는 사람이다. 현재 계산과학부는 대학들에는 없고, 고등과학원에만 있다. 당시 김정욱 고등과학원 원장님, 그리고 명효철 교수님이 계산과학부를 만들었다. 원래는 이론 화학, 이론 생물학부를 만들려고 했으나, 이 분야는 실험과 가깝다. 이론 연구를 지향하는 고등과학원의 정체성과는 안 맞았다. 그래서 당시 미국에서 뜨고 있던 학문인 계산과학부를 만들게 되었다."

김재완 교수는 현재 아시아 양자정보학회(AQIS) 운영위원장(Chair of Steering committee)으로 일하고 있다. 2023년에 AQIS학회는 한국에서 열릴 예정이다. 그의 연구실 한 쪽에 관련 포스터가 붙어있다. '계산을 위한 연구' 분야에서 김재완 교수가 한 건 무엇인가? 고등과학원에 와서 양자정보 연구를 시작한 지 얼마 안 되었을 때 양자 정보 연구를 접을까 했다. 그가 2005년 한국전자통신연구원(ETRI) 노태곤 박사와 한국 최초의 양자 암호 전송에 성공한 직후 일이다. 비슷한 시기에 KIST(한국과학기술연구원)의 문성욱 박사도 양자 암호 전송에 성공한 바 있다. 2008년인가 2009년쯤 정부 부처 담당자로부터 전화가 걸려왔다. "연구를 그만 하셔야겠다."라는 말을 들었다. 연구비를 더 이상 주지 않겠다는 얘기였다. 당시 한국에서 유일하게 하는 양자 정보 관련 프로젝트였는데, 정부 부처가 개편되면서 연구비가 끊기고 말았다. 노태곤 박사도 그렇고, 그 말고 한국 양자정보 연구가 놓친 또 다른 인재가 있다. 전남대학교 물리교육과 황원영 교수다. 황원영 교수가 미국에서 박사후연구원으로 일할 때 발명한 '바람잡이(decoy)'방식은 세계적으로 널리 쓰이는 양자암호 방식이지만, 그는 지금 이 분야에서 일하고 있지 않다. 김재완 교수는 "지금도 양자컴퓨터는 구현되지 않는다고 생각하는 물리학자들이 있다. 양자컴퓨터가 워낙 쉽지 않은 연구이고, 굉장히 도전적인 문제이다."라고 얘기했다. 미국의 구글이나 IBM같은 곳이나 양자컴퓨터 개발에 돈을 퍼부을 수 있다. 한국은 삼성도 하기 힘들다. 김 교수는 "그런데, 이런 걸 연구하다 보면 부차적(spin-off)으로 나오는 게 있다. 지난 10년새 나온 것 중에 하나가 양자 센싱, 즉 양자 계측 분야다."라고 말했다.

'양자컴퓨터'는 가능할까…한국에서도 '현재 진행형'

김재완 교수는 인터뷰 벽두에 자신의 양자정보학 관련 연구로 '큐디트'를 언급한 적 있다. 이제 큐디트 이야기를 들어볼 시간이다. 설명이 쉽지는 않으나, 시도해 본다. 큐디트에 앞서 큐비트부터 알아본다. 큐비트는 '비트'에서 용어가 왔다. 비트는 컴퓨터 연산을 위한 단위로 0과 1로 구성되어 있다. 0과 1의 사칙 연산으로 컴퓨터는 계산 값을 내놓는다. 그리고 큐비트는 양자컴퓨터를 위한 연산 단위다.

"양자컴퓨터 혹은 양자 원격 전송을 할 때 사용하는 연산 단위가 큐비트다. 큐비트로 계산을 한다. 큐비트는 0과 1 두 기본 상태의 양자 중첩 현상을 이용하여 많은 정보를 처리할 수 있다. 나는 여기에서 한 발 더 나아가 0, 1 뿐만 아니라 0, 1, 2, 3, 4, 5, 6, ...,11 이렇게 더 큰 숫자를 쓰자는 거다. 이렇게 하면 큐디트 하나로 12가지 상태를 나타낼 수 있다. 그러면 계산을 더 빨리 할 수 있고, 양자 원격 전송의 경우에는 더 큰 단위로 전송을 할 수 있다. 큐비트를 사용해서 예컨대 작은 분자를 전송한다고 하자. 큐비트가 굉장히 많이 필요하다. 그런데 큐디트를 사용하면 훨씬 적은 수로 보낼 수 있다. 정보를 압축할 수 있는 방법을 내가 고안해냈다. 다른 예로, 1024차원의 양자 시스템을 전송하는 걸 생각해 본다. 큐비트로는 1024차원을 표현하려면, 1024가 2의 몇 승인가를 보면 된다. 큐비트가 0과 1이라는 두 개의 숫자를 사용하기 때문이다. 1024=2¹⁰이다. 그러니 큐비트 10개가 정보 처리를 위해 필요하다. 큐디트는 다르다. 큐디트의 d가 1024인 시스템이 있다고 하자. 이걸로 1024차원의 정보를 전송한다면 훨씬 간단하다. 큐디트 1개면 끝난다. 얼마나 간단한가."

전송하는, 처리하는 정보를 줄이는 방법을 물리학자들이 많이 연구했겠구나 하는 생각이 들었다. '동료 연구자들이 이런 아이디어를 많이 내놓았느냐'라고 김 교수에게 물었다. 그는 "별로 생각들 안했다. 아직도 사람들은 별 관심이 없다."라고 말했다. 김재완 교수는 자신의 큐디트 관련 이론 연구를 같이 할 또 다른 이론가를 끌어들였다. 양자광학의 유명한 조너선 다울링 교수(미국 루이지애나 대학교)이다. 큐디트 관련 논문은 과학학술지 '광학 커뮤니케이션스'(Optics Communications, 2015)에 냈다. 좀 더 공동연구를 진행하고 싶었으나, 다울링 교수가 갑자기 지난해 사망했다. 김재완 교수는 큐디트를 실험으로 구현해볼 실험가를 찾고 있다. 쉽지 않다. 그는 "한국에서는 이 분야 실험연구를 해줄 분을 찾지 못했다. 비선형광학을 양자광학 수준에서 해야 하고, 호모다인이라는 측정까지 해야 하는데, 적합한 실험실을 아직 만나지 못했다."라고 말했다. 김재완 교수는 2022년 6월 초 현재 고등과학원 부원장으로 일하고 있다. 한국 양자정보과학의 1세대 연구자를 만난 건 흥미로웠다. 양자컴퓨터 연구가 앞으로 후학들에 의해 어떻게 진행될지는 대단히 관심 끄는 이슈다.