인공지능 기술의 발전은 우리의 삶을 근본적으로 변화시키고 있다. 정치 역시 예외는 아니다. 인간의 정치에 인공지능을 활용하는 것을 넘어, 인공지능에게 정치를 맡긴다면 어떻게 될까?

국회의원 총선거가 치러지는 2024년을 맞아, <프레시안>이 정치학자 송경호 박사와 함께 준비한 이 특집 연재는 인공지능에 의한 정치가 어떻게 구현되고 작동될 것인지, 나아가 정치를 어떻게 변화시킬 것인지를 살펴본다. 이는 도래할 '인공지능 정치'에 대한 상상이자, 정치에 실망한 지금 우리에 관한 이야기다.

칼럼 1편에서는 '인공지능 정치'의 개념과 2023년까지 현실 정치에서 인공지능을 활용한 사례, 그리고 인공지능을 정치에 활용할 경우 예상되는 세 가지 모델 가운에 첫 번째인 '강령술사 모델'을 다룬다. 2편에서는 세 가지 모델 중 두 번째인 '공리주의 기계' 모델과 그 한계를 짚어보고, 3편에서는 마지막 '철인왕 모델'에 대해 살펴보고 이같은 세 가지 모델에 대한 논의가 갖는 함의에 대해 간략히 짚어본다.

인공지능도 정치를 할 수 있을까?

2019년 12월, 일본의 인공지능 로봇 '나오(NAO)'가 서강대와 동국대에서 강연을 했다. 주제는 "인공지능 사회에서 정치는 인공지능의 몫인가, 여전히 인간의 역할인가?"였다. 이 강연에서 ‘나오'는 "인공지능도 정치할 수 있"을 뿐만 아니라, "정치도 인공지능과 공생해야 한다"고 말했다. "인공지능을 활용해 불필요한 예산을 삭감할 수 있고, 시내버스의 노선을 최적화해 재확정할 수도 있다"는 주장이었다. 어린시절 만화영화에서 본 인조인간은 대체로 악당이었고, 이들에게 지배당하는 세상은 곧 디스토피아였다. 그런데 이제 '인공지능 정치가'로 기존의 '인간 정치가'를 대체하고, 나아가 인간에 의한 정치가 가지는 문제점을 해결할 수 있다는 주장이 공공연하게 현실세계에 등장하기 시작한 것이다. 이미 인공지능을 후보로 내세운 사례도 있었다. 2018년 러시아 대통령 선거에 출마한 인공지능 ‘앨리스'는 "미래의 정치 체제", "당신을 가장 잘 아는 대통령"과 같은 슬로건을 사용해 2만5000표를 득표했다. 같은해 도쿄도 다마시(多摩市) 시장 선거에 인공지능의 대리인을 자처하며 출마한 마쓰다 미치히토(松田道人)는 3위를 기록했다. 당시 표어는 "인공지능을 구사하는 젊은 시장의 손으로 공명정대한 시정(市政工程)을!"이었다. "인공지능이 도시 데이터를 수집해 정책을 결정하게 하면 명확하게 정의된 정치를 만들 수 있"다는 주장인 것이다. 미국의 AI분야 연구자 벤 괴르첼(Ben Goertzel)이 내세운 로바마(ROBAMA, ROBotic Analysis of Multiple Agents)나, 뉴질랜드에서 등장한 샘(SAM, Semantic Analysis Machine)은 또 다른 사례다. 이들은 인공지능 판사나 인공지능 의사와 마찬가지로, 인공지능 정치가를 만들려 한다. 샘은 자신의 강점을 이렇게 설명한다. "인간 정치인과는 달리, 나는 결정을 내릴 때 편견없이 모든 사람의 입장을 고려합니다. 뉴질랜드 사람들이 가장 관심을 갖는 문제를 인공지능으로 의견수렴, 반영하기 위해 엄청난 데이터를 분석해 여러분이 원하는 것을 찾아낼 것이며, 또 나는 시간이 지남에 따라 국민을 위해서 변화 할 것입니다." 이처럼 인공지능에 의한 정치, 즉 ‘인공지능 정치'는 공정성, 중립성, 효율성, 사실성 등을 담보할 수 있는 것으로 상정된다. 인공지능 정치를 옹호하는 사람들은 여러 장점에도 불구하고 아직 인공지능 정치가 현실화되지 못한 것은 우리의 ‘심리적 장벽'때문이라고 주장한다. 기술적 한계, 충분한 데이터와 기준의 부재, 권력의 사유화 위험 등 예상되는 문제가 없지 않지만, 이것만 해결하면 인간의 정치보다 더 나은 인공지능 정치가 가능하고, 또 필요하다는 주장이다. 앞선 득표 사례에서도 확인할 수 있듯, 인공지능 정치에 대한 공감대는 확대되고 있다. 2021년 5월 27일 스페인 IE 대학의 혁신 거버넌스 센터(Center for the Governance of Change)에서 11개국 시민 2769명을 대상으로 "국회의원 의석 수를 줄이고 그 자리에 인공지능으로 대체하는 것에 어떻게 생각하는지"를 묻는 설문 조사를 진행했는데, 나라마다 차이가 있었지만, 전체 응답자의 51%가 긍정적으로 응답했다. 25세부터 34세 사이 청년세대의 찬성률은 60%에 이르렀다. 인공지능 정치가 가지는 (보다 정확히는 '가진다고 상상되는') 이러한 ‘장점'들은 인공지능의 ‘비인간성' 혹은 ‘초인간성'에 기반한다. 인간의 정치를 대체할 인공지능은 단순히 인간이 원래 할 수 있는 것을 더 잘하는 인공지능이 아니라, 인간이 인간이기 때문에 가질 수밖에 없는 결점들을 극복한 ‘비'인간적이고 ‘초'인간적인 존재로 상상된다. 이처럼 인공지능 정치가 인간이 가진 한계나 결점을 제거하는 방식으로 상상되고 있다는 점은 정치에 대한 우리의 인식을 반영한다. 요컨대 사람들이 인공지능에게 정치를 맡기자고 생각하게 된 밑바탕에는 인간에 의한 정치에 대한 불신이나 회의적 시각이 깔려 있다는 말이다. 앞선 설문조사를 분석한 오스카 존슨(Oscar Jonsson) 박사 역시 언론과의 인터뷰에서, 정치 양극화가 증가하고 민주주의에 대한 신뢰가 약화되고 있는 상황에서 이런 결과가 나온 것은 놀랍지 않다고 분석했다.

인공지능 정치는 어떤 모습일까?

2023년 7월 28일, 브루스 슈나이더(Bruce Schneier)와 네이선 샌더스(Nathan E. Sanders)는 <MIT 테크놀로지 리뷰(MIT Technology Review)>에 "인공지능이 정치를 바꿀 수 있는 6가지 방법"이라는 제목의 글을 발표했다. 인공지능이 정치에 미칠 수 있는 위협에 대한 이야기 말고, 다른 잠재적 가능성에 대해 생각해보자는 취지였다. 그들은 ‘인공지능이 주도하는 민주정치의 새로운 시대'가 지금 불가능하더라도 가까운 미래에 달성 가능할 것이라고 하면서 인공지능 정치의 다음 이정표로 6가지를 제시했다. 우선 이들은 단기적인 세 가지 이정표로 ①인공지능이 생성한 증언이나 논평을 입법부나 기관이 수락하는 것, ②인공지능이 작성한 법안이 새로운 입법 개정안으로 채택되는 것, ③인공지능에 의한 선거 캠패인이 기존의 선거 컨설턴트를 능가하는 것을 꼽았다. 그리고 가까운 미래에 가능할 세 가지 이정표로 ④인공지능이 자체 플랫폼을 갖춘 정당을 만들어 선거에서 승리할 인간 후보자를 유치하는 것, ⑤인공지능이 정치 자금 조달을 위해 자율적으로 수익을 창출하고 정치 캠페인에 기여하는 것, ⑥다양한 영역을 넘나들며 정책적 결과를 도출하는 것을 제시했다. 결국 "세금을 낮춘다"거나 "시장 규제를 완화한다"는 등의 목표를 설정하면, 인공지능이 알아서 정치적 수단을 동원해 이 목표를 달성하는 것이 이들이 그리는 인공지능 정치의 모습이다. 슈나이더와 샌더스는 "사실 미래는 훨씬 더 흥미로울 것이다. 그리고 인공지능이 정치에 미치는 가장 엄청난 잠재적 영향 중 일부도 모두 나쁘지는 않을 것"이라고 말한다. 그러나 진정한 의미에서 인공지능 정치는 그들이 말한 최종단계에서 비로소 시작되는 것이다. 인공지능 정치는 어떤 모습일까? 인공지능 정치가 필요하다고 생각하는 사람들이 그리는 미래는 어떤 모습일까? 이러한 질문에 대해 대답하기 위해, 현재의 대표적인 인공지능 기술들에 착안해 인공지능 정치를 크게 세 가지 모델로 구분해 상상해 보려 한다. 첫 번째 모델은 이제 너무나 유명해진 챗GPT(ChatGPT)와 같은 생성형 인공지능을 활용한 ‘강령술(네크로멘시) 모델'이다. 두 번째 모델은 막대한 양의 빅 데이터를 분석(Big Data Analytics, BDA)함으로써 정치적 결정이 필요한 문제를 설명·진단·예측·처방·분석(Descriptive, Diagnostic, Predictive, and Prescriptive Analytics)하는 ‘공리주의 기계 모델'이다. 세 번째는 지금의 인공지능을 넘어선 인공일반지능(Artificial General Intelligence, AGI)을 상정한 ‘철인왕 모델'이다. 이들 모델 각각은 인공지능의 발전이 정치에 미치는 영향, 이에 따른 정치의 변화 가능성, 그리고 그 이면에 깔려있는 정치에 대한 우리의 인식을 투영한다. 인공지능이 정치적 주체로 등장한다면 어떻게 될까? 인공지능이 정치를 바꿀 수 있을까? 그리고 그 결과는 어떤 모습일까?

'과거의 정치인을 부활시키자'?

정치에 실망한 사람들이 '인공지능 정치'를 바란다면, 인공지능으로 과거의 위인들을 ‘예토전생'하면 어떨까? 세종대왕, 퇴계 이황, 율곡 이이, 이순신 장군만 아니라, 조지 워싱턴이나 에이브러햄 링컨, 아니면 마틴 루터 킹이나 넬슨 만델라도 좋겠다. 공자, 맹자, 플라톤, 아리스토텔레스를 초대한 <100분 토론>은 상상만으로 흥미진진하다. 생성 인공지능을 활용한 ‘강령술(네크로맨시) 모델'은 ChatGPT-4 Turbo가 나온 지금, 파인튜닝을 통해 당장 구현 가능한 인공지능 정치의 사례다. 이 모델은 자연어 처리 및 생성 기술에 기반하는데, 거대언어모델(LLM, Large Language Model)에 대규모의 텍스트 데이터(과거 정치인들의 글, 연설, 편지 등)를 학습시킴으로써, 과거 정치인이나 지도자의 언어 패턴, 의사결정 방식, 정치 철학에 따라 그들의 ‘스타일'로 의사결정이나 발언을 생성하는 것이다. 또한 멀티모달 인공지능 기술을 활용해, 텍스트 이외의 데이터(과거 정치인의 사진, 음성 녹음, 동영상 클립)도 함께 처리하고 딥페이크 기술을 적용한다면, 더욱 풍부하고 현실감 있는 ‘강령술'이 가능하다. 이러한 강령술 모델은 현대의 정치적 문제나 상황에 대해 다양한 시각과 통찰력을 제공할 수 있다. 과거의 위대한 인물들의 생각을 현대에 가져와 새로운 해결책이나 방향성을 제시할 수 있기 때문이다. 사실 이는 정치학의 오랜 주제이기도 하고, 현실 정치에서도 활용되는 접근 방식이기도 하다. 이 모델이 전면에 등장한다면, 누군가의 유지를 잇는다며 제멋대로 해석하는 사람들은 설 자리를 잃을지도 모른다. 세종대왕과 직접 대화할 수 있게 된다면, 그들의 유지를 잇는 현대의 정치인이 아니라, '인공지능 세종대왕'을 직접 선출하게 될 수도 있다. 그러나 이 모델도 한계가 있다. 첫째, 강령술 모델은 과거의 정치인을 부활시키는 것을 목표로 하지만, 실제로 과거의 정치인의 모든 생각과 가치를 완벽하게 재현하는 것은 불가능하다. 인공지능 학습에 사용될 수 있는 자료는 대체로 그들의 공식적 언설과 관련되며, 그들의 인격을 구성하는 사적 영역이 대체로 배제돼 있다. 설령 그들의 지성과 인격을 재현할 수 있는 모든 데이터가 있다고 하더라도, 시점의 문제가 남는다. 아마도 청년기, 중장년기, 노년기의 세종대왕은 같은 문제에 대해 다르게 대답할 것이다. 둘째, 과거의 정치인들의 생각과 가치는 그들이 살았던 시대의 문화와 사회적 맥락에 기반하고 있다. 따라서 이러한 생각과 가치를 현대에 그대로 적용하는 것은 문제가 될 수 있다. 과거와 현대의 사회적, 경제적, 문화적 맥락은 크게 다를 수 있기 때문이다. 이는 강령술 모델에 현대의 지식을 학습시켜야할 필요성을 가져오는데, 추가적 학습의 방향에 따라 원형과는 다른 예상치 못한 결과물이 나올 수 있다. ‘예토전생'한 인공지능 세종대왕은 실제 그의 생각과는 다른 대답을 내놓을 수 있다. 보다 근본적인 문제는 강령술 모델이 결국 이를 정치적으로 활용하는 ‘강령술사'를 양산하고 팬덤정치와 포퓰리즘을 심화할 수 있다는 데 있다. 물론 강령술 모델을 통해 부활된 과거의 정치인에 대한 대중의 반응을 예측하기는 어렵다. 그럼에도 불구하고, 강령술의 대상이 되는 특정 인물을 긍정적으로 생각하는 일부 사람들에게 이 모델은 강한 결집과 지지의 동력으로 작용할 수 있다. 과거 인물의 이미지가 그에 대한 선망과 결합해 맹목적인 믿음과 지지의 대상으로 여겨질 수 있는 것이다. 이러한 점에서 강령술 모델은 감정적 연결을 바탕으로 정치적 지지나 행동을 결정하는 팬덤정치의 확산을 촉진할 수 있다. 그리고 이러한 지지를 정치적 권력으로 전환하기 위해 '이 인공지능의 말을 전적으로 따를 테니 나를 지지해 달라'는 강령술사, 즉 네크로맨서들이 등장할 수 있다. 강령술사들은 과거 인물의 이미지를 활용해 자신들의 정치적 목표나 가치를 홍보하는 데 활용하고, 그들이 현대의 문제에 대해 대중의 감정이나 불만을 대변하는 메시지를 전달하도록 조작할 수도 있다. 당연히 이러한 메시지는 현대의 정치적 양극화와 포퓰리즘적 경향을 확대시킬 수 있다. 강령술 모델의 인공지능 정치는 '인간의 정치'를 완전히 소멸시키지는 않을 것으로 보인다. 오히려 인공지능을 통해 소환된 각각의 '인공지능 정치인'들을 중심으로 일종의 ‘종파' 간 투쟁이 격화될 수 있다. 물론 정치인들이 이러한 투쟁의 중심에 선 ‘강령술사'가 되기를 자처한다면, 이들은 과거의 권위에 기대 현재의 권력을 강화하고자 하는 선동가 혹은 독립적 판단을 하지 않는 대변자 정도로 전락하게 되겠지만 말이다.

☞칼럼 ②편으로 이어집니다.