인공지능 기술의 발전은 우리의 삶을 근본적으로 변화시키고 있다. 정치 역시 예외는 아니다. 인간의 정치에 인공지능을 활용하는 것을 넘어, 인공지능에게 정치를 맡긴다면 어떻게 될까?

국회의원 총선거가 치러지는 2024년을 맞아, <프레시안>이 정치학자 송경호 박사와 함께 준비한 이 특집 연재는 인공지능에 의한 정치가 어떻게 구현되고 작동될 것인지, 나아가 정치를 어떻게 변화시킬 것인지를 살펴본다. 이는 도래할 '인공지능 정치'에 대한 상상이자, 정치에 실망한 지금 우리에 관한 이야기다.

앞서 칼럼 1편(☞바로보기)에서는 '인공지능 정치'의 개념과 2023년까지 현실 정치에서 인공지능을 활용한 사례, 그리고 인공지능을 정치에 활용할 경우 예상되는 세 가지 모델 가운에 첫 번째인 '강령술사 모델'을 살펴봤다. 2편에서는 '공리주의 기계' 모델과 그 한계를 짚었다. (☞바로보기)

마지막 편인 이번 3편에서는 '철인왕 모델'에 대해 살펴본다. 고대 그리스 시대부터 현실정치에 실망 내지 절망한 사람들이 희구했던 철인군주는 21세기 AI 기술을 통해 현실에 구현될 수 있을까? 만약 불가능하다면, 이 논의가 현 세기를 살고 있는 시민들에게 갖는 함의는 뭘까?

'모든 문제의 정답을 아는 존재'를 만들자!

철인왕(philosopher king)은 플라톤의 <국가>에 나오는 유토피아, 칼리폴리스의 지배자다. 플라톤은 궁극적인 ‘이데아' 혹은 ‘존재'를 아는 철학자가 통치자가 돼야 한다고 생각했다. 플라톤에 따르면, 철인은 최상의 행위가 무엇인지 아는 자이며, 이 앎에 기반해 다른 사람들을 안내하고 이끄는 자다. 그러나 현실적으로 이러한 이상적 통치자의 등장이 불가능에 가깝다. 현실의 정치인들은 철인왕의 정 반대편에 있는 소피스트와 더 닮았다. 하지만 인공지능이라면 가능하지 않을까? 인공지능 정치의 마지막 세 번째는 인공일반지능(AGI, Artificial General Intelligence) 혹은 '슈퍼 인공지능'을 상정한 ‘철인왕 모델'이다. 인공일반지능은 인간의 지능을 훨씬 초월한 인공지능 , 모든 지적 활동에서 인간을 능가하는 능력을 가진 인공지능으로 상정된다. 플라톤의 철인왕처럼, 인류가 고민해 왔지만 답할 수 없었던 모든 정치적 문제에 답할 수 있는 궁극적인 주체인 셈이다. 물론 이러한 형태의 인공지능은 현재의 기술수준을 훨씬 넘어서며, 그 구현 가능성 역시 불분명하다. 그러나 만약 이러한 인공일반지능이 존재한다면, 이는 모든 분야에서 최고의 전문가 수준, 혹은 그 이상의 결정을 내릴 수 있는 궁극적 지적 존재로서, 모든 인간의 지식과 지능을 합친 것을 초월하는 능력을 가지며, 이를 바탕으로 모든 가능한 변수와 시나리오를 고려해 최고의 결정을 내릴 수 있을 것이다. 이러한 기술이 현실화된다면, 인간의 육체적 한계마저 벗어난 진정한 '인공지능 철인왕'이 '소피스트 인간 정치인'을 대체할 수 있다고 가정된다. 인공일반지능은 현실적 가능태라기보다 일종의 열망의 집약체다. 이를 향한 열망의 이면에는 의학, 환경, 경제 등의 분야에서 미해결된 문제들을 인공일반지능이 해결할 수 있을 것이라는 기대가 깔려있다. 요컨대 인공일반지능이 사회와 정치의 모든 문제에 대한 궁극적인 해답을 제공하며, 이를 통해 최고의 정치적 지배가 이루어질 수 있다는 것이다. 이 모델은 인공지능이 인간의 정치적 편향, 감정, 사리사욕 등의 한계를 극복하고, 공정하고 중립적인 방식으로 순수한 지식과 논리에 기반한 최적의 결정을 내릴 수 있다는 믿음에 기반한다. 물론, 인공일반지능이 인간의 통제를 벗어나게 되면, 인간의 존재 자체가 위협받을 수 있다는 우려 역시 존재한다. 다만 후자와 같은 ‘결함'을 가진 인공지능은 진정한 의미에서 ‘철인왕 모델'과는 배치되는 것으로 볼 수도 있을 것이다. 첫째, 철인왕 모델에서 인공지능은 궁극적인 정치적 의사결정자로서, 인간의 도덕적, 윤리적, 사회적 가치를 이해하고, 이를 바탕으로 공정하고 효율적인 결정을 내린다. 그러나 이는 인간의 복잡한 가치 체계와 다양한 이해관계를 완전히 이해하고, 이를 정의하고, 그리고 이를 결정하는 데 있어 완벽하게 정확하다는 가정이 필요하다. 이러한 가정은 인간 사회의 복잡성과 다양성을 고려할 때, 과도한 것처럼 보인다. 설사 기술적으로 가능해진다 하더라도, 인공지능이 결정을 내리는 기준과 원칙에 대한 투명성과 설명 가능성이 현저히 낮기 때문에, 인간의 자율성을 크게 훼손할 수 있다. 이 모델에서 인공지능이 인간의 도덕적, 윤리적, 사회적 가치를 기반으로 공정하고 효율적인 결정을 내리는 것으로 가정되지만, 이러한 결정의 기준과 원칙이 어떻게 설정되고 적용되는지에 대해 인간이 명확하게 이해할 수 없다는 점에서, 그 결정의 투명성은 크게 떨어질 수밖에 없다. 결과적으로 인공일반지능에 의해 만들어진 결정이 사회에 어떤 영향을 미치게 될지, 그리고 그 결과에 대한 책임이 어디에 귀속돼야 하는지에 대한 명확한 기준이 없어지고, 이는 결국 책임의 소멸을 초래할 수 있다. 종국에 이르러서는 정치적 주체는 사라지고 ‘신탁(神託)'을 믿고 따르는 신자(信者)만 남게 될 수도 있다. 인간이 스스로의 미래와 사회를 결정하는 권리가 민주주의의 핵심이라는 점을 고려하면, 이를 인공일반지능에 의해 대체하는 것은 인간의 기본적인 자율성과 자기결정권을 무시하는 것일 수 있다. 철인왕 모델은 다른 모델들에 비해 더욱 근본적이고 폭넓은 사회·정치적 파급효과를 가질 것으로 예상된다. 이 모델에서 인공일반지능은 모든 지식과 정보를 갖추고 있으며, 그로 인해 최적의 결정을 내릴 수 있는 '완벽한' 주체로 상상된다. 이러한 인공일반지능의 권한과 역할은, 과거의 전제군주나 신의 대리자로서 신성한 권력을 가진 지도자와 유사성을 가지게 된다. 즉 인공일반지능이 모든 결정을 내리고, 모든 문제를 해결하는 주체로서, 사회와 국가를 지배하게 되면, 그 자체가 절대적인 권력을 가지게 되며, 일종의 전제정이 나타날수 있는 것이다. 이 모델에서 사람들은 정치적 결정 과정에서 토론하고 논쟁할 필요가 없다. 때문에 사실상 행정이 정치를 대체하면서 정치가 소멸할 수 있다. 인공일반지능이 복잡하고 다양한 정치적, 사회적 문제를 해결하고, 효율적인 관리와 운영을 제공한다면, 사람들은 더 이상 불필요하고 소모적인 것으로 여겨지는 정치적인 논쟁과 집단적 의사결정에 시간과 에너지를 소비할 필요가 없어지게 된다. 이론적으로 인간을 일상적인 정치적 결정과 관리의 부담으로부터 해방시킬 수 있는 가능성이 있는 것이다. 이로써, 개개인은 자신의 삶과 관련된 다른 영역에 더욱 집중하고, 개인적인 발전과 행복을 추구하는데 더 집중할 수 있다. 이러한 관점에서 볼 때, 철인왕 모델은 인간의 삶의 질을 향상시키고, 사회 전체의 복지를 증진시킬 수도 있다. 다만 특정 인물, 집단, 또는 기관이 인공일반지능의 개발과 운영에 있어 주요한 역할을 하는 경우, 그들에게 엄청난 영향력을 부여할 수 있다. 신탁에 의한 전제정치 혹은 신정(神政)과 같은 정치의 종교화로 귀결된다면, 신탁을 받는 관리자들 간에 중세적 서열 관계가 형성될 수도 있다. 어느 쪽이든 사회의 다른 구성원들이나 집단들이 정치적 의사결정 과정에서 소외되게 되고, 이로 인해 사회 내에서 불평등과 불만이 증가할 수도 있다. 인공지능의 지배 아래에서 사회가 운영되면서 인간의 정치적 역할이 감소하게 되고, ‘행복한 노예상태'에 놓인 인간의 존재 가치와 역할에 대한 근본적인 질문이 제기되는 것이다. '인공지능 철인왕'은 이 문제에 대해서도 답을 줄 수 있을까?

결론 : 인공지능 정치의 가능성과 문제

앞서 살펴본 '인공지능 정치'의 3가지 모델, 즉 강령술사 모델과 공리주의 기계 모델, 철인왕 모델을 관통하는 배경은 '인간에 의한 정치'에 대한 불신이나 회의감이다. 이에 따라 인공지능에게 정치를 맡기자는 생각이 여기저기서 등장하고 있는 것이다. 인공지능 정치는 인간이 가진 한계나 결점을 제거하는 방식으로 상상된다. 인공지능에 의한 정치, 즉 ‘인공지능 정치'가 인간의 정치보다 더 공정하고, 중립이며, 효율이고, 사실에 기반한 결정을 내릴 수 있다는 것이다. 그러나 앞서 언급한 세 가지 모델이 공통적으로 내재하고 있는 문제들이 있다. 테크노크라시의 위험, 전제정의 가능성, 알고리즘의 복잡성과 투명성의 부재, 데이터의 편향 문제, 그리고 민주적 가치와의 잠재적 충돌 가능성 등이 주요 우려 사항으로 지적될 수 있다. 물론 이러한 위험성에도 불구하고, 인공지능이 민주주의를 반드시 약화시키는 것은 아니다. 적절한 규제와 투명성의 확보, 그리고 시민 참여의 확대와 같은 방법을 통해, 인공지능 정치를 민주적 방향으로 유도하고, 민주주의를 강화하고 확장시킬 수 있는 가능성 역시 존재한다. 이처럼 인공지능이 의사결정의 효율성을 증대시키고, 시민 참여를 확대할 수도 있지만, 이를 위해서는 국가와 개인/시민사회 간에 개인정보와 프라이버시 보호 문제, 그리고 국가의 권한과 역할에 대한 '인간의 정치'가 선행돼야 할 필요가 있다. 데이터의 선택과 사용, 알고리즘의 투명성, 결정에 대한 책임과 권한의 소재, 인간의 개입 및 알고리즘 수정의 여부, 그리고 다양성과 포괄성의 확보 등 중요한 정치적 주제가 많기 때문이다. 이러한 이슈들은 인공지능이 정치적 의사결정에 어떻게, 그리고 어느 정도까지 관여할 것인지, 그리고 이로 인해 민주주의의 본질과 근본 가치가 어떻게 영향을 받을지에 대한 근본적인 질문과 관련된다. 인공지능 정치는 국가와 시민사회, 그리고 중앙과 지방 간의 관계에 다층적인 영향을 미칠 것으로 전망되며, 이는 기술의 적용 방식과 범위, 그리고 특정 사회정치적 맥락에 따라 다양한 양상을 띨 수 있다. 일례로, 인공지능이 투명성과 책임성을 증대시키면서 국가와 시민사회 간의 신뢰를 강화할 수 있는 가능성도 있다. 또한, 인공지능 기술의 민주화를 통해, 지방 정부나 시민사회에서도 이를 활용해 중앙과의 권력 밸런스에 변화를 가져올 수 있다. 이러한 점에서, 인공지능 정치의 발전은 중앙집중적인 정치 구조를 분산형 정치모델로 전환할 수 있는 가능성을 제시한다. 기술의 민주화로 인해 개인과 소규모 단체도 인공지능 솔루션을 개발하고 활용할 수 있게 되며, 로컬라이즈된 의사결정을 통해 지역 특성에 맞는 정책을 구현할 수 있기 때문이다.

이러한 기술의 활용은 분산형 거버넌스 모델을 형성하고, 다양성과 포용성을 증대시킬 수 있지만, 동시에 새로운 도전과 위험, 예를 들어 이견이나 충돌로 인한 협상과 조정의 필요성도 동반한다. 이처럼 인공지능 기술의 도입과 활용은 동시에 권력의 집중, 데이터와 정보의 중요성, 그리고 기존 문화와의 충돌과 같은 다양한 도전을 야기한다. 인공지능의 사회, 경제, 환경적 비용 역시 중요한 문제다. 이러한 점에서 인공지능 정치는 오히려 '인간의 정치'를 더 필요로 한다. (끝)