인공지능 기술의 발전은 우리의 삶을 근본적으로 변화시키고 있다. 정치 역시 예외는 아니다. 인간의 정치에 인공지능을 활용하는 것을 넘어, 인공지능에게 정치를 맡긴다면 어떻게 될까?

국회의원 총선거가 치러지는 2024년을 맞아, <프레시안>이 정치학자 송경호 박사와 함께 준비한 이 특집 연재는 인공지능에 의한 정치가 어떻게 구현되고 작동될 것인지, 나아가 정치를 어떻게 변화시킬 것인지를 살펴본다. 이는 도래할 '인공지능 정치'에 대한 상상이자, 정치에 실망한 지금 우리에 관한 이야기다.

앞서 칼럼 1편(☞바로보기)에서는 '인공지능 정치'의 개념과 2023년까지 현실 정치에서 인공지능을 활용한 사례, 그리고 인공지능을 정치에 활용할 경우 예상되는 세 가지 모델 가운에 첫 번째인 '강령술사 모델'을 살펴봤다.

2편에서는 세 가지 모델 중 두 번째인 '공리주의 기계' 모델과 그 한계를 짚어본다. 이번 편의 주요 질문은 합리적 의사결정 과정, 즉 효율적 행정이 정치적 토론과 숙의의 과정을 대체할 수 있는지다. 3편에서는 마지막 '철인왕 모델'에 대해 살펴보고 이같은 세 가지 모델에 대한 논의가 갖는 함의에 대해 간략히 짚어본다.

데이터에 기반해 결정하자?

지난 한 해를 떠들썩하게 달군 정치권 이슈 가운데 이른바 '서울-양평 고속도로' 관련 논란이 있었다. 서울과 양평을 잇는 새로운 고속도로의 노선이 기존 종점 예정지에서 새로운 지점으로 변경됐다는 것, 변경된 종점 예정지가 대통령 영부인 일가가 부동산을 소유한 곳과 가깝다는 것이 야당에서 제기한 의혹의 골자였다. 만약 정치인들 대신 인공지능, 즉 AI가 이 서울-양평고속도로의 종점과 노선을 결정하게 한다면 어떨까? 교통량 분산과 이용자 편익, 환경 보호 등 주요 목표를 설정하고, 이를 계산하는 데 필요한 인공지능 알고리즘을 만들고, 대규모 데이터를 학습시켜 최적의 안을 도출하도록 하는 것이다. 여러 대안들 중, 이해당사자 간의 갈등이 발생할 가능성과 그 정도, 이를 해결하기 위한 사회적 비용까지 고려하도록 해도 좋겠다. 모든 사항을 고려하고 가능한 모든 데이터를 활용해 모두가 만족할 수 있는 결정을 내릴 수만 있다면, 인간의 토론과 합의보다 나을지도 모른다. 이런 주장에 대한 당신의 생각은? '인공지능 정치'의 두 번째 모델은, 데이터에 기반해 정치적 문제에 대한 설명·진단·예측·처방·분석을 수행하는 ‘공리주의 기계 모델'이다. 이 모델에서 인공지능은 막대한 양의 빅데이터 분석(BDA, Big Data Analysis)를 통해, 개인과 사회 전체의 선호와 이익을 기반으로 최적의 의사결정을 내리게 된다고 가정된다. 인간이 미처 다 고려할 수 없는 다양한 사회 경제적 변수들과 정책의 결과를 분석해 최적의 정책 결정을 도출하자는 것이다. 실제로 이와 비슷하게, 일본 나가노현에서 교토대학, 히타치제작소 등과 공동으로 ‘나가노현 지속 가능한 미래정책연구'를 추진한 사례가 있다. 지방정부의 인구 감소, 고령화, 지역경제 위축 등 다양한 문제에 직면해 2040년까지 예측 가능한 문제의 해결방안을 도출하는데 인공지능을 활용한 것이다. 그 결과 인공지능은 2만 개 정도의 시나리오를 도출했고, 23가지로 축약된 시나리오에 대해 전문가와 직원들이 워크숍을 거쳐서 최종적으로 6개 시나리오로 결정했다. 이 모델은 현재의 기술수준으로도 어느 정도 구현이 가능하다. 현재 기업에서 활용하고 있는 비지니스 인텔리전스 도구(BI Tool, Business Intelligence Tool)나, 공공부문에서 추구하는 인공지능 기반 의사결정지원 시스템(DSS, Decision Support System)의 방향과도 대체로 일치한다. 정치 캠페인과 정부 기관을 위한 데이터 분석 도구인 시비스 아날리틱스(Civis Analytics), 정부 기관을 위한 BI, 예산 분석, 자원 할당, 정책 효과 분석 도구인 클릭 포 거버먼트(Qlik for Government), 정부의 다양한 데이터를 시각적으로 표현하고 분석하는 타블루 포 퍼블릭 센터(Tableau for Public Sector) 등은 이러한 도구가 정부 및 공공부문으로 확대된 대표적 사례로 손꼽힐 수 있다. 공공부문의 기능과 역할이 확대되고 있는 최근의 상황을 고려할 때, 공공정보의 수집에서 활용에 이르는 모든 단계의 중요성이 더욱 증대되는 한편, 정책 의사결정, 서비스 제공, 투명성 및 책임성 향상 등을 위해 이에 대한 분석 역시 더욱 강조될 것이다. 이 모든 과정에서 인공지능이 점점 큰 역할을 하게 될 것이라는 점은 의문의 여지가 없다. 물론 현재까지 공공부문의 의사결정지원 시스템은 인간이 결정을 내리는 데 필요하다고 생각되는 정보들을 정리해 제시하는 수준이다. 그러나 인공지능의 발전과 이에 대한 의존이 증가하는 추세에 따라, 머지않아 인공지능이 의사결정을 ‘지원'하는 수준에 그치는 것이 아니라 의사결정을 내리는 ‘주체'로 부상할 수 있다. 고속도로 노선에 대해 A안이 97점, B안이 85점이라는 식으로 주어진 정보에 따라 인공지능이 답을 내려준다면, 굳이 인간이 결정할 것도 없이 자동적으로 결정이 내려질 수도 있는 것이다. 요컨대 이 모델은 고도로 발달한 ‘정책결정 인공지능'이라고 할 수 있다. 이 모델은 실시간 데이터 처리 능력에 따라 즉각적인 의사결정이 가능하고(적시성), 데이터를 빠르게 처리해 최적의 해결책을 제시할 수 있으며(효율성), 인간의 편견과 사리사욕을 배제하고, 순수하게 데이터와 알고리즘에 기반해 의사결정을 내릴 수 있다는 점(객관성)이 장점으로 지목된다. 물론 문제는 있다. 우선, 공리주의 기계 모델은 공리주의가 가지고 있는 윤리적 문제 역시 고스란히 계승하게 된다. '사회 전체의 행복과 복지 극대화'를 목표로 한다는 점에서 공리주의적 접근을 현대의 복잡한 사회 문제를 해결하기 위한 근본적 원칙으로 간주하려는 사람들도 있다. 그러나 단기적인 효율성을 추구하면서 장기적인 사회적 가치나 지속 가능성을 무시할 가능성도 있다. 근본적으로 공리주의 기계 모델에는 정치를 ‘최적화'의 문제로 바라보는 시각이 반영돼 있다. 정치적 문제를 데이터로 표현하고 이를 분석해 최적의 해결책을 도출한다는 점에서 정치를 데이터와 정책의 문제로 축소하는 경향이 있는 것이다. 이에 따라, 자연스럽게, 이에 따라 복잡한 사회적·문화적·역사적 맥락은 무시되거나 단순화될 수 있다. 나아가 근간이 되는 데이터 자체가 편향될 수도 있다. 예를 들어 사회적 소수자나 특정 집단의 의견이 데이터에 제대로 반영되지 않을 경우, 모델의 결정 역시 그들의 이익을 손상시킬 수 있다. 또한 이 모델은 계산 과정에서 막대한 양의 사회적 데이터를 활용하며, 여기에는 필연적으로 개인정보가 포함될 수밖에 없다. 블록체인 기술을 활용한 정보 처리 및 보안도 가능하겠지만, 그만큼 이와 반대되는 방향의 발전 역시 이루어질 것이기 때문에, 개인의 프라이버시 침해 가능성은 항상 잔존하게 된다. 윤리적 차원의 문제도 있다. 기계의 의사결정에 대한 책임 문제 역시 논의가 필요한 부분이다. 주지하다시피, 공리주의 머신 모델 그 자체가 알고리즘 개발과 운영, 그리고 결과에 대한 책임 소재와 관련된 결론 역시 제공해줄 수 없다. 사람들이 인공지능의 객관성과 효율성에 따라 의사결정을 더욱 신뢰하게 된다면, 인공지능이 대부분의 정치적 의사결정을 처리하게 되면서 개인의 정치적 활동이나 참여도가 감소할 수 있다. 공리주의 머신 모델의 의사결정 과정은 엄청나게 큰 데이터와 복잡한 알고리즘에 기반하기 때문에, 일반 시민들이 이해하기 매우 어려울 수 있으며, 이러한 투명성의 한계가 의존적 경향을 강화할 수 있다.간단히 말해, 원리는 모르지만 편리한 ‘자동화' 기계에 결정을 맡겨버리게 되는 것이다. 이는 과도한 기계 의존으로 인한 인간의 판단력과 독립성 저하 문제와도 연결된다. 이처럼 공리주의 기계 모델은 '정치'를 '정책과 행정'으로 대체하게 될 것이다. 사람들이 정치적 결정 과정에서 토론하고 논쟁할 필요가 없기 때문에, 사실상 정책과 행정이 정치를 대체하면서 정치가 소멸하게 될 가능성이 있다. 최대 다수의 최대 행복을 계산하기 위한 알고리즘과 매개변수를 둘러싸고, 테크노크라시에 의한 권위주의적 정치는 잔존할 수도 있다. 어느 쪽이든 이 모델은 전통적인 정치학에서 강조하는 권력, 이해관계, 대표성, 민주주의와 같은 중요한 요소들을 철저히 배제하거나 간과하는 결과로 이어질 수 있다. 테크노크라시는 과학기술 전문가들(테크노크라트)이 통치하는 능력주의에 기반한 과두제를 말한다. 인맥, 정치적 성향, 의정활동 능력, 인기에 기반한 '대의제'가 아니라, 전문지식과 성과를 기준으로한 '관료제'에 가깝다. 극단적인 경우에는 기술 또는 공학적 시각에서 정부 전체를 운영하는 것으로 상상되기도 한다. 테크노크라시의 옹호자들은 과학기술 분야의 전문성을 바탕으로 효율적인 정치체제를 구현할 수 있는 잠재력을 가지고 있다고 주장한다. 과학기술의 발전으로 인해 전문성이 더욱 중요해지고 있는 상황에서, 정치의 효율성과 전문성을 높이는 대안으로서 여전히 관심을 받고 있는 것이 사실이다. 빅터 쇼(Victor N. Shaw)처럼 인류 사회의 정치체제가 필연적으로 독재에서 민주주의, 나아가 테크노크라시로 진화할 것이라고 주장하는 사람도 있다. 하지만 싱가포르나 중국의 테크노-권위주의(Techno-Authoritarianism)처럼, 테크노크라시는 권위주의 정부의 또 다른 모습으로 여겨지기도 한다. 과학기술 전문가들은 특정 분야의 전문성만 갖추고 있기 때문에, 정치적 다양성의 저하, 기술적 편향, 엘리트주의 등의 문제점을 가지기 때문이다. 공리주의 기계 모델에서의 AI 정치의 다른 가능성으로, 이 모델이 적용되면서 사람들이 의사결정에서 데이터와 알고리즘의 중요성을 인식하고 이를 둘러싼 정치가 활성화될 수도 있다. 효율성을 중시하는 공리주의 머신 모델이 항상 사회의 복지나 정의를 가져다주지는 않으며, 민주주의의 핵심 가치인 대표성, 참여, 투명성 등과 충돌할 수 있다는 사실을 사람들이 인지하게 될 경우, 공리주의 머신의 알고리즘과 매개변수를 둘러싸고 인간의 정치가 활발히 형성될 수도 있을 것이다.

☞칼럼 ③편으로 이어집니다.