인공지능 기술을 활용한 정치적 의사결정 위임 가능성에 관한 현상학적 논의

국문 초록 (Abstract)

이 논문은AI가 개인의 디지털 데이터를 학습해 시민의 선호도를 예측하여 정치적 의사결정에 자동적으로 반영하는 증강민주주의 시스템이 가진 위험성을 비판적으로 분석한다. 한나 아렌트의 행위 이론과 포스트-현상학을 통해 이 모델이 정치의 본질을 어떻게 결여하는지 짚어본다.
우선 아렌트 관점에서 보면, 증강민주주의는 정치를 예측 불가능하고 역동적인 행위가 아닌, 데이터로 결과를 산출하는 기술적인 작업으로 격하시킨다. 정치는 인간 행위의 불확실성을 마주하고, 타인과 연대하여 이를 극복하고자 하는 의도를 갖고 있는데, AI가 인간 행위의 내재된 취약성을 기술적으로 제거해버리면 오히려 우리가 정치적으로 행동할 근본적인 이유가 사라지게 된다.
기술적인 측면에서도, AI가 정치적 판단을 대신해주면 우리는 인지적 부담이 감소하지만, 결국 판단을 기계에 위임하게 되고 우리의 정치적 능동성이 점점 줄어들 것이다. 또한 AI 알고리즘 사고 과정이 블랙박스화 되어 있는 사안에 따라, 우리는 기계가 내린 결정을 비판 없이 수용하는 수동적인 존재가 될 위험이 있다.
또한, 개인화된 AI는 우리를 입맛에 맞는 정보에만 노출시켜 반향실에 가둬버린다. 이렇게 되면 나와 다른 다양한 의견을 접할 기회가 차단되어 사회가 획일화되고 무사유가 만연해질 수 있다.
더 나아가, 증강민주주의가 시민들의 정치적 능력을 퇴화시키는데 일조한다면, 결국 증강민주주의 시스템은 시민의 정치적 선호도를 학습하는 모델이므로, 해당 모델은 정치적으로 건강하지 못한 시민들의 정치적 선호도를 학습하게 되고, 이는 증강민주주의 시스템 자체적으로 문제를 내포하고 있다는 뜻이 된다.
결론적으로 이 논문은 정치에서 중요한 건 효율성이 아니라 인간의 실존적인 행위라고 강조하면서, 인문학적 시선으로 기술을 감시하고 AI가 인간을 대체하는 게 아니라 시민의 역량을 돕는 방향으로 재설계되어야 한다고 제안한다. 그리고 이러한 재설계를 위해서는 공학과 인문학이 학문적으로 유의미하게 소통할 수 있는 창구를 구축하는 것이 우선시되어야 한다고 강조한다.

다국어 초록 (Multilingual Abstract)

This study critically examines the potential risks associated with the 'Augmented Democracy' model, which proposes the use of Artificial
Intelligence (AI), specifically Large Language Models (LLMs), to technically 'augment' citizens' political participation. By utilizing Hannah
Arendt’s theory of action and post-phenomenological discourse as a theoretical framework, this paper analyzes how such models threaten
the fundamental nature of politics. From an Arendtian perspective, Augmented Democracy degrades politics from the realm of unpredictable and dynamic ‘action’ to the mechanical realm of ‘work,’ which merely produces results based on data. While politics inherently involves
navigating uncertainty and sharing responsibility within a plurality of others, the technical removal of this ‘fragility’ by AI paradoxically
eliminates the fundamental motivation for human political action. In terms of technical mediation, delegating political judgment to AI may
alleviate cognitive burden, yet it inevitably leads to the ‘offloading’ of judgment, causing a gradual atrophy of independent thinking capabilities (deskilling). Furthermore, the ‘black box’ nature of algorithms compels users to passively accept machine-generated decisions without
critical scrutiny. Finally, personalized AI algorithms risk entrapping users in ‘echo chambers’ by selectively exposing them to agreeable
information, thereby blocking opportunities to encounter diverse viewpoints; this leads to social homogenization and the spread of
‘thoughtlessness.’ Consequently, this paper argues that the essence of politics lies in existential human action rather than efficiency. It
proposes an ‘agonistic’ relationship between the humanities and engineering, suggesting that AI should be designed not to replace human
judgment, but to genuinely support and enhance civic competence.

목차 (Table of Contents)

• 제1장 서론 1
• 1. 연구개요 1
• 2. 연구배경 2
• 3. 현재 대두되는 인공지능의 정치적 활용 방향성 5
• 1) 인공지능 기술의 정치적 활용 가능성에 관한 세가지 분류 5
• 2) 인공지능 정치 도입의 대표 사레 7
• 3) 증강 민주주의 개괄 9
• 4. 연구목표 12
• 5. 연구의의 14
• 제2장 증강민주주의의 이론 및 기술적 배경 18
• 1. 대의민주주의의 대안으로서 증강민주주의가 가진 성격 18
• 2. 증강민주주의의 데이터 과학과 사회물리학적 기반 20
• 3. 증강민주주의 모델 예측의 정확성과 데이터 민주주의 정당화 22
• 4. 증강민주주의의 의사결정 효율화 25
• 제3장 증강민주주의와 아렌트 행위 이론의 대비 29
• 1. 아렌트 철학의 일반적인 특징과 도입 의의 29
• 2. 인간 활동의 세 가지 형태 33
• 1) 노동 33
• 2) 작업과 제작의 논리 35
• 3) 행위의 근본 조건: 복수성(Plurality)과 현상의 공간 38
• 3. 행위의 속성: 예측불가능성과 비가역성의 좌절 42
• 4. 증강 민주주의 예측 모델에 내재한 작업적 성격과 행위의 정치 소멸 53
• 5. 판단을 제작하는 관점(Decision-making)의 정치 55
• 6. 작업의 정치와 지배의 원리가 제약하는 행위의 복수성 59
• 7. 인간사의 취약성을 제거하는 작업의 정치와 취약성을 극복하려는 행위의 정치 64
• 제4장 기술과 '나'의 매개성을 통해 살펴본 정치 위임 가능성 68
• 1. 이론적 배경: 세계-내-존재의 도구 그리고 재귀적인 관계성 69
• 2. 돈 아이디 기술 철학: 포스트-현상학 72
• 3. 도구매개적인 기술사용의 변양에서 드러나는 매개성 80
• 4. 기술이 향유하는 정치에 관한 포스트-현상학의 담론 86
• 1) 기술철학의 정치 담론에 관한 연구의 배경 87
• 2) 포스트-현상학의 정치 담론이 갖는 의의 89
• 5. 인지적 역량을 개선해주는 시스템의 맹점 91
• 1) 인공지능의 블랙박스 문제와 위임 가능성 92
• 2) 능력적 우위를 지닌 인공지능 기술과의 매개성과 과의존 위험 94
• 3) 증강민주주의 모델에서 나타나는 인지적 편의성 증대와 위임의 가능성 96
• 4) 증강민주주의 알고리즘에게 정치적 행위를 위임하면 더 효과적일 것이라는 주장에 대한 반론 100
• 제5장 인공지능의 정치적 활용이 야기할 수 있는 공론 영역의 획일성 105
• 1. 공론 영역 형성 과정에서 행위적 특성이 사라지면 안 되는 이유 105
• 2. 아렌트의 고립에 관한 논의 111
• 3. 시민들의 정치가 사라지면 생기는 위협: 정치 참여자의 획일적 사고와 무사유 113
• 4. 획일성, 고립, 무사유와 현대 사회 118
• 제 6장 공학과 인문학의 경합적(Agonism) 관계 형성 제안 124
• 1. 공학과 인문학의 경합적 관계 125
• 2. 인문학이 공학에게 요구할 수 있는 논의 지점의 예시들 129
• 3. 증강민주주의 도입 이전에 우리가 시도해볼 수 있는 것 132
• 제7장 결론 134
• 1. 연구의 시사점 134
• 2. 연구의 요약 및 논의의 종합 136
• 3. 논의의 한계 및 향후 연구 제언 139