Mediation Machines: Designing AI for Emotionally and Culturally Sensitive Human Interaction = 사이를 잇는 기계들: 감정과 문화에 조응하는 AI 에이전트 설계

다국어 초록 (Multilingual Abstract)

In an increasingly polarized communication environment, emotional conflict and cultural misunderstanding have become a routine source of communication breakdown. This dissertation explores the potential for generative AI systems to technically mediate such breakdowns, grounding its approach in the Coordinated Management of Meaning (CMM) theory—a practical communication framework that emphasizes the co-construction of social meaning through the layered resolution of misunderstanding. CMM highlights three key dimensions where dialogue fails: coherence (misalignment in how meaning is interpreted), coordination (breakdowns in interactional alignment), and mystery (inability to engage with the indeterminacy and emergent nature of meaning).
Building on this theoretical foundation, the dissertation proposes the concept of mediation machines—generative AI agents not merely designed to produce language, but to act as tightly coupled dyadic partners that help restore meaning in emotionally and culturally sensitive conversations. Through three empirical studies, the work investigates whether and how such agents might support human communication across the three CMM dimensions.
Study 1 examines AI’s capacity to interpret social meaning by comparing GPT-4’s adjective-based assessments of social issues across 45 countries with real-world indicators. While high alignment was observed in well-structured domains such as women’s safety ( ρ = 0.89), much lower coherence appeared in topics with unsettled social consensus such as disability ( ρ = 0.41), revealing interpretive gaps. Study 2 explores AI’s ability to coordinate emotionally strained political dialogue by assigning agents with different conflict-resolution styles (e.g., accommodating, collaborative). Accommodating and collaborative agents significantly improved users’ emotional tone and perceived legitimacy of opposing views. Notably, participants with less prior experience in political debate reported lower emotional hurdles and increased willingness to engage, suggesting that AI can lower barriers to participation. Study 3 focuses on the linguistic and cultural variability of AI interpretation, showing that prompt language (English vs. native) yields different emotional tones and normative framings for the same issue. These findings illustrate that language is not merely a conduit but an activator of cultural priors and affective norms—corresponding to the mystery layer emphasized in CMM.
Together, the findings support a model in which generative AI agents can function as: (1) contextual interpreters that manage coherence across diverse social settings; (2) emotional mediators that regulate tone and affective stance; and (3) cultural navigators that adapt to linguistic and normative variation. These are not discrete roles but mutually constitutive functions that enable sustained meaning-making even in polarized or emotionally sensitive environments.
The dissertation concludes by proposing design heuristics for building emotionally and culturally responsive mediation machines and outlines their practical deployment in civic discourse platforms, educational settings, and policy simulations. By reimagining AI not simply as language generators but as relational agents, this work offers both conceptual and empirical foundations for communicative technologies that can support—not undermine—the co-construction of meaning in a divided world.

국문 초록 (Abstract)

오늘날의 커뮤니케이션 환경은 점점 더 양극화되고 있으며, 그 속에서 감정적 충돌과 문화적 오해로 인한 대화의 붕괴(communication breakdown)는 일상 화되고 있다. 본 연구는 이러한 문제를 기술적으로 조율할 수 있는 가능성을 탐색하며, 기존 커뮤니케이션 이론 중에서도 실질적 해결책을 제시하는 의미 의 조정적 관리 이론 (CMM: Coordinated Management of Meaning)을 이론 적 기반으로 채택한다. CMM은 커뮤니케이션의 목표를 ‘공존적 의미 구성(coconstruction of social meaning)’으로 정의하며, 이를 위해 정합성(coherence), 조율(coordination), 미스터리(mystery)라는 세 가지 층위에서 오해를 풀어가는 과정을 강조한다.
본 박사학위논문은 이러한 CMM 이론을 바탕으로, 생성형 AI 에이전트가 인간과 긴밀하게 결합되어 커뮤니케이션 파트너(dyad)로서 함께 의미를 구성 해 나가는 가능성을 탐색한다. 본 논문은 이러한 AI 에이전트를 단순한 언어 생성기가 아닌 중재 기계(mediation machine)로 정의한다. 에이전트가 어떻게 사회적 맥락에서 의미를 해석하고, 감정적 균형을 회복하며, 문화적 다양성을 포용하는 데 기여할 수 있는지를 실증적으로 검토한다.
세 가지 연구는 각각 CMM의 세 요소에 대응하는 중재 기능을 현재의 생성 형 AI 기술이 수행할 수 있는지를 분석한다. (1) 스터디 1은 45개국을 대상으로 GPT-4가 생성한 사회 인식 응답과 실제 사회 지표 간의 정합성을 비교하였다. 여성 안전과 같은 구조화된 영역에서는 높은 상관관계 ( ρ = 0.89)를 보인 반 면, 장애와 같이 사회적 합의가 불안정한 주제에서는 낮은 정합성 ( ρ = 0.41) 을 보이며, 의미 해석의 편향과 단층을 드러냈다. (2) 스터디 2는 감정적으로 민감한 정치 담론 상황에서, 서로 다른 갈등 해결 전략 (수용형, 협력형 등)을 가진 AI 에이전트들이 사용자의 민주적 상호성 (democratic reciprocity)에 미 치는 영향을 분석하였다. 수용형 및 협력형 에이전트는 상대 의견에 대한 정서적 평가와 정당성 인식을 유의미하게 향상시켰으며, 특히 정치 대화 경험이 적은 사용자일수록 감정적 허들이 낮아져 대화 참여도가 상승하였다. (3) 스터디 3은 동일한 이슈에 대한 응답이 영어와 모국어 프롬프트에 따라 정서적 톤과 해석의 뉘앙스에서 어떻게 달라지는지를 분석하였다. 언어는 단순한 전달 수단이 아니 라, 문화적 사전지식과 감정 규범을 활성화하는 요소로 작동하며, 이는 CMM 이 강조하는 미스터리의 층위에 대응한다.
이러한 결과를 바탕으로 본 논문은 AI 에이전트가 다음과 같은 세 가지 상호 구성적 기능을 수행할 수 있음을 주장한다. (1) 사회적 맥락 간 의미 정합성을 조율하는 상황 해석자 (contextual interpreter), (2) 감정적 긴장과 표현의 톤을 조절하는 감정 중재자 (emotional mediator), (3) 언어 및 문화적 규범의 차이를 넘나드는 문화 항해자 (cultural navigator)가 바로 그것이다. 이들은 서로 얽혀 작동하며, 복합적이고 민감한 대화 상황에서도 의미 구성과 상호 인정을 지속할 수 있는 기반을 제공한다.
본 논문은 이러한 중재 메커니즘을 구현하기 위한 감정적 · 문화적 감수성 기반의 디자인 휴리스틱을 제안하며, 시민 담론 플랫폼, 교육, 정책 시뮬레이션 등 실제 사회적 맥락에서의 활용 가능성을 함께 제시한다. 생성형 AI를 단순한 언어 생성기에서 나아가 관계적 에이전트로 재정립함으로써, 본 연구는 오해 를 증폭하는 대신 의미를 공동 구성할 수 있는 미래형 커뮤니케이션 기술의 실증적 · 개념적 토대를 제안한다.

목차 (Table of Contents)

• Abstract i
• Chapter 1 Introduction 1
• 1.1 Problem Statement: Communication Breakdown and Social Disconnection 1
• 1.2 Background: Technological Opportunity and Market Structure 4
• 1.3 Motivation: Designing AI for Human Mediation 7
• 1.4 Research Goal and Questions 12
• 1.4.1 An Engineering and Design-Oriented Definition of AI Mediation 13
• 1.5 Framing the Research: CMM as a Guiding Model 15
• 1.6 Major Contributions 17
• 1.7 Thesis Overview 18
• Chapter 2 Literature Review 23
• 2.1 From Simulating Systems to Understanding Dialogue 26
• 2.2 Technology as a Relational Mediator 28
• 2.3 The Emergence of the AI Facilitator 32
• 2.4 Architecting Trust: Ethical Imperatives for AI Mediators 35
• Chapter 3 Coherence and Social Meaning — Evaluating AI’s Interpretation of Context 37
• 3.1 Design Goal and Decisions 38
• 3.2 Experimental Design and Response Method 39
• 3.2.1 Exploratory Hypotheses 43
• 3.3 Results and Interpretation: Cross-Cultural Patterns and Co-herence Gaps 43
• 3.3.1 Cross-Cultural Alignment with Official Indicators 43
• 3.3.2 Descriptive Variability and Marginalized Group Sensitivity 44
• 3.3.3 Case Focus: Disability Perception Misalignment 45
• 3.3.4 AI as a Semantic Probe 46
• 3.4 Design Implications 47
• Chapter 4 Coordination and Emotion — Designing AI Mediation in Polarized Dialogue 50
• 4.1 Design Goal and Decisions 51
• 4.2 Experimental Design 51
• 4.3 Participants and Recruitment 53
• 4.3.1 Introduction of AI Bot with Persona Believing in Electoral Fraud 54
• 4.3.2 Introduction of AI Bot with Persona Believing in Electoral Fraud 55
• 4.3.3 Experimental Design 56
• 4.3.4 Agent Prompting by Conflict Style 56
• 4.3.5 Experimental Procedure 57
• 4.4 Experimental Results 58
• 4.4.1 CMM Perspective on AI-Mediated Dialogue 72
• 4.5 Design Implications 73
• 4.6 Extended Reflections and Open Questions 75
• 4.6.1 Issue of Utterance Agency 75
• 4.6.2 Is a Conversation Space with Only Mild Flavors Valid? 76
• 4.6.3 Relation to Prior Work: Intersubjective Models of AI Mediation 78
• 4.7 Summary 79
• Chapter 5 Exploring Cultural Mystery through Language - How AI Reveals and Conceals Meaning 82
• 5.1 Design Goal and Decisions 84
• 5.2 Survey-Based Social Indicator Prediction Experiment 85
• 5.3 Language-Specific Response Comparison and Correlation Analysis 86
• 5.4 Linguistic Extension: Cross-Language Comparison on Sensitive Social Issues 90
• 5.5 Design Implications 92
• 5.5.1 Cultural Variation is not a Flaw, but a Feature to be Managed 93
• 5.5.2 Separating Substance from Form 93
• 5.5.3 Cultural Calibration as a Design Layer 94
• 5.5.4 Implications for Agent-Based Simulation and Policy 95
• 5.6 Conclusion 96
• 5.7 Open Questions in Multilingual Agent Behavior 97
• Chapter 6 Integrated Discussion 99
• 6.1 Synthesis of Key Findings from All Studies 99
• 6.2 Design Reflections from a Socio-Technical Lens 101
• 6.3 Comparison with Prior Work and Theoretical Expansion 102
• Chapter 7 Design Guidelines for Socially Interactive AI Agents 104
• 7.1 Principles for Culturally Adaptive AI (Related to Study 3) 106
• 7.2 Guidelines for Emotionally Sensitive Agent Design (Related to Study 2) 107
• 7.3 Operational Strategies for Contextual and Relational Coherence (Related to Study 1) 108
• 7.4 Anticipated Social Impact (Speculative) 109
• 7.5 Toward a Prototype: Mediation Machine Pipeline 110
• Chapter 8 Conclusion and Future Research 115
• 8.1 Summary of Findings 116
• 8.2 Academic and Practical Contributions 117
• 8.3 Limitations and Future Research Directions 120
• 8.4 Final Remarks 121
• Appendix A 123
• A.1 AI model responses to country-specific social contexts 124
• Appendix B 141
• B.1 System Prompts for Conflict-Resolution AI Agents 141
• Appendix C 147
• C.1 Sample Agent Responses by Conflict Style 147
• Appendix D 150
• D.1 Comparison of ChatGPT’s Responses Across Languages 151
• Appendix E 157
• E.1 Design Framework for Mediation Machines 157
• Appendix F 161
• F.1 Stakeholder-Specific Mapping of the Mediation Framework 161
• Appendix G 165
• G.1 Expanded Mapping of Mediation Functions and Evaluation 165
• Acknowledgements 185
• 요약 188