State Responsibility for AI-Enabled Cyber Propaganda: Navigating Transgressive Influence and Amplified Harm = 인공지능 기반 사이버 선전에 대한 국가책임: 초국경적 영향력 행사와 증폭된 위해의 국제법적 함의

국문 초록 (Abstract)

세계대전이 영토나 자원을 둘러싼 분쟁을 넘어 민주주의와 공산주의 간 이념적 대립으로 심화되었듯이, 역사의 전환점이 된 국제 분쟁들은 물리적 무력행사 그 자체로만 해명되기 어렵다. 궁극적인 결과는 군사적 우위뿐 아니라, 분쟁의 정당성에 관한 국제적 인식을 형성하고 지배하는 능력에 의해 좌우되기도 한다. 국가들은 역사적 서사(narrative) 를 정의하는 담론 주도권을 장악하기 위해 다양한 소통 매체를 활용해왔으며, 21세기 들어 이러한 경쟁은 사이버공간으로 확산되면서 새로운 양상을 보이게 되었다.
한편 사이버공간은 디지털 기술의 발전과 함께 활용도가 증가하면서, 국가, 기업, 민간의 역할과 활동 경계가 점차 모호하게 만들었다. 정부는 공공 서비스의 효율성을 높이기 위해 민간 기술을 적극 도입하고, 기업은 공공 부문과 협력하여 디지털 전환에 대한 가치를 창출하며, 일반 대중은 디지털 플랫폼을 통해 사회적 참여와 영향력을 확대하고 있다. 국가와 비국가행위자가 수평적으로 공존하는 이러한 환경에서, 국가들은 공공외교와 권력의 연장선으로 정교한 디지털 도구를 통한 선전(propaganda) 활동을 적극 전개하고 있다. 더욱이, 자동화 기술이 점진적으로 도입되어 온 가운데, 근래 인공지능(AI) 기술의 급진적 발전과 확산은 디지털 선전 활동을 질적으로 변화시키며 그 파급력을 기하급수적으로 확대하고 있다. 사이버공간상의 인공지능 기술은 전례 없는 개인화와 실시간 대응 능력을 제공하며, 허위 서사 생성, 정보 맥락 왜곡, 알고리즘 조작, 심리전 등 다양한 형태의 사이버선전을 가능하게 한다.
이러한 인공지능 기반 선전활동은 국가들의 외교 정책 수단을 넘어 국경을 초월한 정치적 영향력 행사로 확장되면서, 기존 국제법상 국가책임의 법리에 대한 중대한 도전을 제기하고 있다. 특히 비정형적이고 분류하기 어려운 새로운 작전 양태의 등장은 전통적 규제 체계의 적용을 더욱 복잡하게 만든다. 그러나 비록 인공지능 거버넌스에 대한 국제적 관심이 증가하고 있음에도 불구하고, 관련 판례가 전무한 상황이며, 인공지능 기반 사이버 선전에 새롭게 초점을 맞춘 포괄적인 학술적 분석은 아직까지 미비한 실정이다. 따라서 본 논문은 국제적으로 보도된 실제 사례들을 중심으로, 기존의 국제법 일반 원칙, 유추 적용 가능한 비교법적 논의, 유관 분야의 학제적 연구를 종합하여 국가책임 적용 가능성을 검토하고, 인공지능 기반 사이버 선전에 대한 국가책임 귀속 문제와 그 이론적 한계를 탐구한다. 이는 인공지능 기술이 선전 활동의 법적 성격 자체를 변화시킬 수 있다는 인식에 기반한다.
국가의 정치·외교 수단으로서 ‘선전’의 본질적 목적—여론 영향, 혹은 교란—은 불변하나, 사이버공간상의 인공지능 기술의 결합은 정보의 양적 확장, 품질 고도화, 처리 속도 증대, 맞춤화 정교성을 모두 비용 효율적으로 실현하면서, 선전을 차원이 다른 정보 무기로 변모시켰다. 전통적으로 선전은 극단적이고 예외적인 상황을 제외하고는 국제법적 제재의 대상이 아니었으나, 사이버공간이라는 특수한 환경에서의 인공지능 기술 융합은 기존에 선전과 무관하다고 여겨졌던 주요 법적 의무들과의 새로운 충돌 가능성을 야기한다. 인공지능 기반 사이버 선전은 불간섭 원칙, 주권 침해, 인권 침해, 상당한 주의 의무 등 국제관습법을 기존 선전과는 다른 방식으로 위반할 수 있을 뿐 아니라, 무력사용의 물리적 효과와 직결될 가능성까지 내포한다.
또한 현대의 인공지능 기반 선전은 기술적 전문성을 요구하지 않으며, 민간인의 자발적·간접적 참여를 핵심 동력으로 삼는다. 이러한 분산적 행위 구조는 현행 '실효적 통제' 기준으로 포착되기 어려우며, 국가에게 책임 회피의 여지를 제공한다. 본 연구는 현 시점의 인공지능 규제가 대부분 위험 기반 접근을 취하며 물리적 안전이나 인권 침해에 초점을 맞추고 있는 반면, 인간의 인지와 의사결정에 직접 개입하는 인공지능 기반 여론 조작은 규제의 사각지대에 놓여 있음을 지적한다. 특히 인공지능 기반 선전은 정보공간에서 특정 물리적 산출물이 아니라, 정보의 생산 ·조작 ·재구성 과정 자체가 비가시적으로 작동하는 지능적 현상으로서, 그 개념적 모호성과 무형성은 기존의 국제법적 개념 틀로 포착하고 규율하기 어려운 구조적 난제를 제기한다.
실제로 여론이 형성되는 온라인 공간에서는 인공지능을 활용한 선전 캠페인이 전 세계적으로, 특히 각국의 정치적 이슈와 선거 국면에서 이미 만연하고 있다. 그러나 물리적 위해를 야기하는 인공지능 응용과 달리, 이러한 잠재적·비가시적 형태의 선전은 실효성 있는 규제 대상으로 인식되지 못하고 있다. 더욱이 표현의 자유가 제도적으로 보장된 사회에서 나타나는 정보 혼란과 선전 구조는 자유주의 체계 내부의 모순에서 비롯될 수 있다. 민주주의 사회가 보장하는 자율적 정보 흐름이 상업적·정치적 목적으로 조작될 때, 자유의 원리는 오히려 공론장을 붕괴시키는 역설을 낳을 수 있다. 이러한 법적·제도적 공백은 인공지능 기반 사이버 선전에 대한 국제법적 대응의 시급성을 보여준다.

다국어 초록 (Multilingual Abstract)

The most decisive conflicts are rarely settled by military force alone. Throughout history, the outcomes of major confrontations have depended equally on the ability to shape how those conflicts are understood—to define which side's narrative becomes the accepted account of events, and whose version of legitimacy prevails in international consciousness. In the 21st century, this timeless dynamic has found new expression through cyber operations, as States increasingly deploy sophisticated digital tools to pursue political objectives across borders. The integration of Artificial Intelligence (AI) into these practices has qualitatively transformed their character, introducing unprecedented complexities to the regulation and interpretation of State conduct under international law.
Despite growing discourse on AI governance, the implications for State responsibility regarding AI-enabled cyber propaganda remain underexplored in legal scholarship, with no existing jurisprudence to guide analysis. While the theoretical applicability of international law principles to propaganda in cyberspace has been acknowledged, the question remains whether these doctrines can adequately address AI's distinctive characteristics. Through rigorous examination of lex lata, the analysis reveals critical limitations in current frameworks that may enable the very conduct they ostensibly prohibit.
The convergence of AI, cyberspace, and propaganda has transformed State information operations from conventional leaflets to AI-enabled microtargeted campaigns. This evolution qualitatively reconfigures propaganda from a tool of persuasion into an intelligent process wherein information production, manipulation, and reconstruction function autonomously and continuously. The rapid, scalable generation of hyper-realistic, hyper-personalized content compromises evidentiary reliability, impedes source verification, and obscures attribution of State acts—undermining the very procedures international law presupposes for establishing responsibility.
These dynamics are illustrated through analysis of documented real-world incidents involving alleged State involvement. Modern AI-enabled cyber propaganda potentially violates existing international legal obligations, with primary law and treaty commitments—not traditionally linked to propaganda—taking on new significance at the intersection of AI and cyberspace capabilities. Examining how attribution operates across different actor types—from direct State organs to State-affiliated entities and non-state actors with no visible State connections—and analyzing due diligence obligations as both substantive duties and attribution standards, reveals a paradox: while AI-enabled cyber propaganda opens novel pathways to international law violations, the decentralized architecture of these operations fundamentally challenges the feasibility of establishing State responsibility under current legal frameworks.
AI-enabled cyber propaganda campaigns typically involve complex networks of actors ranging from direct State agents to loosely connected proxies and netizens acting in private capacities, while exploiting civilian populations as unwitting disseminators through their habitual engagement with algorithmically curated content on ubiquitous digital platforms—a structure that obscures clear governmental control. This architecture necessitates reevaluation of the current "effective control" based attribution threshold, which remains a fundamental obstacle to establishing State responsibility and achieving international legal recourse. The analysis therefore examines context-specific attribution models designed for cyber operations, assessing their feasibility and applicability when applied to AI-enabled cyber propaganda.
The research concludes by examining why States resort to non-legal recourse—such as public attribution and political signaling—alongside fragmented domestic regulation and non-binding multilateral initiatives, rather than binding international legal obligations. This pattern does not reflect tacit acceptance of AI-enabled cyber propaganda's harmful effects, but rather stems from both doctrinal obstacles and deeper conceptual challenges. While international law nominally addresses the individual elements—cyberspace, propaganda, and AI—their convergence produces an emergent threat that resists categorical placement within existing legal architecture. The conceptual difficulty is particularly acute with AI, which functions not as a conventional tool under human control, but as a distributed phenomenon embedded in the mechanisms through which information is produced, disseminated, and consumed
The resulting harm—cognitively corrosive, diffuse, and temporally extended—evades the immediate, tangible injury that traditional State responsibility frameworks presuppose. This categorical ambiguity, rather than mere political will or practical impediments to attribution, fundamentally explains the absence of comprehensive binding regulation and the persistence of international legal inertia in governing what constitutes an accelerating threat to information integrity and, ultimately, international peace.

목차 (Table of Contents)

• ABSTRACT i
• 국문초록 iv
• TABLE OF CONTENTS viii
• LIST OF TABLES xii
• LIST OF ACRONYMS AND ABBREVIATIONS xiii
• CHAPTER 1. INTRODUCTION 1
• 1.1 Context and Relevance 1
• 1.2 Objectives and Scope 6
• 1.3 Guiding Questions 7
• 1.4 Structure and Methodology 8
• CHAPTER 2. THE PHENOMENON OF AI-ENABLED CYBER PROPAGANDA 12
• 2.1 The Normative Spectrum of Propaganda: Recognition Without Definition 12
• 2.1.1 Propaganda as Legitimate Persuasion 13
• 2.1.2 Propaganda as Transgressive Influence 16
• 2.2 The Technological Evolution of Propaganda from Leaflets to Deepfakes 20
• 2.2.1 Traditional Mass Media Characteristics & Limitations 20
• 2.2.2 Transnational & Transboundary Expansion in Cyberspace 21
• 2.2.3 AI as Catalyst: Transforming Propaganda into Qualitative Threat 22
• 2.2.3.1 Definitional Anchors of AI 23
• 2.2.3.2 Amplification of Speed, Scale, and Sophistication 24
• 2.2.3.3 The Erosion of Evidentiary Value of Electronic Documentation 28
• 2.2.3.4 The Impairment of Collective Reasoning 30
• 2.2.4 Conceptual Rationale for the Term "AI-Enabled Cyber Propaganda" 33
• 2.3 State Uses of AI-Enabled Cyber Propaganda: Operational Models 34
• 2.3.1 AI-Generated Fake News Campaigns 35
• 2.3.2 AI-Driven Algorithmic Manipulation 38
• 2.3.3 AI-Enhanced Psychological Operations 39
• 2.3.4 AI-Fueled Polarization as Coordinated Social Warfare 42
• 2.3.5 AI-Powered Censorship and Information Control 45
• 2.3.6 Unclassifiable & Unconventional Forms 47
• 2.4 Features of AI-Enabled Cyber Propaganda with Legal Relevance 49
• CHAPTER 3. AI-ENABLED CYBER PROPAGANDA: NEW PATHWAYS TO INTERNATIONAL LAW VIOLATIONS 52
• 3.1 Subversive Propaganda and Foundational Inter-State Obligations 53
• 3.1.1 UN Charter Provisions 53
• 3.1.2 Principle of State Sovereignty 59
• 3.1.3 Prohibition of Intervention 63
• 3.1.3.1 Domaine Rserv: The Protected Sphere 64
• 3.1.3.2 Coercion: The Defining Criterion 67
• 3.1.3.3 Intent: The Constitutive Element 73
• 3.1.4 Due Diligence Obligations 76
• 3.1.4.1 Non-State Propaganda Causing Serious International Harm 79
• 3.1.4.2 The Challenge of Actual or Constructive State Knowledge 81
• 3.1.4.3 Feasibility of Preventative and Mitigative Measures 83
• 3.2 Cross-Border Propaganda and Treaty Based Inter-State Obligations 86
• 3.2.1 International Convention on the Use of Broadcasting in the Cause of Peace 86
• 3.3 Content-Based Propaganda and Human Rights Obligations 92
• 3.3.1 Beyond Incitement: AI & the Novel Application of ICCPR 93
• 3.3.2 The Enduring Legacy and Digital Evolution of Propaganda for War 97
• 3.4 Context-Specific Propaganda and Armed Conflict Obligations 99
• 3.4.1 Propaganda Prohibitions Under IHL 99
• 3.4.2 International Criminal Law Considerations 102
• CHAPTER 4. ESTABLISHING DIRECT, INDIRECT, AND DERIVATIVE STATE RESPONSIBILITY FOR AI-ENABLED CYBER PROPAGANDA 105
• 4.1 Conduct Originating from the State Apparatus 106
• 4.1.1 State Organs 106
• 4.1.2 Entities Exercising Elements of Governmental Authority 111
• 4.1.3 State Organs Placed at the Disposal of a State 114
• 4.1.4 Ultra Vires Acts 116
• 4.2 Conduct of Non-State Actors 118
• 4.2.1 Non-State Actors under 'Effective' State Control 118
• 4.2.1.1 Plausibly Deniable Hierarchical Structure: Russian Proxies 120
• 4.2.1.2 Non-hierarchical, Decentralized Structure: Chinese Wumao Network 125
• 4.2.2 Conduct Subsequently Acknowledged and Adopted by State 128
• 4.3 Derivative Responsibility Through Complicity and Aid 132
• 4.4 Due Diligence as a Basis for Indirect Responsibility 136
• 4.4.1 Failure to Oversee Digital Channels Used for Propaganda 138
• 4.4.1.1 Social Media Platforms 139
• 4.4.1.2 Generative AI Models 143
• 4.4.2 Failure to Regulate Data Processing Enabling Propaganda 145
• 4.4.3 Failure to Cooperate Internationally to Counter Propaganda 150
• CHAPTER 5. THE STATE RESPONSIBILITY GAP: LIMITS OF INTERNATIONAL LAW IN ADDRESSING AI-ENABLED CYBER PROPAGANDA 153
• 5.1 Between Recognition and Regulation: State Responses to AI-Enabled Cyber Propaganda 154
• 5.1.1 Retorsions and Public Denunciations as Prevailing Practice 154
• 5.1.2 Rhetorical Consensus: Soft Law Recognition without Binding Commitment 159
• 5.1.2.1 The UN's Evolving Acknowledgement on AI & Propaganda 159
• 5.1.2.2 Policy Coordination at Intergovernmental Forums Beyond UN 164
• 5.1.3 Fragmented Regulation of AI-Enabled Cyber Propaganda 166
• 5.1.4 Divergent State Preferences and Geopolitical Incentives 171
• 5.2 Attribution as a Threshold Problem: Control and Responsibility in the Age of AI 173
• 5.2.1 The Problematic Terrain of Effective Control Standard 174
• 5.2.2 The Institutional Limits of the Overall Control Standard 176
• 5.2.3 Context-Specific Attribution Models in Contemporary Scholarship 179
• 5.2.3.1 The Soft Control Standard 179
• 5.2.3.2 The Virtual Control Standard 181
• 5.2.3.3 The Complicity Standard 183
• 5.2.3.4 The Pattern of Conduct Standard 184
• 5.3 From Doctrinal Impasse to Conceptual Reassessment: Object-Centered Responsibility in the Age of AI 186
• 5.3.1 Modes of Legal Characterization of AI 187
• 5.3.1.1 The Human-Centric Baseline: Law Anchored in Human Control 187
• 5.3.1.2 The Tool-Centric Regulatory Model 191
• 5.3.1.3 The Agent-Centric Approach to Responsibility 194
• 5.3.2 Defining the Indefinable: The Case for AI Legal Personhood 199
• CHAPTER 6. CONCLUSION 205
• REFERENCES 211