AI 적용 대테러안보 전략 : 법과 윤리적 문제 해결을 중심으로 = AI-Driven Counterterrorism Security Strategies : Focusing on Addressing Legal and Ethical Issues

다국어 초록 (Multilingual Abstract)

This paper examines the application of artificial intelligence (AI) to establish and
implement effective counterterrorism security strategies for national security, while
also considering the serious legal and ethical issues that may arise as a result and
proposing solutions. To this end, it reviews the definition and concept of modern
terrorism, the technical characteristics of AI and its core technologies applicable to
counterterrorism strategies, and the legal and ethical issues and mistakes arising
from the current legal frameworks and response cases of major countries.
Traditional human-resource-centered intelligence gathering and counter-terrorism
activities for prevention and response have long been problematic, involving extensive
collection of personal information on foreigners and citizens, illegal wiretapping, and
surveillance. This pattern persists in contemporary national security and
counter-terrorism strategies utilizing artificial intelligence (AI) technology.
Following the September 11, 2001 terrorist attacks, major nations witnessed
firsthand that transnational terrorist activities could inflict war-level devastation
capable of shaking a nation to its core. Consequently, they raced to strengthen
relevant legislation and response systems. In this process, the United States triggered
legal and ethical conflicts over citizen privacy by extensively collecting sensitive
information, including biometric data, on unspecified foreigners residing or seeking
entry into the country through the “Patriot Act.” The United Kingdom established a
counterterrorism policy centered on preemptive prevention, but the application of AI
technology to these prevention programs faced issues of algorithmic bias targeting - ⅵ -
specific groups (race/religion). Israel has faced criticism for using AI in attack
targeting and targeting processes, relaxing human oversight and control over target
selection and strikes. This creates a “responsibility gap” where accountability under
international humanitarian law and international criminal law is difficult to pursue. It
is also accused of intentionally causing collateral damage, violating the “principle of
distinction” and the “principle of proportionality” under international humanitarian
law. China has been assessed as lacking respect for human rights, due process, and
the warrant principle, using AI technology as a means of social control and
surveillance tied to its political system.
The key to success or failure in establishing and operating national security and
counter-terrorism strategies utilizing artificial intelligence (AI) lies not primarily in the
sophistication of AI technology or the technological maturity of the implementing
state, but rather in the strategic objectives, political system, legal framework, and
environment of the state applying it. Furthermore, the level of human rights values,
ethics, and moral consciousness within that state and its civil society act as decisive
factors. Therefore, by analyzing the cases of leading nations, this paper proposes
measures for the Republic of Korea to implement an AI-based counterterrorism
strategy framework while upholding lawful and democratic values. It suggests policy
approaches to ensure national security through artificial intelligence (AI) utilization
and protect the lives and safety of its citizens in the era following the Fourth
Industrial Revolution.

국문 초록 (Abstract)

본 논문은 국가안전보장을 위한 효과적인 대테러안보 전략수립과 실행을 목표로 AI를 적용하는 방안
과 이로인해 수반될 수 있는 심각한 법과 윤리적문제를 고찰하고 해소방안을 제시한다. 이를 위해 현대 테러리즘의 정의와 개념, 인공지능의 기술적 특징과 대테러전략에 적용가능한 핵심기
술, 주요 국가의 대테러 관련 법제현황과 대응사례를 통해 발생한 법과 윤리적 문제의 쟁점과 과오를
검토하였다. 대테러 예방 및 대응을 위한 기존의 인적자원 중심의 정보수집과 테러 차단활동은 기존에도 광범위한
외국인과 자국시민에 대한 개인정보 수집, 불법적인 도청과 미행 등이 문제가 되었었다. 이는 현대의
인공지능(AI) 기술을 이용한 국가안보 및 대테러 전략 대응에서도 그대로 이어지게 되었다.
2001년 9.11 테러사건 이후 주요 국가들은 초국가적 테러활동이 국가를 뒤흔드는 전쟁수준의 피해를
야기할수있단 사실을 목도하게 되었고 앞다투어 관련 법령과 대응체계를 강화해 나갔다. 그 과정에서
미국은 “애국자 법”을 통한 자국내 체류중이거나 입국하고자 하는 불특정 외국인과 자국시민에 대한
생체정보 등 민감정보들 광범위하게 수집하는 행동으로 시민의 개인정보 침해의 법과 윤리적 충돌을
야기했고 영국은 사전 예방중심의 대테러정책을 수립하였으나, 이러한 예방 프로그램의 AI기술 적용은
특정 계층(인종ㆍ종교)에대한 알고리즘편향의 문제에 직면하게 되었다.
이스라엘은 인공지능을 활용한 공격목표 및 표적화 과정에서 표적의 선택과 타격에 대한 인간의 감
독과 통제를 완하하여 국제인도법과 국제형사법상 책임추궁이 어려운 “책임의 공백” 문제와 고의로
부수적 피해를 야기함으로서 국제 인도법상 “구별의 원칙”과 “비례성의 원칙”을 위반하는 것을 의
도했다는 비판을 받고 있다. 중국은 AI기술을 정치체제와 결부된 사회통제와 감시의 수단으로 인권과
적법절차 및 영장주의 의 가치가 부재하고 있다 평가되었다.
인공지능(AI)을 적용한 국가안정보장 과 대테러안보 전략을 수립하고 운영하는것에 있어 성ㆍ패의
핵심은 인공지능(AI) 기술의 완성도와 이를 활용하는 국가의 기술 성숙도 보다는 그것을 적용하는 국가
의 전략목적 과 정치체제, 법률 구조와 환경ㆍ더 나아가 해당 국가와 시민사회의 인권의 가치와 윤리
및 도덕적 의식수준이 결정요소로 작용된다 할 수 있다. 따라서 앞선 주요 국가들의 사례를 분석함으로
서. 대한민국이 적법하고 민주적 가치를 유지하는가운데 AI기술을 적용한 대테러전략 체계를 적용하기
위한 방책을 제시함으로서 4차 산업혁명 이후 인공지능(AI)을 활용한 국가안전을 보장하고 국민의 생명
과 안전을 지킬수 있는 정책방안을 제언한다.

목차 (Table of Contents)

• 제1장 서론 1
• 제1절 연구의 목적 및 배경 1
• 제2절 연구의 필요성 및 중요성 2
• 제3절 연구의 방법 및 구성 3
• 제2장 이론적 배경 5
• 제1절 테러리즘의 개념과 특징 5
• Ⅰ. 테러리즘 정의와 관련한 국제적 논의 5
• Ⅱ. 주요 학자들의 테러리즘 정의 6
• Ⅲ. 국가별 현행법령 상 테러의 정의 7
• 제2절 인공지능(AI)의 개념과 기술 발전 동향 15
• Ⅰ. 인공지능(AI)의 개념과 특징 15
• Ⅱ. 인공지능(AI) 기술 발전 동향 15
• 제3절 대테러안보 개념 19
• Ⅰ. ‘안보(Security)’개념의 확장 19
• Ⅱ. ‘대테러(Counter-terrorism)’ 활동의 다면성 19
• Ⅲ. ‘대테러안보’ 개념의 정립 20
• 제3장 AI 적용에 따른 대테러안보 패러다임 변화 21
• 제1절 대테러 활동에 활용가능한 AI 핵심기술 21
• Ⅰ. 데이터 분석 및 예측 (Data Analysis and Prediction) 21
• Ⅱ. 감시 및 식별 (Surveillance and Identification) 21
• Ⅲ. 정보 수집 및 분석 (INTCOL and Analysis) 23
• Ⅳ. 자율 시스템 (Autonomous Systems) 23
• 제2절 인공지능(AI) 적용을 통한 대테러안보 패러다임 전환 25
• Ⅰ. 정보 패러다임 전환: AI적용을 통한 정보수집 범위의 확장과 위험식별 증대 25
• Ⅱ. 전략 패러다임 전환: 가용자원의 효율적 배치를 통한 최소피해 최대효과 달성 25
• Ⅲ. 작전 패러다임 전환: ‘인간-기계 협업’을 통한 전술적 우위 확보 26
• 제4장 해외 대테러안보 전략과 AI 적용으로 인한 법과 윤리적 문제 분석 29
• 제1절 미국 29
• Ⅰ. 대테러안보 전략: 정보개혁법(IRTPA)과 국가대테러전략(NCTS) 29
• Ⅱ. AI 적용사례: TIDEㆍATRㆍASTㆍProject MAVEN 30
• Ⅲ. AI 적용으로 나타난 법과 윤리적 문제 31
• 제2절 영국 32
• Ⅰ. 대테러안보 전략: CONTEST 4P 프레임워크 32
• Ⅱ. AI 적용사례: 예방 의무(Prevent Duty)ㆍCTIRUㆍChannel Program 35
• Ⅲ. AI 적용으로 나타난 법과 윤리적 문제 37
• 제3절 이스라엘 38
• Ⅰ. 대테러안보 전략: 군 주도 하 공세적인 테러 대응 38
• Ⅱ. AI 적용사례: ‘표적 공장(Target Factory)’의 가동 39
• Ⅲ. AI 적용으로 나타난 법과 윤리적 문제 40
• 제4절 중국 42
• Ⅰ. 대테러안보 전략: ‘사회 안정’ 유지와 국가안전법 42
• Ⅱ. AI 적용사례: 통합합동작전플랫폼(IJOP)과 사회신용시스템 43
• Ⅲ. AI 적용으로 나타난 법과 윤리적 문제 44
• 제5절 국가별로 나타난 법적 문제 분석 45
• Ⅰ. 프라이버시 및 개인정보 자기결정권 침해 45
• Ⅱ. 적법절차 원칙의 위배 가능성 46
• Ⅲ. 책임 소재의 불명확성: 책임의 공백 (Accountability Gap) 46
• Ⅳ. 치명적 자율살상무기(LAWS)의 구별ㆍ비례의 원칙 위반 가능성 47
• 제6절 국가별로 나타난 윤리적 문제 분석 50
• Ⅰ. 알고리즘 편향성(Bias): 특정집단(인종ㆍ종교ㆍ국가)의 차별의 자동화 50
• Ⅱ. 투명성 및 설명가능성(XAI) 부재: 블랙박스 문제 51
• Ⅲ. 인간의 자유와 존엄성 침해: 디지털 판옵티콘 문제 52
• Ⅳ. ‘킬러 로봇’의 비인간성: 도덕적 책임의 공백 53
• 제5장 법과 윤리적 문제 해소 방안과 한국형 AI 대테러전략 모델 제안 54
• 제1절 법과 윤리적 문제 해소 방안 모색 54
• Ⅰ. '위험 기반 접근법'에 따른 AI 규제 체계 개선 54
• Ⅱ. 대테러·안보 목적의 AI 활용에 대한 명확한 법적 근거 및 요건 설정 59
• Ⅲ. 독립적 감독기구 설치를 통한 사후 통제 강화 60
• Ⅳ. 데이터 수집·활용의 투명성 확보 및 정보주체 권리 보장 61
• Ⅴ. 설명가능한 인공지능(Explainable AI, XAI)기술 개발 및 도입 의무화 63
• Ⅵ. 알고리즘 편향성 완화를 위한 데이터셋 구축 및 감사 실시 63
• Ⅶ. '의미 있는 인간 통제' 원칙의 확립 및 제도화 66
• Ⅷ. AI 윤리 가이드라인 제정 및 관련 종사자 교육 강화 67
• 제2절 한국형 AI 대테러전략 모델 제안 68
• Ⅰ. 예방(Prevent)단계: AI 기반 단계적 테러 위험요인 사전식별 및 대응 68
• Ⅱ. 대응 (Pursue) 단계: AI 융합 합동작전 수행 모델 71
• Ⅲ. 방호 (Protect) 단계: AI 기반 다층 스마트 방호 모델 73
• Ⅳ. 대비 (Prepare) 단계: AI 주도 위기관리 및 회복탄력성 강화 모델 74
• 제6장 결론 77
• 참고문헌 83
• ABSTRACT 90