자율운항선박의 AI 기반 자율충돌회피시스템 대상 계층적 사이버 복원력 프레임워크 제안 = Layered Cyber Resilience Framework for AI-Based Autonomous Collision Avoidance Systems in Maritime Autonomous Surface Ships

국문 초록 (Abstract)

자율운항선박은 최근 인공지능 기술의 본격적인 도입을 통해 항법, 충돌회피, 에너지 관리 등 핵심 기능의 자율성을 강화하고 있으며, 그중 AI 기반 자율충돌회피시스템(AI-based Autonomous Collision Avoidance System, AI-ACAS)은 선박 안전을 좌우하는 핵심 구성요소로 자리 잡고 있다. 그러나 AI-ACAS는 학습 데이터, 모델 파라미터, 추론 입력, 제어 로직 등 AI 구성요소로 인해 기존 IT 및 선내 시스템과는 상이한 공격 표면을 가지며, 이로 인해 데이터 중독, 적대적 예제, 백도어 삽입, 모델 변조와 같은 AI 특화 공격에 취약하다. 그럼에도 기존 연구는 알고리즘 성능·기능 안전 중심에 머무르며, AI 대상의 고유 위협과 복원력 확보 방안을 구조적으로 분석한 연구는 부족한 실정이다. 또한 선박 대상의 사이버 복원력 국제 지침인 UR E26/27은 선박 및 온보드 시스템의 전통적 보안 요구사항을 중심으로 구성되어 있어 AI 특화 위협을 충분히 반영하지 못한다. 이에 본 연구는 AI-ACAS의 동작 과정과 AI 관점을 반영하여 상황인식–의사결정·경로계획–제어의 3계층 구조를 공식 분석 단위로 설정하고 각 계층에서의 공격 대상 자산 및 위협 벡터와 위협 효과 영역을 체계적으로 정리하였다. 이어 AI 보안 위협 분석 체계인 MITRE ATLAS 전술 중 AI-ACAS 자산에 영향을 미치는 AI Model Access, AI Attack Staging, Initial Access, Persistence, Impact의 5개 전술을 선별하고 최근 5년간의 자율운항선박·자율주행체 관련 문헌을 기반으로 계층별 AI 특화 위협을 도출하였다. 또한 도출된 전술–위협을 MITRE ATLAS의 기법 수준까지 세분화하여 매핑함으로써 공격 수행 방식과 계층별 영향 경로를 정밀하게 구조화하였다. 마지막으로 IACS UR E26/E27, NIST SP 800-160 v2, NIST SP 800-53, NIST AI 100-2 E2025 등 국제 사이버 복원력 지침을 적용하여 위협별 복원력 전략을 도출하고 이를 계층별 매트릭스로 통합한 프레임워크를 제안한다. 본 연구에서 제안한 프레임워크는 기존의 선박 단위 또는 네트워크 중심 접근에서 포착하기 어려웠던 AI 모델 대상의 취약성을 계층 기반 구조를 통해 구조적으로 드러내고 AI 특화 위협을 선박 안전의 관점에서 해석할 수 있는 분석 틀을 제공한다는 점에서 의의가 있다. 또한 국제 표준과 정합성을 갖춘 복원력 전략을 통합적으로 제시함으로써 향후 MASS의 설계·검증·운용 단계에서 안전하고 신뢰할 수 있는 AI-ACAS 구현을 지원할 수 있을 것으로 기대된다.

다국어 초록 (Multilingual Abstract)

Maritime Autonomous Surface Ships (MASS) are increasingly adopting artificial intelligence (AI) to enhance autonomy in key functions such as navigation, collision avoidance, and energy management. Among these, the AI-based Autonomous Collision Avoidance System (AI-ACAS) has emerged as a core component that directly affects navigational safety. However, AI-ACAS introduces AI-specific components—such as training data, model parameters, inference inputs, and control logic—that create attack surfaces fundamentally different from those of conventional IT and onboard systems, making it vulnerable to AI-specific attacks including data poisoning, adversarial examples, backdoor insertion, and model manipulation. In addition, international guidelines for shipboard cyber resilience, such as IACS UR E26/E27, primarily address traditional security controls for ship and onboard systems and do not sufficiently account for AI-specific threats. To address these gaps, this study defines a three-layer architecture for AI-ACAS—situational awareness, decision and planning, and control—as the formal analytical units, and systematically identifies the target assets, threat vectors and threat effect areas associated with each layer. Based on this architecture, we select five tactics from the MITRE ATLAS adversarial AI threat model—AI Model Access, AI Attack Staging, Initial Access, Persistence, and Impact—that are relevant to AI-ACAS assets, and derive layer-specific AI threats using literature published over the past five years on MASS and autonomous vehicles. The identified tactic–threat pairs are further mapped to the technique level of MITRE ATLAS in order to precisely characterize concrete attack procedures and their propagation paths across layers. Finally, we apply international cyber resilience guidelines, including IACS UR E26/E27, NIST SP 800-160 v2, NIST SP 800-53, and NIST AI 100-2 E2025, to derive threat-specific resilience strategies and integrate them into a layer-wise “tactic–threat–resilience strategy” matrix. The proposed framework reveals vulnerabilities of AI models and related assets that are difficult to capture with existing ship-level or network-centric approaches, and provides a structured analytical lens for interpreting AI-specific threats from the perspective of ship safety. By integrating resilience strategies that are aligned with international standards, the framework is expected to support the safe and trustworthy deployment of AI-ACAS across the design, verification, and operational phases of MASS.

목차 (Table of Contents)

• 제1장 서 론 1
• 제2장 배경지식 및 관련 연구 5
• 2.1 자율충돌회피시스템 5
• 2.1.1 일반적인 자율충돌회피시스템의 구조와 기능 5
• 2.1.2 AI 기반 자율충돌회피시스템의 구조와 기능 7
• 2.2 MITRE ATLAS 11
• 2.3 사이버 복원력 관련 지침 14
• 2.3.1 IACS UR E26/27 14
• 2.3.2 NIST SP 800-160 Vol.2 15
• 2.3.3 NIST SP 800-53 Rev.5 16
• 2.3.4 NIST AI 100-2 E2025 17
• 2.4 관련 연구 19
• 2.4.1 자율운항선박 대상 사이버 위협 및 복원력 관련 연구 19
• 2.4.2 AI 기반 자율 시스템 대상 사이버공격 및 위협 관련 연구 20
• 제3장 AI 기반 자율충돌회피시스템 사이버 복원력 프레임워크 제안 23
• 3.1 프레임워크 개요 23
• 3.2 상황인식 계층 27
• 3.2.1 AI Model Access 전술 28
• 3.2.2 AI Attack Staging 전술 31
• 3.2.3 Initial Access 전술 34
• 3.2.4 Persistence 전술 35
• 3.2.5 Impact 전술 38
• 3.3 의사결정ㆍ경로계획 계층 41
• 3.3.1 AI Model Access 전술 42
• 3.3.2 AI Attack Staging 전술 44
• 3.3.3 Initial Access 전술 47
• 3.3.4 Persistence 전술 48
• 3.3.5 Impact 전술 50
• 3.4 제어 계층 53
• 3.4.1 AI Attack Staging 전술 54
• 3.4.2 Initial Access 전술 55
• 3.4.3 Impact 전술 57
• 제4장 검증 및 평가 60
• 4.1 비교 연구 60
• 4.2 사례 연구 63
• 4.2.1 사례 연구 1 : MASS 객체 검출 모델 대상 클린 라벨 데이터 중독 공격 64
• 4.2.2 사례 연구 2 : MASS 경로계획 모듈 대상 적대적 웨이포인트 주입 공격 74
• 제5장 논의 85
• 제6장 결 론 89
• 참고문헌 91
• ABSTRACT 97