국방 AI 적용 무기체계 시스템 평가방안에 대한 고찰: 강건성과 설명가능성을 중심으로 = Consideration of Evaluation Methods for AI-Enabled Defense Weapon Systems: Focusing on Robustness and Explainability

국문 초록 (Abstract)

인공지능(AI)은 현재 전 세계적으로 다양한 분야에서 혁신을 주도하고 있으며, 그 영향력은 날로 확대되고 있다. 국방에서도 인공지능이 적용된 무기체계의 수요와 개발 사례가 증가하고 있으며, 정책 및 기술의 발전 그리고 AI가 적용된 체계를 평가하는 기법들도 연구되고 있다. 그러나 아직은 기능 충족 위주의 평가 방법 연구가 이루어지고 있으며, 사용자(군)의 안전 및 생명과 직결된 AI 적용 시스템 평가 방법에 대한 연구는 아직 미흡한 실정이다. 이에 따라 본 논문에서는 강건성과 설명 가능성을 중심으로 AI 시스템 평가 절차를 제시하고 이에 따른 평가 지표와 방법을 제안한다. 강건성은 노이즈 삽입, 데이터 왜곡 등 데이터 입력을 변형시키는 방법과 모델 자체의 하이퍼파라미터를 변경하는 방법을 제시한다. 설명 가능성은 이미지 탐지, 분류 모델을 대상으로 데이터의 종류와 도출하고자 하는 결과의 형태에 따른 적합한 기법을 적용하여 평가를 수행하는 방법을 제안하였다. 본 연구 결과는 향후 국방 분야의 AI 시스템 평가 방법에 대한 가이드라인을 마련 시 활용 가능할 것으로 판단된다.

다국어 초록 (Multilingual Abstract)

Artificial intelligence (AI) is currently driving innovation across various fields globally, and its influence is expanding continually. In the defense sector, the demand for AI-applied weapon systems and development cases is increasing, and the methods for evaluating systems that incorporate AI are being researched. On the other hand, current studies on evaluation methods focus mainly on functional satisfaction, and research on evaluation methods for AI-applied systems related directly to user (military) safety and life remains insufficient. Accordingly, this paper presents an evaluation procedure for AI systems focusing on robustness and explainability and proposes corresponding evaluation metrics and methods. For robustness, this paper suggests methods such as inserting noise, distorting data inputs, and altering the hyperparameters of the model. For explainability, this paper proposes methods to evaluate image detection and classification models by applying appropriate techniques depending on the type of data and the form of the desired outcomes. These findings are expected to serve as a guideline for evaluating AI systems in the defense sector in the future.

참고문헌 (Reference)

1 Naoki Otsubo, "XAI" explainable AI 2634-, 2022

2 L.J. Wook, "Developing Unbiased Recommender Models using Collaborative Filtering" Ministry of Science and ICT 1-3,

3 L. J. Wook, "Developing Unbiased Recommender Models using Collaborative Filtering" Ministry of Science and ICT 181-184,

4 Ministry of Science and ICT, "Data Quality Management Guidelines for Artificial Intelligence Learning" NIA, TTA 3-5, 2021

5 TTA, "A trustworthy guide to developing artificial intelligence"

6 Z. Kong, "A survey on adversarial attack in the age of artificial intelligence" Wireless Communications and Mobile Computing 1-22, 2021

7 강지훈 ; 정민경 ; 박주영 ; 이원영 ; 최은진, "A Study on the Policies, Application cases and Limitations for the Introduction of Artificial Intelligence(AI) Technology" 24 (24): 341-349, 2023

8 정시온 ; 한태현 ; 임승범 ; 이태진, "A Study on Effective Adversarial Attack Creation for Robustness Improvement of AI Models" 24 (24): 25-36, 2023

9 서석호 ; 박주영 ; 정민경 ; 이원영 ; 최은진, "A Study on AI-based Weapon System Data Quality Evaluation Indicators" 24 (24): 539-549, 2023

10 S.H. Kim, "A Study of Cancer Classification using Convolutional Neural Network and Attention Mechanism in Lung Cancer Pathology Images" The Catholic University of Korea