이미지의 Symbolic Representation 기반 적대적 예제 탐지 방법|RISS 상세보기

다국어 초록 (Multilingual Abstract)

Deep learning is attracting great attention, showing excellent performance in image processing, but is vulnerable to adversarial attacks that cause the model to misclassify through perturbation on input data. Adversarial examples generated by adversarial attacks are minimally perturbated where it is difficult to identify, so visual features of the images are not generally changed. Unlikely deep learning models, people are not fooled by adversarial examples, because they classify the images based on such visual features of images. This paper proposes adversarial attack detection method using Symbolic Representation, which is a visual and symbolic features such as color, shape of the image. We detect a adversarial examples by comparing the converted Symbolic Representation from the classification results for the input image and Symbolic Representation extracted from the input images. As a result of measuring performance on adversarial examples by various attack method, detection rates differed depending on attack targets and methods, but was up to 99.02% for specific target attack.

번역하기

국문 초록 (Abstract)

딥러닝은 이미지 처리에 있어 우수한 성능을 보여주며 큰 주목을 받고 있지만, 입력 데이터에 대한 변조를 통해 모델이 오분류하게 만드는 적대적 공격에 매우 취약하다. 적대적 공격을 통해 생성된 적대적 예제는 사람이 식별하기 어려울 정도로 최소한으로 변조가 되며 이미지의 전체적인 시각적 특징은 변하지 않는다. 딥러닝 모델과 달리 사람은 이미지의 여러 특징을 기반으로 판단하기 때문에 적대적 예제에 속지 않는다. 본 논문은 이러한 점에 착안하여 이미지의 색상, 모양과 같은 시각적이고 상징적인 특징인 Symbolic Representation을 활용한 적대적 예제 탐지 방법을 제안한다. 입력 이미지에 대한 분류결과에 대응하는 Symbolic Representation과 입력 이미지로부터 추출한 Symbolic Representation을 비교하여 적대적 예제를 탐지한다. 다양한 방법으로 생성한 적대적 예제를 대상으로 탐지성능을 측정한 결과, 공격 목표 및 방법에 따라 상이하지만 specific target attack에 대하여 최대 99.02%의 탐지율을 보였다.

번역하기

딥러닝은 이미지 처리에 있어 우수한 성능을 보여주며 큰 주목을 받고 있지만, 입력 데이터에 대한 변조를 통해 모델이 오분류하게 만드는 적대적 공격에 매우 취약하다. 적대적 공격을 통...

참고문헌 (Reference)

1 B. Biggio, "Wild patterns : Ten years after the rise of adversarial machine learning" 84 : 317-331, 2018

2 S. Freitas, "Unmask: Adversarial detection and defense through robust feature al ignment" 1081-1088, 2020

3 H. Hirano, "Universal adversarial attacks on d eep neural networks for medical imag e classification" 21 (21): 1-13, 2021

4 L. Munoz-Gonzalez, "Towards poi soning of deep learning algorithms wi th back-gradient optimization" 27-38, 2017

5 A. Madry, "Towards deep learning models resistant to adversari al attacks"

6 N. Carlini, "Towards Evaluating the Robustness of Neural Networks" 39-57, 2017

7 N. Akhtar, "Threat of ad versarial attacks on deep learning in computer vision : A survey" 6 : 14410-14430, 2018

8 X. Chen, "Targeted backdoor attacks on deep learning systems using data pois oning"

9 F. Tramèr, "Stealingm achine learning models via prediction APIs" 601-618, 2016

10 R. Timofte, "Sparse r epresentation based projections" 61-61, 2011