PatchCore RDAS: 활성화 조향에 따른 표현 차이 기반 제조 이미지 이상 탐지 = PatchCore RDAS: Manufacturing Image Anomaly Detection Based on Representation Difference under Activation Steering

국문 초록 (Abstract)

본 연구는 활성화 조향（Activation Steering）에 따른 표현 변화를 활용하는 학습 없는 산업 이상 탐지（Anomaly Detection） 방법인 RDAS（Representation Difference under Activation Steering）를 제안한다. 산업 이상 탐지는 제조 공정의 품질 관리에서 핵심적인 역할을 하지만, 실제 현장에서는 이상 데이터를 충분히 확보하기 어렵고, 그 형태를 사전에 정의하기도 어렵다. 이러한 제약 때문에 정상 데이터만을 이용하는 단일 클래스 접근이 중요하게 다루어진다. 기존 거리 기반 이상 탐지 접근법은 일반적으로 테스트 입력과 정상 표현 간의 거리를 이용해 이상을 탐지한다. RDAS는 이러한 거리 기반 이상 점수에 활성화 조향 기반 신호를 결합하여 성능을 개선한다. 구체적으로, ViT기반의 사전학습된 DINOv3의 패치 표현을 정상 메모리 뱅크（Memory Bank）의 가까운 정상 특징 방향으로 조향하고, 조향 전후의 표현 차이를 이상 신호로 사용한다. 이는 정상 표현 분포에서 벗어난 패치일수록 정상 방향으로의 조향에 더 민감하게 반응할 수 있다는 직관에 기반한다. 조향 방향과 그 강도는 정상 데이터의 표현 통계만으로 결정되므로, RDAS는 이상 샘플이나 모델의 추가 학습을 필요로 하지 않는다. 산업 이상 탐지 데이터셋인 MVTec AD와 VisA 실험을 통해, 제안 방법이 거리 기반 베이스라인인 PatchCore 대비 일관된 위치 추정 성능 향상을 달성함을 확인하였다. 두 데이터셋 모두에서 Image-level AUROC는 베이스라인과 대등하거나 소폭 앞서는 수준을 유지하면서, 특히 픽셀 단위 지표인 Pixel-level AUROC와 PRO에서 뚜렷한 개선을 보였다.

다국어 초록 (Multilingual Abstract)

I propose RDAS （Representation Difference under Activation Steering）, a training-free industrial anomaly detection method that leverages representation changes induced by activation steering. Industrial anomaly detection plays a critical role in manufacturing quality control, yet in practice it is difficult to collect sufficient anomalous data and to define the forms of defects in advance. Because of these constraints, one-class approaches that rely solely on normal data have become important. Existing distance-based anomaly detection approaches typically detect anomalies using the distance between a test input and normal representations. RDAS improves upon such distance-based anomaly scores by combining them with an activation-steering-based signal. Specifically, the patch representations of a pretrained ViT-based DINOv3 are steered toward the direction of their nearest normal features in a normal memory bank, and the difference between the representations before and after steering is used as an anomaly signal. This is based on the intuition that a patch deviating further from the normal representation distribution responds more sensitively to steering toward the normal direction. Since both the steering direction and its strength are determined solely from the statistics of normal representations, RDAS requires neither anomalous samples nor any additional training of the model. Through experiments on the industrial anomaly detection datasets MVTec AD and VisA, I confirm that the proposed method achieves consistent improvements in localization performance over the distance-based baseline PatchCore. On both datasets, the image-level AUROC remains comparable to or slightly above the baseline, while the pixel-level metrics, namely Pixel AUROC and PRO, show clear improvements.

목차 (Table of Contents)

• 제1장 서 론 1
• 제1절 연구 배경 및 목적 1
• 제2장 관련 연구 5
• 제1절 사전학습 백본 표현 기반 산업 이상 탐지 5
• 제2절 시각-언어 모델과 순수 시각 표현 기반 접근 7
• 제3절 활성화 조향과 내부 표현의 조작 8
• 제4절 비전 파운데이션 백본 10
• 제3장 방법론 11
• 제1절 전체 개요 11
• 제2절 문제 정의 및 이상 점수 12
• 제3절 DINOv3 패치 표현 추출 13
• 제4절 정상 메모리 뱅크 구축 13
• 제5절 PatchCore 기반 거리 점수 14
• 제6절 K-최근접 정상 앵커와 활성화 조향 14
• 제7절 적응형 조향 강도 α 15
• 제8절 조향 전후 표현 차이 16
• 제9절 Robust 정규화와 최종 패치 이상 점수 17
• 제10절 이상 지도와 이미지 수준 이상 점수 18
• 제4장 실험 결과 및 결론 21
• 제1절 이상 탐지 실험 설정 21
• 제2절 이상 탐지 실험 결과 24
• 제3절 절제 연구 31
• 제4절 결론 38
• 참고 문헌 41