저시인성 환경에서 인공지능을 활용한 차선 인식 기법 연구

다국어 초록 (Multilingual Abstract)

Abstract
Lane detection is a core perception task for lateral position estimation, lane keeping, and path planning in intelligent driving systems. However, in low-visibility environments such as rain, fog, and nighttime scenes, lane markings are affected by low contrast, road-surface reflection, wiper occlusion, local discontinuity, and weak responses from distant lane markings. Previous studies have contributed to real-time detection and segmentation through the YOLO series, background suppression through important-region enhancement, shape adaptation through deformable convolution, and improved lane continuity through directional information propagation. Nevertheless, these approaches still have limitations in jointly explaining long-distance directional continuity and irregular shape variation of low-visibility lane markings within a progressive experimental framework.
To address these limitations, this study designs a spacial filter module using 3×3, 3×5, 5×3, 3×7, and 7×3 filters. By skipping one or two rows or columns during computation, the module expands the directional receptive field while maintaining a computational burden comparable to that of a 3×3 filter. Rather than simply stacking all modules, this study begins with the baseline YOLOv11 model, first verifies the effects of YOLOv11+EBAM and YOLOv11+DEC, then examines the extended directional receptive range provided by YOLOv11+spacial filter, and finally compares YOLOv11+EBAM+spacial filter with YOLOv11+DEC+spacial filter. The training data are reorganized from the public ETRI dataset with a resolution of 1920×1200 into the YOLO segmentation format, including 12,777 training images and 3,167 validation images. Among these, 91 images are rainy scenes. For separate real-environment validation, 50 rainy frames with a resolution of 1280×720, recorded directly by the researcher, are used.
The experimental results show that, in the training-stage comparison, YOLOv11+DEC achieves the highest Precision of 0.81. In the self-collected rainy frames, YOLOv11+DEC+spacial filter achieves the best performance, with an average IoU of 0.50 and an average Mask Precision of 0.53. Compared with the baseline YOLOv11 results of 0.36 and 0.32, these values correspond to improvements of approximately 38.89% and 65.63%, respectively. These results indicate that the improvement in low-visibility lane detection is mainly attributable to the combined effect of DEC-based shape adaptation and the spatial perception enhancement provided by the spacial filter.
Key words: low visibility; lane detection; YOLOv11; EBAM; deformable convolution; multi-scale directional convolution

국문 초록 (Abstract)

차선 인식은 지능형 주행 시스템의 횡방향 위치 추정, 차선 유지 및 경로 계획을 위한 핵심 인식 과제이다. 그러나 우천·안개·야간과 같은 저시인성 환경에서는 낮은 대비, 노면 반사, 와이 퍼 가림, 국부 단절 및 원거리 약한 응답이 동시에 나타난다. 기존 연구는 YOLO 계열의 실시간 검출·분할, 중요 영역 강조 방식의 배경 억제, 변형 합성곱의 형태 적응, 방향 정보 전파를 통한 차선 연속성 향상에 각각 기여하였으나, 저시인성 차선의 장거리 방향 연속 정보와 불규칙한 형 태 변화를 하나의 단계적 검증 체계에서 함께 설명하는 데에는 한계가 있다. 본 연구는 이러한 한계를 보완하기 위해, 3×3, 3×5, 5×3, 3×7, 7×3 필터에서 열 또는 행을 한 칸 혹은 두 칸씩 건너뛰며 계산하도록 구성하여, 3×3과 유사한 계산량을 유지하는 spacial filter 모듈을 설계하였다. 연구는 모든 모듈을 단순히 누적하는 방식이 아니라, 기준 YOLOv11에 서 출발하여 YOLOv11+EBAM과 YOLOv11+DEC의 연계 모델의 효과를 먼저 검증하고, YOLOv11+spacial filter로 방향 수용 범위의 확장 효과를 확인한 뒤, YOLOv11+EBAM+spacial filter와 YOLOv11+DEC+spacial filter를 비교하는 순서로 진행하였다. 학습 데이터로는 1920× 1200 해상도의 ETRI 공개 자료를 YOLO 분할 형식으로 정리한 학습용 이미지 12,777장과 검증 용 이미지 3,167장으로 하였다. 이 중 우천 이미지는 91장이다. 별도의 실제 환경 검증에는 직 접 촬영한 1,280×720 해상도의 우천 영상 50장을 사용하였다. 실험 결과, 학습 단계에서는 YOLOv11+DEC의 Precision이 0.81로 가장 높았으나, 자체 수집 우천 프레임에서는 YOLOv11+DEC+spacial filter가 평균 IoU 0.50과 평균 Mask Precision 0.53 으로 가장 높은 성능을 보였다. 이는 기준 YOLOv11의 0.36과 0.32에 비해 각각 약 38.89%와 65.63% 향상된 결과이다. 이러한 저시인성 환경에서의 차선 인식 성능 향상은 DEC에 의한 형 태 적응과 spacial filter에 의한 공간 범위 확장이 함께 작용한 결과로 해석된다. 주요어: 저시인성; 차선 인식; YOLOv11; EBAM; 변형 가능한 합성곱; 다중 스케일 방향 합성곱

목차 (Table of Contents)

• 제 1 장 서론 1
• 1.1 연구 배경 1
• 1.2 연구 문제 및 필요성 2
• 1.3 연구 목적 및 논문 구성 4
• 제 2 장 사용 모델 및 YOLO 적 배경 6
• 2.1 YOLO 계열의 발전과 YOLOv11 선정 근거 6
• 2.2 중요 영역 강조 방식 및 EBAM 설계 기반 8
• 2.3 변형 합성곱 및 DEC 설계 기반 9
• 2.4 다중 스케일 방향 합성곱 및 spacial filter 모듈 기반. 10
• 2.5 차선 인식 모델의 요구 조건 10
• 2.6 평가 지표: Precision, Recall 및 IoU 11
• 제 3 장 연구 방법 및 연구 내용 13
• 3.1 사용 장비 13
• 3.2 데이터 출처 및 구성 13
• 3.3 훈련 구성 16
• 3.4 단계적 연구 논리 17
• 3.5 YOLOv11 기본 모델 21
• 3.6 EBAM 모듈 및 YOLOv11+EBAM 모델 23
• 3.7 spacial filter 방향 합성곱 및 YOLOv11+spacial filter 모델 24
• 3.8 DEC 모듈 및 YOLOv11+DEC 모델 27
• 3.9 spacial filter 결합 모델 비교 28
• 3.10 모듈 삽입 위치 및 정보 흐름 30
• 제 4 장 결과 및 분석 36
• 4.1 훈련 단계의 100 번째 epoch 결과 36
• 4.2 프레임별 결과 차이 분석 37
• 4.3 자체 수집 우천 이미지 50 장의 평균 결과 43
• 4.4 종합 실험 분석 49
• 제 5 장 결론 60
• Acknowledgement 62
• 참고문헌 63