키보드 입력패턴에 기반한 사용자 인증을 위한 TypeFormer와 Set-Margin Triplet Loss = Keystroke Pattern Based User Authentication by Using TypeFormer and Set-Margin Triplet Loss

다국어 초록 (Multilingual Abstract)

This study proposes a method to enhance the performance and stability of keystroke dynamics–based user authentication by combining the Transformer architecture (TypeFormer) with the Set-Margin Triplet Loss (SM-TL) and introducing a Temporal Soft Masking mechanism to handle variable-length input sequences in free-text environments. The model learns through two parallel branches—Temporal and Channel—on the same input, where the Temporal branch consistently applies soft masking to both the attention and LSTM layers to reduce the effect of padding regions. The loss function adopts SM-TL, which introduces a margin concept defined over class sets.
The evaluation was conducted on the Aalto Desktop (keyboard) dataset by varying the number of enrollment samples (E) and comparing the results with TypeNet (Triplet) and the original TypeFormer (Triplet) under identical protocols. An initial exploration of masking configurations showed that Temporal Soft Masking provided the most consistent performance and training stability compared to full-sequence masking or Channel-only masking. Subsequently, the loss function of TypeFormer was replaced from Triplet to SM-TL, and the margin parameter was tuned to determine the optimal configuration.
The optimal configuration was found at a margin value of m = 1.4, under which the proposed model achieved EERs of 4.41%, 2.87%, 2.14%, 2.06%, and 2.10% for E = 1, 2, 5, 7, and 10, respectively. Under the same conditions, TypeNet (Triplet) achieved 5.40%, 3.60%, 2.20%, 1.80%, and 1.60%, while the original TypeFormer (Triplet) exhibited substantially higher error rates in the keyboard environment. These comparisons confirmed that the proposed model performs particularly well in low-enrollment settings (E = 1, 2, 5). Furthermore, t-SNE visualizations revealed that, compared with Triplet Loss, the proposed approach forms a more distinct structure with stronger inter-class separation and intra-class cohesion.
The main contributions of this study are as follows:
1) It systematically demonstrates that Temporal Soft Masking provides tangible performance gains in free-text keyboard environments.
2) It quantitatively shows that the TypeFormer + SM-TL combination outperforms competing models when the number of enrollment samples is limited.
3) It identifies m = 1.4 as the optimal margin value, providing a reproducible reference for how loss-function design influences embedding structures and authentication performance.

국문 초록 (Abstract)

본 연구는 키스트로크 다이내믹스 기반 사용자 인증에서 Transformer 아키텍 처(TypeFormer)에 Set-Margin Triplet Loss(SM-TL)를 결합하고, 자유 텍스 트 환경의 가변 길이를 처리하기 위한 마스킹을 도입하여 성능과 안정성을 향상 시키는 방법을 제안한다. 모델은 동일 입력에 대해 Temporal·Channel 경로를 병렬로 학습하며, Temporal 경로에는 어텐션과 LSTM에 일관되게 적용되는 마 스킹을 사용해 패딩 구간의 영향을 줄인다. 손실 함수는 클래스 집합 단위의 마 진 개념을 도입한 SM-TL을 채택하였다. 평가는 Aalto Desktop(키보드) 데이터셋에서 수행되었고, 등록 데이터 개수(E) 를 달리하여 TypeNet(Triplet)과 같은 프로토콜로 비교하였다. 우선 마스킹 설 정을 탐색한 결과, 전 구간 차단(whole)이나 Channel 전용 마스킹보다 Temporal 소프트 마스킹이 가장 일관된 성능과 안정성을 보였다. 이어 TypeFormer의 손실 함수를 Triplet에서 SM-TL로 교체하고, 마진 값을 탐색하 여 최종 설정을 확정하였다. 최적 설정은 SM-TL의 마진 m=1.4였으며 이때 제안 모델의 EER은 등록 개 수별로 E=1: 4.41%, E=2: 2.87%, E=5: 2.14%, E=7: 2.06%, E=10: 2.10%를 기록했다. 동일 조건에서 TypeNet은 5.40%, 3.60%, 2.20%, 1.80%, 1.60%였 고, 기존 TypeFormer(Triplet)은 키보드 환경에서 현저히 높은 오류율을 보였 다. 이 비교를 통해 제안 모델이 등록 데이터가 적은 환경(E=1, 2, 5) 에서 특히 유리함을 확인하였다. 또한 임베딩 시각화(t-SNE)에서는 기존 Triplet 대비, 제 안 설정이 클래스 간 분리와 클래스 내 응집이 더 명확한 구조를 형성함을 관찰 하였다. 본 연구의 기여는 다음과 같다. (1) 자유 텍스트 키보드 환경에서 Temporal 소프트 마스킹이 실질적인 성능 이득을 제공함을 체계적으로 입증하였다. (2) TypeFormer+SM-TL 조합이 키보드 도메인에서 등록 데이터가 적을 때 경쟁 모델을 능가함을 정량적으로 보였다. (3) 마진 m=1.4라는 구체적 설계값을 도출 하여, 손실 함수 설계가 임베딩 구조와 인증 성능에 미치는 영향을 재현 가능한 형태로 제시하였다.

목차 (Table of Contents)

• 1. 서론 1
• 가. 연구 배경 및 필요성 1
• 나. 문제 제기 및 기존 연구의 한계 1
• 다. 본 연구의 목적 및 기여 3
• 라. 연구 범위 및 방법 4
• 마. 논문의 구성 4
• 2. 관련 연구 5
• 가. 키스트로크 다이내믹스 5
• 나. 키스트로크 기반 인증 기법 6
• 다. 키스트로크 인증 분야의 방법론 발전 7
• 라. TypeFormer와 SM-TL 10
• 마. 마스킹 처리의 필요성 10
• 3. 제안 모델 구성 12
• 가. TypeFormer 12
• 1) 전체 구조 개요 13
• 2) Temporal 모듈 13
• 3) Block-Recurrent Layer 13
• 4) Channel 모듈 14
• 나. Set-Margin Triplet Loss(SM-TL) 15
• 1) Circle Packing 개념과 SM-TL 16
• 2) SM-TL의 정의 17
• 3) 요약 및 의의 17
• 4. 데이터셋 18
• 가. 데이터셋 개요 18
• 나. 데이터 특징 20
• 다. 연구와의 적합성 21
• 5. 학습 및 검증 프로토콜 23
• 가. 전처리 및 특징 추출 23
• 나. 학습 절차 24
• 다. 실험 설계: 인증 프로토콜 25
• 1) 등록(Enrollment) 단계 25
• 2) 질의(Query) 단계 26
• 3) 스코어링 및 판별 방식 26
• 6. 실험 및 결과 29
• 가. 마스킹 적용에 따른 성능 비교 29
• 1) 실험 설계 29
• 2) Temporal 모듈 실험 30
• 3) Channel 모듈 실험 31
• 4) 종합 결과 및 해석 31
• 나. TypeNet과 기존 TypeFormer의 비교 31
• 다. TypeNet과 개선된 TypeFormer (SM-TL)의 비교 32
• 라. 마진 값 변화에 따른 성능 분석 34
• 마. 임베딩 공간 시각화에 따른 분석 34
• 바. 종합 평가 35
• 7. 결론 및 향후 연구 38
• 참고문헌 40
• Abstract(영문초록) 44