DNS－Accelerated TLS： From 0－RTT to Post－Quantum = DNS 가속 TLS：0－RTT에서 양자 이후（Post－Quantum）까지

국문 초록 (Abstract)

인터넷 서비스의 빠른 응답은 사용자 경험과 비즈니스 성과에 직접적인 영향을 미친다. 그러나 기존의 TLS 연결 수립 과정은 DNS 조회, TCP 3방향 핸드셰이크, 그리고 최소 1－RTT의 암호학적 핸드셰이크를 필요로 하여 초기 연결 지연이 크다. 또한 양자 컴퓨팅의 등장으로 인해 TLS에 적용되는 공개키 기반 알고리즘의 대체가 요구되며, 포스트 양자 암호화（PQC）를 도입한 PQTLS는 키와 인증서 크기 증가로 인해 핸드셰이크 전송량이 급증하고, 이로 인해 추가 RTT가 발생할 위험이 있다. 본 논문은 이러한 두 가지 지연 요인을 DNS 인프라를 활용해 완화하는 두 가지 메커니즘을 제안하고 평가한다. 첫번째 기여인 ZTLS는 서버의 암호학적 파라미터（Z－data）를 DNS를 통해 배포함으로써 클라이언트가 서버에 접속하기 전에 세션 키를 유도할 수 있게 한다. 이를 통해 클라이언트는 ClientHello 와 함께 암호화된 애플리케이션 데이터를 전송할 수 있으며, 세션초기 연결에서 0－RTT 성능을 달성한다. ZTLS 설계는 기존 TLS 프로토콜과의 점진적 배포를 염두에 두고 호환성을 유지하도록 구성되며, Z－data 의 무결성, 적시성, 인증을 보장하기 위한 서명 및 유효기간 관리 메커니즘을 포함한다. 두번째 기여인 PQTLS－AD 는 PQC 도입으로 증가한 인증서 체인 전송 비용을 DNS로 오프로드하여 PQTLS 핸드셰이크의 RTT 수를 줄인다. PQTLS－AD 는 PQC 인증서 체인을 DNS에 게시하고, 클라이언트가 DNS 조회와 TCP 연결 수립을 병렬로 수행하는 동안 인증서 검증을 완료하도록 설계되었다. 서버는 핸드셰이크 중 중복되는 인증서 전송을 생략할 수 있어, 특히 대용량 PQC 서명 · 인증서 환경에서 표준 PQTLS 대비 핸드셰이크 지연을 크게 줄일 수 있다. 보안 측면에서 두 설계는 DNS를 통한 데이터 배포의 위협 모델을 면밀히 분석하고, 레코드 서명, 유효기간 및 버전 관리, 재전송 공격（replay attack） 방지 및 실패 시 표준 TLS로의 안전한 폴백（fallback） 절차를 포함하여 무결성과 인증성을 확보한다. 또한 0－RTT 전송으로 인한 재전송 공격（replay attack） 위험을 완화하기 위한 서버 측 정책과 클라이언트의 검증 절차를 제시한다. 프로토타입 구현과 대규모 인터넷 실험을 통해 제안 기법의 실효성을 검증하였다. ZTLS는 초기 연결에서 실제 0－RTT 데이터 전송을 가능하게 하였고, PQTLS－AD는 실험 환경에서 표준 PQTLS 대비 핸드셰이크 지연을 1－RTT 이상 단축하는 등 유의미한 성능 향상을 보였다. 또한 DNS의 전 세계적 분산성과 캐싱 특성을 활용함으로써 실무적 배포 가능성과 확장성을 확보할 수 있음을 확인하였다. 결론적으로 본 연구는 DNS를 단순한 이름 해석 서비스가 아닌 성능 향상을 위한 보안 메타데이터 배포 채널로 재구성함으로써, 현재의 저지연 보안 연결 요구와 향후 양자 저항성 통신환경을 동시에 만족시키는 실용적 대안을 제시한다. 제안된 기법들은 점진적 도입이 가능하며, 향후 표준화 및 운영자 관점의 추가 검증을 통해 실서비스 적용이 기대된다.

다국어 초록 (Multilingual Abstract)

Fast establishment of secure connections is essential for user－facing online services. The standard TLS setup incurs latency from DNS resolution, the TCP three－way handshake, and a TLS handshake that requires one round－trip time （RTT）to negotiate session keys. This thesis introduces two DNS－assisted mechanisms to mitigate these costs. ZTLS enables clients to derive session keys before contacting servers by distributing server cryptographic parameters （Z－data） via DNS, allowing encrypted application data to be sent with the ClientHello and achieving 0－RTT initial connections. PQTLS－AD addresses the latency inflation caused by post－quantum cryptography （PQC） by publishing PQC certificate chains through DNS, enabling clients to fetch and validate certificates in parallel with DNS and TCP setup and allowing servers to omit redundant certificate transmission during the handshake. Both approaches are designed for incremental deployment and backward compatibility with existing TLS infrastructure. Prototype implementations and Internet－scale experiments demonstrate substantial reductions in handshake latency, with PQTLS－AD achieving reductions exceeding one RTT compared to standard PQTLS. Given DNS‘s global distribution and caching properties, DNS－assisted distribution of security metadata is a practical strategy to preserve low－latency secure connections in both current and post－quantum Internet environments.

목차 (Table of Contents)

• Abstract ⅰ
• Chapter 1 Introduction 1
• Chapter 2 Background 5
• 2.1 Domain Name System （DNS） 5
• 2.2 Transmission Control Protocol （TCP） 8
• 2.3 Transport Layer Security （TLS） 10
• 2.4 Post－Quantum Cryptography （PQC） 11
• 2.5 Post－Quantum TLS （PQTLS） 12
• Chapter 3 Related Work 14
• 3.1 TLS Handshake Latency Reduction 14
• 3.2 TCP Handshake Latency Reduction 15
• 3.3 TLS Enhancement Leveraging the DNS 16
• 3.4 Identifying Challenges in PQTLS 17
• 3.5 Reducing the Handshake Time in PQTLS 17
• Chapter 4 ZTLS Handshake Design 20
• 4.1 Design Considerations 20
• 4.2 Overview 22
• 4.3 Detailed ZTLS Design 25
• 4.4 Security Analysis 29
• Chapter 5 PQTLS－AD Handshake Design 34
• 5.1 Design Considerations 34
• 5.2 Overview 35
• 5.3 Detailed PQTLS－AD Design 37
• 5.4 Security Analysis 41
• Chapter 6 Evaluation 43
• 6.1 ZTLS Evaluation 43
• 6.2 PQTLS－AD Evaluation 47
• Chapter 7 Discussions 53
• 7.1 DNS Time To Live （TTL） Modification 53
• 7.2 Burden to DNS 53
• 7.3 Z－data Prefetching 54
• 7.4 QUIC and Post－Quantum TLS 54
• 7.5 The importance of TLS time－to－first－byte （handshake time） 55
• Chapter 8 Conclusion 57
• Appendix A Architectural Tactics Explored in ZTLS Design 59
• Appendix B An instance of Z－data 61
• Appendix C The EDNS0 bug in Ubuntu OS 62
• Appendix D The tendency of the first response times in the experiment 63
• Appendix E PQC Key and Signature Sizes 64
• 국문초록 80
• 감사의 글 82