An Efficient and Accurate Statistical Eye-Diagram Estimation Method with N-Tap Decision Feedback Equalizer （DFE） for High-Speed Serial Links = 고속 직렬 링크에서 N-단 결정 피드백 이퀄라이저 기반의 효율적이고 정확한 통계적 아이 다이어그램 추정 방법

다국어 초록 (Multilingual Abstract)

In this thesis, a novel statistical eye-diagram estimation method incorporating bipolar N-tap decision feedback equalizer （DFE） effects is proposed for high-speed serial links. Modern high-speed SerDes systems commonly employ bipolar decision states of [1, -1] in DFE operation. However, accurately incorporating bipolar DFE behavior into statistical eye-diagram estimation remains challenging for conventional single-bit response （SBR）-based approaches due to their limited capability in modeling nonlinear feedback effects. To address this limitation, the proposed method extends a double-edge response （DER）-based statistical framework by directly incorporating bipolar N-tap DFE behavior. Unlike conventional SBR-based approaches, the DER-based framework preserves both rising and falling edge characteristics, enabling accurate modeling of bipolar DFE feedback effects. The proposed framework identifies the main-cursor （MC） position from the crossing point of rising and falling edge responses and sequentially applies DFE feedback effects to transient and steady-state responses. Based on the resulting DFE-incorporated DERs, probability density functions （PDFs） are formulated and recursively convolved to derive statistical output responses （SORs）, from which statistical and BER eye-diagrams are efficiently estimated. The proposed methodology is validated using PCIe Gen 5.0 channels under various DFE configurations, including without DFE, 1-tap DFE, 3-tap DFE, and 20-tap DFE cases. The estimated eye-diagrams show strong agreement with conventional transient simulations, maintaining relative errors within approximately 5% for eye-opening metrics. In addition, BER bathtub characteristics closely match transient simulation results. Compared with conventional transient simulations, the proposed method achieves more than 228× computational acceleration while preserving high analysis accuracy. Furthermore, the proposed framework enables efficient exploration of the DFE coefficient space by rapidly evaluating eye-opening characteristics under various tap conditions. This capability facilitates the identification of eye-opening-sensitive tap regions and supports efficient DFE coefficient optimization without extensive transient simulations. Consequently, the proposed framework provides an efficient and accurate methodology for BER-oriented signal integrity evaluation and DFE optimization in next-generation high-speed serial links.

국문 초록 (Abstract)

본 논문에서는 고속 직렬 링크를 위한 양극성 N-탭 결정 피드백 이퀄라이저（DFE） 효과를 통합한 새로운 통계적 아이 다이어그램 추정 방법을 제안합니다. 최신 고속 SerDes 시스템은 DFE 동작에서 [1, -1]의 양극성 결정 상태를 일반적으로 사용합니다. 그러나 기존의 단일 비트 응답（SBR） 기반 접근 방식은 비선형 피드백 효과 모델링 능력이 제한적이기 때문에 양극성 DFE 동작을 통계적 아이 다이어그램 추정에 정확하게 통합하는 데 어려움을 겪습니다. 이러한 한계를 해결하기 위해 제안된 방법은 양극성 N-탭 DFE 동작을 직접 통합하여 이중 에지 응답（DER） 기반 통계 프레임워크를 확장합니다. 기존의 SBR 기반 접근 방식과 달리, DER 기반 프레임워크는 상승 에지와 하강 에지 특성을 모두 유지하여 양극성 DFE 피드백 효과를 정확하게 모델링할 수 있습니다. 제안된 프레임워크는 상승 에지와 하강 에지 응답의 교차점에서 메인 커서（MC） 위치를 식별하고, 과도 응답과 정상 상태 응답에 DFE 피드백 효과를 순차적으로 적용합니다. DFE가 통합된 DER을 기반으로 확률 밀도 함수（PDF）를 구성하고 재귀적으로 컨볼루션하여 통계적 출력 응답（SOR）을 도출합니다. 이를 통해 통계적 및 BER 아이 다이어그램을 효율적으로 추정할 수 있습니다. 제안된 방법론은 DFE 미적용, 1탭 DFE, 3탭 DFE, 20탭 DFE를 포함한 다양한 DFE 구성의 PCIe Gen 5.0 채널을 사용하여 검증되었습니다. 추정된 아이 다이어그램은 기존 과도 시뮬레이션 결과와 높은 일치도를 보였으며, 아이 오프닝 관련 지표에서 상대 오차는 약 5% 이내였습니다. 또한, BER 욕조 특성도 과도 시뮬레이션 결과와 매우 유사했습니다. 기존 과도 시뮬레이션과 비교했을 때, 제안된 방법은 높은 분석 정확도를 유지하면서 228배 이상의 계산 속도 향상을 달성했습니다. 더 나아가, 제안된 프레임워크는 다양한 탭 조건에서 아이 오프닝 특성을 신속하게 평가함으로써 DFE 계수 공간을 효율적으로 탐색할 수 있도록 합니다. 이러한 기능은 아이 오프닝에 민감한 탭 영역을 식별하는 데 도움이 되며, 광범위한 과도 시뮬레이션 없이 효율적인 DFE 계수 최적화를 지원합니다. 결과적으로, 제안된 프레임워크는 차세대 고속 직렬 링크에서 BER 기반 신호 무결성 평가 및 DFE 최적화를 위한 효율적이고 정확한 방법론을 제공합니다.

목차 (Table of Contents)

• Chapter I. Introduction 1
• 1. Backgrounds 1
• 2. Research Motivation 4
• 3. Limitations of Previous Research 8
• 4. Necessity of Research 9
• Chapter Ⅱ Proposal of Statistical Eye-Diagram Estimation Method with N-Tap Decision Feedback Equalizer (DFE) for High-Speed Serial Links 12
• 1. Overview of the Estimation Algorithm for the Proposed Method with DFE Effects for High-Speed Serial Links 13
• 2. Incorporating Channel-induced Degradation into Edge Responses 15
• 3. Behavioral Model of the N-Tap DFE 17
• 4. Derivation of DFE Effect-Included Double Edge Responses PDFs 20
• 5. Proposal of Statistical Eye-Diagram Estimation Method Using the Derived PDFs 22
• Chapter Ⅲ. Validation of the Proposed Statistical Eye-Diagram Estimation Method with N-Tap DFE Method Using Transient Simulation 26
• 1. Settings for Parametric Analysis in the Eye-Diagram 26
• 2. Verification of the Proposed Eye-Diagram Estimation Method 28
• 3. Bit-error Rate (BER) Bathtub Curve Analysis of the Estimated Eye-Diagram 34
• Chapter Ⅳ. Application to Efficient Exploration of N-Tap DFE Coefficient 37
• 1. Application of the Proposed Statistical Eye-Diagram Estimation Method to Efficient Exploration of DFE Coefficient Space 37
• 2. Analysis of Eye-Opening Characteristics Based on Exploration of N-Tap DFE Coefficients 41
• Chapter Ⅴ. Conclusion 47
• Bibliography 49