기계 학습을 이용한 기어 경량화 설계 최적화 = Design Optimization of Lightweight Gear Using Machine Learning

다국어 초록 (Multilingual Abstract)

Gears are one of the most representative mechanical components in power transmission systems, transmitting power, changing speeds, and amplifying torque. Gear lightweighting directly impacts improvements in fuel efficiency, energy savings, and manufacturing cost reduction. However, achieving lightweight designs in gears is not simply a matter of reducing material; it requires careful consideration of the complex stress distribution changes and structural reliability associated with stiffness reduction. With the advancement of cutting-edge manufacturing technologies such as 3D printing, design freedom has significantly expanded, increasing the need to handle non-standard, irregular blank shapes that traditional design methods struggle to address. In lightweight gear design, it is essential not only to generate shapes but also to accurately predict the maximum stress and its location for any given design. Without guaranteed reliability, lightweight designs can lead to mechanical failures or fatigue fractures under real-world operating conditions, making stress prediction and reliability-based optimization indispensable elements in gear lightweighting research.
To address these challenges, this study proposes an integrated lightweight optimization framework that combines high-fidelity finite element analysis (FEA), machine learning–based surrogate modeling, and deep learning–based generative design techniques, covering both gear types with and without well-defined design variables.
First, to achieve a level of lightweighting beyond existing international standards, three types of test gears solid gears, thin-rimmed gears, and thin-rimmed gears with additional holes were designed, manufactured, and experimentally evaluated for tooth root stress and blank stress. The experiments revealed that thin-rimmed and holed gears showed approximately 2.5 times higher maximum root stress and 13 times higher blank stress compared to solid gears.A high-fidelity FEA model reflecting the same rotation, lubrication, boundary, and loading conditions as the experiments was developed and validated against the measured data, ensuring the reliability of the simulation.
For gears with defined design variables, a machine learning–based Gaussian Process Regression (GPR) surrogate model was developed to replace time-consuming FEA and enable rapid prediction of maximum stress and weight. Using this model, a reliability-based design optimization (RBDO) process that accounts for manufacturing tolerances was performed. Through iterative GA single-objective optimization, optimal design parameters achieving a target reliability of 97.5% were derived, resulting in a final design achieving approximately 53.59% weight reduction compared to solid gears while maintaining structural integrity within allowable stress limits.
For gears without clearly defined design variables, this study proposes a deep learning pipeline based on a multi-output 3D CNN model, trained on diverse random gear blank shapes generated through topology optimization and latent space analysis using autoencoders. By utilizing sparse tensor inputs, the model achieves substantial reductions in memory and computational demands while effectively capturing critical hotspot information. This enables simultaneous high-accuracy predictions of both maximum stress and its location.
The proposed methodology enables two complementary applications depending on the nature of the design problem. For cases where design variables are clearly defined, the trained GPR model allows rapid prediction and efficient exploration of the design space. For non-parametric cases involving complex or irregular geometries, the 3D CNN based generative approach can predict stress magnitude and location directly from geometry. By bridging variable based optimization with data driven learning, this work contributes to expanding the applicability of AI-based reliability evaluation and optimization for the design of complex-shaped gears.

국문 초록 (Abstract)

기어는 동력 전달, 속도 변환, 토크 증폭을 수행하는 동력전달요소의 대표적인 기계요소이다. 기어의 경량화는 연비 개선, 에너지 효율 향상, 제조비용 절감에 직접적인 영향이 있다. 기어 설계에서 경량화는 단순히 재료를 줄이는 것이 아니라, 강성 저하로 인한 복합적인 응력 분포 변화와 구조적 신뢰성을 함께 고려해야 한다. 최근 3D 프린팅과 같은 첨단 제조 기술의 발전으로 제작 자유도가 크게 확대되면서, 기존 방식으로 설계하기 어려운 다양한 블랭크 형상을 효율적으로 설계할 수 있는 방법이 요구되고 있다. 기어 경량 설계에서는 단순한 재료 제거 방식이 아닌 설계안의 최대 응력 및 발생 위치를 정확히 예측할 수 있는 역량이 요구된다. 신뢰성이 보장되지 않은 경량 설계는 실제 사용 환경에서 기계적 결함이나 파손으로 이어질 수 있기 때문에 응력 예측과 신뢰성 기반 최적화는 기어 경량 설계에서 반드시 고려되어야 한다.
본 연구는 이러한 문제를 해결하고자 고정밀(high-fidelity) 유한요소 해석모델 개발, 머신러닝 기반 대리모델(machine learning-based surrogate model), 딥러닝 기반 생성형 설계 기법(deep learning-based generative design method)을 각각 제시하여 설계 변수가 정의 가능한 기어 제원과 설계 변수를 정의하기 어려운 기어 모두를 포함하는 응력 예측 모델 개발 방법론을 제안하였다. 국제 규격에서 제시하지 못한 수준의 경량화를 달성하기 위해 솔리드 기어, 얇은 림·웹 홀 기어와, 얇은 림·홀을 추가한 기어를 설계 및 제작하고 시험적 방법으로 이뿌리 응력(tooth root stress) 및 블랭크 응력(blank stress)을 계측하였다. 계측된 시험 결과로부터 얇은 림·웹 홀이 추가된 기어는 솔리드 기어 대비 이뿌리 응력이 약 2.5배 블랭크 응력은 약 13배 증가함을 확인하였다. 시험과 동일한 회전, 윤활, 경계, 하중 조건을 반영하여 고정밀(high-fidelity) 유한요소 모델을 개발하고, 시험 결과와 비교 검증을 통해 해석의 신뢰성을 검증하였다.
설계 변수를 정의할 수 있는 기어에 대해서는 머신러닝 기반 가우시안 프로세스 회귀(Gaussian Process Regression, GPR) 대리모델을 개발하여 유한요소 모델을 대체하여 짧은 시간에 최대 응력과 무게를 예측할 수 있었다. 개발된 대리모델을 활용하여 제작공차를 고려한 신뢰성 기반 설계 최적화(Reliability-Based Design Optimization, RBDO)를 수행하였다. 반복적인 단일 목적 유전 알고리즘(genetic algorithm) 최적화를 통해 목표 신뢰도 97.5%를 만족하는 최적설계안을 도출하였고, 최종 설계안은 솔리드 기어 대비 약 53.59%의 무게 절감과 허용 응력을 만족하여 신뢰성이 확보된 경량화를 수행하였다.
설계변수를 정의하기 어려운 기어는 위상최적화 방법(topology optimization)으로 무작위의 기어 블랭크 형상을 생성하고 오토인코더(autoencoder) 기반 잠재 공간(latent space) 분석을 통해 중복되지 않는 다양한 랜덤 기어 블랭크 형상을 생성하였다. 생성된 모델을 3D 기어 형상, 유한요소 모델 생성 및 해석을 통해 만들어진 데이터들을 활용하여 3D CNN 기반 다중 출력 예측 모델을 개발하였다.
모델은 희소 텐서(sparse tensor)를 입력으로 사용함으로써 메모리와 계산 자원의 소모를 절감하고, 물리적으로 중요한 고응력 영역(hotspot) 정보에 집중해 최대 응력 값과 발생 위치를 동시에 높은 정확도로 예측하였다.
본 연구에서 제시하는 방법론을 활용하면 설계 변수 정의 유무에 따라 가우시안 프로세스 회귀 대리모델 기반 예측 모델 또는 생성형 설계 기반 3차원 합성곱 신경망(3D Convolutional Neural Network, 3D CNN) 모델을 활용하여 단 시간에 응력을 예측할 수 있다.
기어 경량 설계에서 제안된 인공지능 기반 응력 예측 모델은 두 가지 방식으로 활용될 수 있다. 첫째, 설계 변수가 명확히 정의된 기어에 적용하여 최적화에 직접 활용할 수 있는 모델이며, 둘째, 설계 변수를 정의하기 어려운 복잡한 형상에는 예측 기반 접근 방식으로 적용할 수 있다. 설계 변수 정의 가능 여부에 따라 맞춤형 모델을 구분해 적용함으로써 향후 복잡한 형상의 기어 설계에도 인공지능 기반 최적화 연구의 확장성이 기대된다.

목차 (Table of Contents)

• 목 차
• 제1장 서 론 1
• 1.1. 연구 필요성 1
• 1.2. 연구 목적 8
• 1.3. 연구 내용 및 구성 10
• 1.4. 문헌 조사 12
• 1.4.1. 기어 이뿌리 응력 계산 12
• 1.4.2. 신뢰성 기반 최적설계 16
• 1.4.3. 인공지능 기반 생성형 설계 19
• 제2장 기어 응력 계측 및 분석 23
• 2.1. 개요 23
• 2.2. 기어 응력 계측 25
• 2.2.1. 시험용 기어 제작 25
• 2.2.2. 시험 레이아웃 구축 28
• 2.2.3. 스트레인게이지 부착 33
• 2.2.4 기어 샘플링 주파수 선정 39
• 2.2.5 기어 이뿌리 및 블랭크 응력 계측 40
• 2.3. 기어 해석모델 개발 및 검증 48
• 2.3.1. 유한요소 설정 48
• 2.3.2. 유한요소 해석 및 시험 결과 비교 52
• 2.4. 결과 및 고찰 59
• 2.4.1 기어 응력 계측결과 59
• 2.4.2 기어 유한요소 모델 검증 및 개발 결과 60
• 2.5. 결론 60
• 제3장 신뢰성 기반 기어 제작 공차를 고려한 기어 경량 최적설계 62
• 3.1. 개요 62
• 3.2. 가우시안 프로세스 회귀 대리모델 개발 62
• 3.2.1. 기어 무게 및 최대 블랭크 응력 예측 머신러닝 모델 개발 64
• 3.2.2. 라틴 하이퍼큐브 샘플링 64
• 3.2.3 머신러닝 모델 성능 비교 68
• 3.2.4 가우시안 프로세스 회귀 대리모델의 이론적 배경 73
• 3.2.5. 가우시안 프로세스 회귀 대리모델 77
• 3.3. 유전 알고리즘 기반 신뢰성 평가 및 최적설계 80
• 3.3.1. 신뢰성 기반 최적설계에 대한 이론적 배경 80
• 3.3.2. 불확실성 및 확률론적 샘플링 모델 82
• 3.3.3. 허용 응력 한계 설정 86
• 3.3.4. 유전알고리즘 기반 신뢰성 최적설계 87
• 3.3.5. 신뢰성 기반 최적설계와 결정론적 설계 비교 90
• 3.3.6. 가우시안 프로세스 회귀 대리모델 예측 값 및 CAD, 유한요소 해석 결과 비교 91
• 3.4. 결과 및 고찰 94
• 3.5. 결론 95
• 제4장 생성형 설계 기반 기어 응력 예측모델 파이프 라인 개발 97
• 4.1. 개요 97
• 4.2. 위상최적화 기반 랜덤 2D 블랭크 형상 생성 자동화 98
• 4.2.1 기어 블랭크 이미지 생성 98
• 4.2.2 차원 축소 및 샘플링 104
• 4.2.3 이미지 처리 109
• 4.2.4 기어 3D 모델 생성 자동화 112
• 4.2.5 3D 유한요소 모델 생성 자동화 113
• 4.2.6 3D 유한요소 모델 해석 자동화 116
• 4.3. 3D CNN 기반 다중 출력 모델 개발 118
• 4.3.1. 복셀 응력 매핑 및 정규화 118
• 4.3.2. 기어 형상 데이터 생성 및 응력 입력 121
• 4.3.4. 3D CNN 기반 다중 출력 모델 개발 122
• 4.4. 3D CNN 다중 출력 모델 성능 평가 126
• 4.4.1. 3D CNN 예측모델 성능 평가 126
• 4.4.2. 테스트 세트 평가 결과 129
• 4.5. 결과 및 고찰 133
• 4.6. 결론 134
• 제5장 결론 135
• 참고 문헌 139
• Abstract 153