밀결합 웹서버 클러스터를 위한 TCP 연결제어 기반 동적 요청분배 기법 = Dynamic request distribution method by TCP connection control for tightly coupled web server clusters

국문 초록 (Abstract)

다중 서버 상에서 부하균등화를 위한 요청분배 아키텍처는 요청 분배의 결정 주체가 무엇이냐에 따라 구분되거나, 부하균등화의 세밀도에 따라 구분될 수 있다. 최근 하드웨어 기술의 발달과 어플리케이션의 복잡화는 요청분배의 주체의 단일화와 부하분배 단위의 세분화를 촉구하고 있으며, 보통의 웹서버 클러스터는 요청분배기 역할을 겸한 독립적인 네트워크 스위치에 연결되어 어플리케이션 단위의 부하균등화를 실현하고 있는 것이 보통이다.
기존 연구에서도 부하분배기 기반의 요청분배 아키텍처가 효과적이며 안정된 성능을 보장할 수 있음이 주장되고 있다. 하지만 현존하는 부하분배기 기반 기법들은 멀티미디어 스트리밍이나 동적 웹 객체들 같이 변동이 심한 동적 부하에 대한 요청분배 기법이 아닌 정적 요청분배 기법들이 대부분이다. 다시 말해, 다중 서버의 동적 부하량에 입각한 요청분배를 실현하는 기법은 거의 전무하거나 매우 제한적인 것들뿐이다. 본 논문은 바로 각 서버의 동적 부하량에 따라 실시간으로 요청분배를 실현하는 요청분배기 기반 요청분배 아키텍처를 제안하는 것이다.
제안 기법은 요청분배기에 의해 서버들로 브로드캐스트된 요청 패킷(SYN Packet)에 대한 응답 패킷(SYN-ACK Packet)의 TTL 값에 실린 부하에 따라 요청분배기가 패킷 필터링을 통해 세션성립을 제어하는 방식의 요청분배 기법이다. 이러한 제안 기법의 핵심은 요청분배 시에 필요한 각 서버들의 부하량 정보를 최대한 판단 시점의 정보로 하자는 것이다. 이를 위해 웹 서비스 프로토콜을 최대한 부하분배에 이용하며, 각 서버들이 자신의 부하량 정보를 요청분배기에 제공하는 것과 관련하여 제안 기법을 서버 입찰 기반 요청분배 기법이라 명한다.
본 논문에서는 제안기법이 웹서버 클러스터 요청분배 아키텍처의 일반적 요구사항인 확장성, 장애극복 그리고 연결지속성 등을 효과적으로 대응함을 보이고, 요청 서비스의 응답반환 시간의 수치적 분석을 통해 제안기법의 비용분석 및 성능예측을 한다. 최종적으로 실제 실험 및 데이터를 통한 시뮬레이션 파라미터를 기반한 시뮬레이션을 통해 이론적 분석의 타당성 증명과 기존의 대표적인 요청분배기 기반 요청분배 정책인 RR, LCF 그리고 DWRR과의 성능비교를 제공한다. 실험을 통해 일반적 세션 모델 하에서 active 세션 수, 응답시간 대 요청부하량 비의 변화와 Heavy 트래픽 세션 모델 하에서 각 요청의 서버에서 서비스 대기시간을 측정한 결과, 기존의 대표적 기법인 LCF와 DWRR 기법에 비해 각각 7.4배, 17.8배, 1.2배의 성능향상을 확인할 수 있다.

다국어 초록 (Multilingual Abstract)

There are two kinds classification of request-allocation method for multiple Web server clusters, one is by the deciding entity, and another is by the balancing granularity. The latest hardware technology and complex Web applications require the more detailed balancing degree and the more precise decision. Therefore, the commercial Web cluster systems are composed of a separated network with request-dispatching switches, and support the application layer load-balancing.
The previous studies have asserted that the dispatcher-based request-allocation methods can show the efficient and reliable performance. But the existing dispatcher-based methods are not for the dynamic Web objects and the multimedia streaming, but for the static and simple Web objects. In other words, there are no request allocation methods based on the dynamic and instant load changes on each cluster server, but only request allocation methods using very restricted and indirect load information. This paper proposes a new request-allocation method based on real-time load changes on the servers.
The proposed method is achieved by filtering the SYN-ACK packets, for the TCP SYN packet broadcasted to all cluster servers, of which each server records its load information on IP header's TTL field. The dispatcher controls a TCP session establishment by passing the minimal TTL packet to a client. The proposal object is to try the server's load information for request allocation is on time when the TCP session is established. We named the proposed method Server's Bidding-based Request Allocation, since each server offers the load information in the TTL field.
This paper shows the proposed method keeps the common requirements of Web server clusters like scalability, fault-tolerant, and connection-persistency. The numerical modeling of request turnaround time helps the overhead analysis and performance estimation. Finally, the performance comparison with RR, LCF, and DWRR through the simulations under experimental parameters proves the validity of the numerical modeling and the reasonableness and efficiency of the proposed method. Through the simulations, we can see that the proposed scheme outperforms the LCF and DWRR schemes in the changes of the number of active sessions(7.4 times) and the ratio of the turnaround time to the requested job time under the general traffic session model(17.8 times), and in the service waiting time at each server under the heavy traffic model(1.2 times).

목차 (Table of Contents)

• 차례 = I
• 그림 차례 = III
• 표 차례 = V
• ABSTRACT = VI
• 요약 = VIII
• 제1장 서론 = 1
• 제2장 웹서버 클러스터를 위한 요청분배 아키텍처 = 6
• 2.1 요청분배 세밀도에 따른 분류 = 6
• 2.2 요청분배 주체에 따른 분류 = 12
• 2.3 웹서비스 부하의 변화와 새로운 요청분배 아키텍처의 필요성 = 18
• 2.4 요청분배기 기반 요청분배 아키텍처 = 20
• 2.5 기존의 요청분배 정책 = 24
• 2.6 요청분배 아키텍처의 개선 제안 = 28
• 제3장 서버 입찰 기반 요청분배 기법 = 32
• 3.1 서버의 동적 부하량 측정 = 32
• 3.2 서버 입찰 기반 요청분배 기법 = 37
• 3.3 제안기법의 웹서버 클러스터 요청분배 아키텍처의 요구 준수 = 47
• 제4장 실험평가 및 분석 = 49
• 4.1 요청 서비스의 응답반환 시간 모델링을 통한 비용분석 및 성능예측 = 49
• 4.2 실험평가 요소 및 가정 = 54
• 4.3 실험 결과 및 평가 = 64
• 제5장 결론 = 82
• 5.1 연구배경과 성능요소 = 82
• 5.2 성능평가 및 결론 = 85
• 참고문헌 = 88
• 부록 A. 제안기법의 패킷 필터링 오버헤드 분석을 위한 UDP 패킷 필터링 실험의 실제 패킷 필터링 코드 및 Netfilter 설정 = 93
• 부록 B. 리눅스 머신에서 Netfilter 설치과정 = 98