Journal of KIISE:Computer Systems and Theory (한국정보과학회논문지:시스템및이론)

Korean Institute of Information Scientists and Engineers (한국정보과학회)
권호 표지

Efficient Connection Scheduling Technique for Hosting Internet Services on a Cluster of Servers

서버 클러스터에서의 인터넷 서비스를 위한 효율적인 연결 스케줄링 기법

  • 최재웅 (서강대학교 컴퓨터학과) ;
  • 김성천 (서강대학교 컴퓨터학과)
  • Published : 2003.08.01
Download PDF
⟨ Previous Next ⟩

Abstract

A cluster of servers is the most promising solution to provide highly scalable and highly available network services with low implementation cost. One of popular solutions is using dispatcher as a request distributor. However this solution has the problem that is can be the bottleneck or single-point of failure point of itself. ONE-IP, the previous work, solves this serious problem by using broadcast message for distributing the request packet in LAN. Using simple scheduling technique, in addition, the overhead due to dispatching the request becomes minimal. However, as ONE-IP using very simple static scheduling algorithm, it would spread the request among servers unevenly and downgrades the cluster performance consequently. In this paper, we propose an improved TCP connection scheduling technique solving this unbalanced distributing problem. Using Round-Robin(RR) scheduling instead of hashing clients IP address, proposed technique can more evenly distribute incoming service requests among the servers. Experiments show average 3.8% improved performance in throughput compared to original ONE-IP technique.

LAN 환경의 웹 서버 클러스터 구조가 각광을 받고 있다. 높은 가용성 및 확장성을 보장하는 웹 서비스를 제공하기 위해 많은 부하의 서비스 요구를 여러 서버에게 효과적으로 나누어 처리할 수 있는 합리적인 스케줄링 기법을 필요로 한다. ONE-IP 스케줄링 기법은 이더넷의 브로드캐스트 메시지에 의해 스케줄링이 분산되도록 하는 전략을 사용한다. 이 기법은 클러스터에 유입되는 패킷의 집중화로 인해 발생 할 수 있는 병목 현상(bottleneck)과 치명적인 오류(Single-point of Failure) 문제를 효과적으로 해결하였으나, 단순한 패킷 스케줄링을 사용하기 때문에 클러스터를 구성하는 서버들 간의 부하 불균형을 가중시키며, 결과적으로 클러스터의 효율성을 저하시키는 문제점을 가지고 있다. 본 논문에서는 이러한 문제점을 해결하기 위하여 RR ONE-IP 기법을 제안하였다. 제안한 기법은 서버에 할당되는 부하간에 불균형이 발생하는 문제점을 해결하기 위해 TCP 연결 단위의 스케줄링 전략을 사용하였으며, RR 스케줄링 기법을 도입함으로써, ONE-IP 기법의 장점을 그대로 유지하면서 보다 나은 부하의 균등한 분배로 시스템의 처리능력을 향상시키도록 하였다. 또한, 실험을 수행한 결과 제안한 기법이 기존의 기법에 비해 평균 3.84%의 시스템의 성능 향상을 보였으며, 과부하 발생율에서는 평균 23.5%의 감소를 가져왔음을 보였다.

Keywords

References

  1. Cisco Systems Inc., Cisco LocalDirector Version 4.1 Documentation. http://www.cisco.com/univered/cc/td/doc/product/iaabu/localdir/
  2. G.Hunt et al., Network Dispatcher: A Connection Router for Scalable Internet Service, Proc. 7th Intl World Wide Web Conf., 1998 https://doi.org/10.1016/S0169-7552(98)00088-9
  3. Wensong Zhang, Linux Virtual Servers for Scalable Network Services, The 22nd Ottawa Linux Symposium, July 19, 2000. http://www.linuxvirtualsever.org/
  4. V. Cardellini et al., Dynamic Load Balancing on Web-Server Systems, IEEE Internat Computing, Vol.3, No.3, May/June 1999, 28-39 https://doi.org/10.1109/4236.769420
  5. O. P. Damani et al., ONE-IP: Techniques for Hosting a Service on a Cluster of Machines. J. Computer Networks and ISDN Systems, Vol.29, Sept. 1997, 1019-1027 https://doi.org/10.1016/S0169-7552(97)00030-5
  6. M. Arlitt, Characterizing Web User Sessions, Performance and Architecture of Web Servers(PAWS), June 17-18, 2000, Santa Clara, California, ACM SIGMETRICS 2000 https://doi.org/10.1145/362883.362920
  7. SPECweb99 Design Document, White Paper, Standard Performance Evaluation Corporation (SPEC), 2000. http://www.specbench.org/osg/web99/docs/whitepaper.html
  8. K. Kant, P.Mohapatra, Scalable Internet Servers: Issues and Challenges, Performance and Architecture of Web Servers(PAWS), June 17-18, 2000. Santa Clara, California, ACM SIGMETRICS 2000 https://doi.org/10.1145/362883.362891
  9. A. Iyengar, J. Challenger, D. Dias, P. Dantzig, High-Performance Web Server Design Technique, IEEE Internet Computing, Vol.4, No.2, Mar/Apr. 2000., pp.17-26 https://doi.org/10.1109/4236.832942
  10. M. Colajanni, Philip S. Yu, and D. Dias, Scheduling Algorithms for Distributed Web Servers, Proc. 17th IEEE Int'l Conference on Distributed Computing Systems, 1997 https://doi.org/10.1109/ICDCS.1997.598025
  11. V. Cardellini, M.Colajanni, and P.Yu, Redirection Algorithms for Load Sharing in Distributed Web Server Systems, Proc.19th IEEE Int'l Conf. Distributed Computing Systems, IEEE Computer Soc. Press, Los Alamitos, Calif., May 1999 https://doi.org/10.1109/ICDCS.1999.776555
  12. Gilbert Held, Ethernet Networks: Third Ed., New York, Wiley & Sons, Inc., 1998