Journal of KIISE:Information Networking (한국정보과학회논문지:정보통신)

Korean Institute of Information Scientists and Engineers (한국정보과학회)
권호 표지

A Dynamic Load Balancing Scheme based on Host Load Information in a Wireless Internet Proxy Server Cluster

무선 인터넷 프록시 서버 클러스터에서 호스트 부하 정보에 기반한 동적 부하 분산 방안

  • 곽후근 (숭실대학교 전자공학과 대학원) ;
  • 정규식 (숭실대학교 정보통신전자공학과)
  • Published : 2006.06.01
Download PDF
⟨ Previous Next ⟩

Abstract

A server load balancer is used to accept and distribute client requests to one of servers in a wireless internet proxy server cluster. LVS(Linux Virtual Server), a software based server load balancer, can support several load balancing algorithms where client requests are distributed to servers in a round robin way, in a hashing-based way or in a way to assign first to the server with the least number of its concurrent connections to LVS. An improved load balancing algorithm to consider server performance was proposed where they check upper and lower limits of concurrent connection numbers to be allowed within each maximum server performance in advance and apply the static limits to load balancing. However, they do not apply run-time server load information dynamically to load balancing. In this paper, we propose a dynamic load balancing scheme where the load balancer keeps each server CPU load information at run time and assigns a new client request first to the server with the lowest load. Using a cluster consisting of 16 PCs, we performed experiments with static content(image and HTML). Compared to the existing schemes, experimental results show performance improvement in the cases of client requests requiring CPU-intensive processing and a cluster consisting of servers with difference performance.

무선 인터넷 프록시 서버 클러스터에서 부하 분산기는 사용자의 요청을 각 서버로 분산시키는 역할을 한다. 리눅스 가상 서버(LVS: Linux Virtual Server)는 소프트웨어적으로 사용되는 부하 분산기로써 여러 가지 스케줄링 방식들을 지원한다. LVS 스케줄링 방식에는 라운드 로빈 방식, 해슁 기반 방식, 또는 서버와 부하 분산기 사이에서 서버로 연결된 커넥션 개수를 이용하는 방식이 있다. 일부 향상된 방법에서는 각 서버별로 서버의 최고 성능 범위 안에서 허용된 커넥션 개수의 상한값과 하한값을 사전에 결정하여 이를 스케줄링 시에 적용한다. 그러나, 이러한 스케줄링 방법들에서는 서버의 실시간 부하 정보들이 부하 분산에 반영되지 않는다. 본 논문에서는 서버 부하 정보에 기반한 동적 스케줄링 방식을 제안한다. 제안된 방식에서는 부하 분산기가 서버의 실시간 CPU 부하 정보를 바탕으로 가장 적은 부하를 가지는 서버에 새로운 요청을 할당한다. 16대로 구성된 클러스터링 컴퓨터와 정적 컨텐츠(이미지와 HTML)를 가지고 실험을 수행하였다. 실험결과 CPU를 많이 사용하는 요청과 호스트의 성능이 다른 경우에 대하여 종래의 스케줄링 방식보다 성능이 향상됨을 확인하였다.

Keywords

References

  1. T. Schroeder, S. Goddard and B. Ramamurthy, 'Scalable Web Server Clustering Technologies,' IEEE Network, Vol.14, No.3, pp.38-45, 2000 https://doi.org/10.1109/65.844499
  2. LVS(Linux Vitual Server), http://www.linuxvirtualserver.org
  3. S. Hwang and N. Jung, 'Dynamic Scheduling of Web Server Cluster,' Proceedings of the 9th International Conference on Parallel and Distributed Systems, IEEE, 2002 https://doi.org/10.1109/ICPADS.2002.1183457
  4. C. A. Ruggiero and J. Sargeant, 'Control of Parallelism in the Manchester Dataflow Machine,' In Functional Programming Language and Computer Architecture, LNCS 274, Springer-Verlag, pp. 1-15, 1987
  5. A. Feldmann, R. Caceres, F. Douglis, G. Glass and M. Rabinovich, 'Performance of Web Proxy Caching in Heterogeneous Bandwidth Environments,' In Proceedings of the INFOCOM Conference, 1999 https://doi.org/10.1109/INFCOM.1999.749258
  6. A. Savant, N. Memon and T. Suel, 'On the Scalability of an Image Transcoding Proxy Server,' In IEEE International Conference on Image Processing, Barcelona, Spain, 2003 https://doi.org/10.1109/ICIP.2003.1246935
  7. A. Fox, 'A Framework for Separating Server Scalability and Availability from Internet Application Functionality,' Ph. D. Dissertation, U. C. Berkeley, 1998
  8. 곽후근, 정규식, '무선 인터넷 프록시 서버 클러스터 성능 개선', 한국정보과학회논문지 : 정보통신, Vol. 32, No. 3, pp. 415-426, 2005. 6
  9. AB(Apache Bench), http://www.apache.org
  10. Squid Web Proxy Cache, http://www.squid-cache.org
  11. T. Lane, P. Gladstone and et. al., 'The Independent JPEG Group's JPEG Software Release 6b.,' ftp:// ftp.uu.net/graphics/jpeg/jpegsrc.v6b.tar.gz
  12. T. Kelly and J. Mogul, 'Aliasing on the World Wide Web: Prevalence and Performance Implications,' Proceedings of the 11th International World Wide Web Conference, pp. 281-292, 2002 https://doi.org/10.1145/511446.511484
  13. S. Chandra, A. Gehani, C. Ellis and A. Vahdat, 'Transcoding Characteristics of Web Images,' Proceedings of the SPIE Multimedia Computing and Networking Conference, 2001