Effective Prioritized HRW Mapping in Heterogeneous Web Server Cluster

이질적 웹 서버 클러스터 환경에서 효율적인 우선순위 가중치 맵핑

  • Published : 2003.12.01

Abstract

For many years clustered heterogeneous web server architecture has been formed on the internet because the explosive internet services and the various quality of requests. The critical point in cluster environment is the mapping schemes of request to server. and recently this is the main issue of internet architecture. The topic of previous mapping methods is to assign equal loads to servers in cluster using the number of requests. But recent growth of various services makes it hard to depend on simple load balancing to satisfy appropriate latency. So mapping based on requested content to decrease response time and to increase cache hit rates on entire servers - so called “content-based” mapping is highly valuated on the internet recently. This paper proposes Prioritized Highest Random Weight mapping(PHRW mapping) that improves content-based mapping to properly fit in the heterogeneous environment. This mapping scheme that assigns requests to the servers with priority, is very effective on heterogeneous web server cluster, especially effective on decreasing latency of reactive data service which has limit on latency. This paper have proved through algorithm and simulation that proposed PHRW mapping show higher-performance by decrease in latency.

인터넷 서비스에 대한 요청의 기하학적인 증가와 그 요구의 양과 질에 대한 다양성은 이질적인 능력을 지닌 서버들로 구성된 웹 서버 클러스터를 구축하게 되었다. 클러스터 환경에서 가장 결정적인 역할을 하는 요청 대 서버의 맵핑 기법이 최근 활발히 논의되고 있다. 기존의 맵핑 방식은 요청의 수를 기반으로 서버들이 동일한 양의 부하를 할당받는 것을 목적으로 한다. 하지만, 최근의 다양한 서비스의 증가로 인해 단순한 부하의 균등화만으로 적절한 지연 시간을 기대할 수 없게 되었다. 이에 요구되는 내용을 기반으로 맵핑을 수행하여 응답 시간을 단축하고 전체 서버들의 캐시 적중률도 높이는, 내용-기반 맵핑(content-based mapping)이 최근의 인터넷 환경에서 매우 긍정적으로 평가받고 있다. 이에 본 논문에서는 내용-기반 맵핑 방식을 이질적 환경에 적합하도록 개선시킨 우선 순위 최상 임의 가중치 맵핑(Prioritized Highest Random Weight Mapping, PHRW Mapping)을 제안하였다. 요구되는 내용을 기반으로 맵핑하며, 이질적 서버들에 대해 능력에 따라 우선 순위를 부여하여 높은 성능의 서버가 많은 요청들을 처리하는 방식이다. 이를 통해 이질적인 서버들로 구성된 클러스터에서 매우 효과적으로 적용하며, 특히 지연 시간에 제한을 갖고 있는 실시간 데이타 서비스의 지연 시간을 효과적으로 감소시킨다. 알고리즘과 시뮬레이션을 통하여, 제안된 기법을 사용하는 경우 짧은 지연 시간을 보장하여 전체 시스템의 성능이 향상됨을 증명하였다.

Keywords

References

  1. Mohammad Banikazemi, Vijay Moorthy, Dhabaleswar K. Panda, 'Efficient Collective Communication on Heterogeneous Networks of Workstations,' National Science Foundation, Jun. 2000
  2. Vivek S. Pai, Mohit Aron, Erich Nahum, 'Locality-Aware Request Distribution in Clusterbased Network Servers,' Proceedings of the 8th international conference on Architectural support for programming languages and operating systems, pp. 205-216, 1998
  3. Chu-Sing Yang, Mon-Yen Luo, 'International Conference on Parallel Processing, pp. 240-245, 1999 https://doi.org/10.1109/ICPPW.1999.800068
  4. David G. Thaler, Chinya V. Ravishankar, 'Using Name-Based Mappings to Increase Hit Rates,' EEE/ ACM Transactions on Networking, Vol. 6 No.1, pp. 1-14, Feb. 1998 https://doi.org/10.1109/90.663936
  5. Robert Elsasser, Burkhard Monien, Robert Preis, 'Diffusive Load Balancing Schemes on Heterogeneous Networks,' Twelfth annual ACM symposium on Parallel algorithms and architectures, pp. 30-38, Jul. 2000
  6. Pangfeng Liu, Tzu-Hao Sheng, 'Broadcast Scheduling Optimization for Heterogeneous Cluster Systems,' Twelfth annual ACM symposium on Parallel algorithms and architectures, pp. 129-136, Jul. 2000
  7. Chris Faisstnauer, dieter Schmalstieg, Werner Purgathofer, 'Priority Round-Robin Scheduling for Very Large Virtual Environments,' Proceedings of the IEEE Virtual Reality 2000 Conference, pp. 135-142, Mar. 2000
  8. Paul Barford, Mark Crovella, 'Measuring Web Performance in the Wide Area,' Special Issue on Network Traffic Measurement and Workload Characterization, Aug. 1999
  9. 'SPECweb99 Release 1.02,' http://www.spec.org. Jul. 2000
  10. Ron Cocchi, Deborah Estrin, Scott Shenker, Lixia Zhang, 'A Study of Priority Pricing in Multiple Service Class Networks,' Proceedings of the conference on Communications architecture & protocols, pp. 123-130, Sep, 1991 https://doi.org/10.1145/115992.116005
  11. 'Layer 2 Traffic Prioritization,' http//www.intel.com/network/white_papers/
  12. Fred A. Maymir-Ducharme, 'Dynamic Priorities, Priority Scheduling and Priority Inheritance,' Proceedings of the fourth international workshop on Real-time Ada issues, pp. 39-45, Jul. 1990 https://doi.org/10.1145/102454.102467
  13. P. Barford and M. Crovella. 'Generating representative workloads for network and server performance evaluation,' Proceedings of ACM SIGMETRICS'98, pp. 151-160, June 1998 https://doi.org/10.1145/277851.277897