An Effective Buffer Management Scheme for Sequential and Looping References

순차 참조와 순환 참조들을 고려한 버퍼 캐쉬 관리 기법

  • 김종민 (서울대학교 컴퓨터공학부) ;
  • 최종무 (서울대학교 컴퓨터공학부) ;
  • 김제성 (서울대학교 컴퓨터공학부) ;
  • 이동희 (제주대학교 통신컴퓨터공학부) ;
  • 노삼혁 (홍익대학교 컴퓨터공학과) ;
  • 민상렬 (서울대학교 컴퓨터공학부) ;
  • 조유근 (서울대학교 컴퓨터공학부) ;
  • 김종상 (서울대학교 컴퓨터공학부)
  • Published : 2001.02.01

Abstract

최근 버퍼 캐쉬의 성능을 향상시키기 위한 많은 블록 교체 기법들이 제안되었으며 이 중에서 작업 집합 (working set) 변화에 잘 적응하고 구현이 용이한 Least Recently Used (LRU) 블록 교체 기법이 널리 사용되고 있다. 그러나 LRU 블록 교체 기법은 블록들이 규칙적인 참조 패턴을 보이면서 순차 참조되거나 순환 참조될 때 이 규칙성을 적절히 이용하지 못해 성능이 저하되는 문제점을 가진다. 본 논문에서는 다중 응용 트레이스를 이용하여 LRU 블록 교체 기법의 문제점을 관찰하고, 이 문제점을 해결하는 통합된 형태의 효율적인 버퍼 관리 (Unified Buffer Management, 이하 UBM) 기법을 제안한다. UBM 기법은 순차 참조 및 순환 참조를 자동 검출하여 분리된 공간에 저장하고 이들 참조에 적합한 블록 교체 기법으로 이 공간을 관리한다. 또한 순차 참조와 순환 참조를 위한 공간과 나머지 참조를 위한 공간의 비율을 최적으로 할당하기 위해 온라인에서 수집된 정보를 이용하여 계산된 단위 공간 증가당 예상 버퍼 적중 증가율을 이용한다. 다중 응용 트레이스 기반 시뮬레이션 실험에서 UBM 기법의 버퍼 적중률은 LRU 블록 교체 기법에 비해 평균 12%, 최대 28%까지 향상된 결과를 보였다.

Keywords

References

  1. J. T. Robinson and M. V. Devarakonda, Data Cache Management Using Frequency-based Replacement. In Proceedings of the 1990 ACM SIGMETRICS Conference on Measurement and Modeling of Computer Systems, pages 134-142, 1990 https://doi.org/10.1145/98457.98523
  2. E. J. O'Neil, P. E. O'Neil, G. Weikum. The LRU-K Page Replacement Algorithm for Database Disk Buffering. In Proceedings of the 1993 ACM SIGMOD Conference, pages 297-306, 1993 https://doi.org/10.1145/170036.170081
  3. T. Johnson and D. Shasha. 2Q : A Low Overhead High Performance Buffer Management Replacement Algorithm. In Proceedings of the 20th International Conference on VLDB, pages 439-450, 1994
  4. P. Cao, E. W. Felten, and K. Li. Application Controlled File Caching Policiesc. In Proceedings of the USENIX Summer 1994 Technical Conference, pages 171-182, 1994
  5. V. Phalke and B. Gopinath, An Inter-Reference Gap Model for Temporal Locality in Program Behavior. In Proceedings of the 1995 ACM SIGMETRICS Conference on Measurement and Modeling of Computer Systems, pages 291-300, 1995 https://doi.org/10.1145/223587.223620
  6. R. H. Patterson, G. A. Gibson, E. Ginting, D. Stodolsky, and J. Zelenka. Informed Prefetching and Caching. In Proceedings of the 15th Symposium on Operating System Principles, pages 1-16, 1995
  7. D. Lee, J. Choi, S. H. Noh, S. L. Min,Y. Cho, and C. S. Kim. On the Existence of a Spectrum of Policies that Subsumes the Least Recently Used(LRU) and Least Frequently Used(LFU) Policies. In Proceedings of the 1999 ACM SIGMETRICS Conference on Measurement and Modeling of Computer Systems, pages 134-143, 1999 https://doi.org/10.1145/301453.301487
  8. E. G. Coffman, JR. and P. J. Denning. Operating Systems Theory. Prentice-Hall International Editions, 1973
  9. G. Glass and P. Cao. Adaptive Page Replacement Based on Memory Reference Behavior. In Proceedings of the 1997 ACM SIGMETRICS Conference on Measurement and Modeling of Computer Systems, pages 115-126, 1997 https://doi.org/10.1145/258612.258681
  10. Y. Smaragdakis, S. Kaplan, and P. Wilson. EELRU : Simple and Effective Adaptive Page Replacement. In Proceedings of the 1999 ACM SIGMETRICS Conference on Measurement and Modeling of Computer Systems, pages 122-133, 1999 https://doi.org/10.1145/301453.301486
  11. T. H. Cormen,C. E. Leiserson, and R. L. Rivest. Introduction to Algorithms. The MIT Press and McGraw-Hill Book Company, 1992
  12. D. Thiebaut, H. S. Stone, and J. L. Wolf. Improving disk Cache Hit-Ratios Through Cache Partitioning. IEEE Transactions on Computers, 41(6):665-676, 1992 https://doi.org/10.1109/12.144619
  13. C. Faloutsos, R. Ng, and T. Sellis. Flexible and Adaptable Buffer Management Techniques for Database Management Systems. IEEE Transactions on Computers, 44(4):546-560, 1995 https://doi.org/10.1109/12.376169
  14. J. Choi, S. Cho, S. H. Noh, S. L. Min, and Y. Cho. Analytic Prediction of Buffer Hit Ratios. IEEE Electronics Letters, 36(1):10-11, 2000 https://doi.org/10.1049/el:20000015
  15. J. Choi, S. H. Noh, S. L. Min, and Y. Cho, An Implementation Study of a Detection-based Adaptive Block Replacement Scheme. In Proceedings of the 1999 USENIX Annual Technical conference, pages 239-252, 1999