Journal of KIISE:Computer Systems and Theory (한국정보과학회논문지:시스템및이론)

Korean Institute of Information Scientists and Engineers (한국정보과학회)
권호 표지

Design of a Hybrid Data Value Predictor with Dynamic Classification Capability in Superscalar Processors

슈퍼스칼라 프로세서에서 동적 분류 능력을 갖는 혼합형 데이타 값 예측기의 설계

  • 박희룡 (김천대학 컴퓨터사무정보계열) ;
  • 이상정 (순천향대학교 컴퓨터학부)
  • Published : 2000.08.15
Download PDF
⟨ Previous Next ⟩

Abstract

To achieve high performance by exploiting instruction level parallelism aggressively in superscalar processors, it is necessary to overcome the limitation imposed by control dependences and data dependences which prevent instructions from executing parallel. Value prediction is a technique that breaks data dependences by predicting the outcome of an instruction and executes speculatively its data dependent instruction based on the predicted outcome. In this paper, a hybrid value prediction scheme with dynamic classification mechanism is proposed. We design a hybrid predictor by combining the last predictor, a stride predictor and a two-level predictor. The choice of a predictor for each instruction is determined by a dynamic classification mechanism. This makes each predictor utilized more efficiently than the hybrid predictor without dynamic classification mechanism. To show performance improvements of our scheme, we simulate the SPECint95 benchmark set by using execution-driven simulator. The results show that our scheme effect reduce of 45% hardware cost and 16% prediction accuracy improvements comparing with the conventional hybrid prediction scheme and two-level value prediction scheme.

슈퍼스칼라 프로세서에서 명령어 수준 병렬성(Instruction Level Parallelism)을 적극적으로 활용하기 위해서는 명령들 사이에 존재하는 제어 종속관계 및 데이타 종속관계를 극복하는 것이 필수적이다. 데이타 값 예측은 하나의 명령 결과가 생성되기 전에 미리 결과 값을 예측하고 이 예측된 결과를 사용하여 데이타 종속관계가 있는 명령들을 투기적으로 실행(speculative execution)하는 기법이다. 본 논문에서는 동적 분류 능력을 갖는 혼합형 데이타 값 예측기를 제안한다. 제안된 예측기는 최근 값 예측기, 스트라이드 예측기 및 2 단계 예측기를 결합한 혼합형으로 구성되며, 예측되는 명령은 하드웨어에 의한 동적 분류에 의해 각 예측기로 할당된다. 각 명령들의 특성에 따라 각 예측기로 실행 시에 동적 분류됨으로써 각 예측기는 기존의 혼합형 방식보다도 더욱 효과적으로 활용될 수 있다. 제안된 방식의 타당성 검증을 위해 실행구동방식(execution-driven) 시뮬레이터를 사용하여 SPECint95 벤치마크를 시뮬레이션하여 비교한다. 실험 결과 Instruction Per Cycle 비교실험에서 2 단계 예측기 보다 0.36, 혼합형 예측기 보다 0.0l8의 성능을 보였고, 제안된 방식이 기존의 혼합형 방식보다 예측 정확도가 평균 16%가 향상되었고, 하드웨어 비용을 측정한 결과 45%의 감소효과를 얻었다.

Keywords

References

  1. F.Gabbay and A.Mendeson, 'Can Program Profiling Support Value Prediction?,' Proc. of 30th Annual ACM/IEEE International Symposium on Microarchitecture, Dec. 1997 https://doi.org/10.1109/MICRO.1997.645817
  2. Sang-Jeong Lee, Yuan Wang, and Pen-Chung Yew, 'Decoupled Value Prediction on Trace Processors,' IEEE 6th international Symposium on high performance computer architecture, 2000 https://doi.org/10.1109/HPCA.2000.824353
  3. B. Rychlik, J.Faistl, B.Krug, A.Kurland, J.Jung, Miroslav, N.Velev, and J.Shen, 'Efficient and Accurate Value Prediction Using Dynamic Classification,' Technical Report of Microarchitecture Research Team in Dept. of Electrical and Computer Engineering, Carnegie Mellon Univ., 1998
  4. B.Rychlik, J.Faistl, B.Krug, and J.Shen, 'Efficacy and Performance Impact of Value Prediction,' Parallel Architectures and Compilation Techniques, Paris, Oct. 1998 https://doi.org/10.1109/PACT.1998.727186
  5. M.H.Lipasti and J.P.Shen, 'Exceeding the Limit via Value Prediction,' Proc. of 29th Annual ACM/IEEE International Symposium on Microarchitecture, Dec. 1996 https://doi.org/10.1109/MICRO.1996.566464
  6. Kai Wang, Manoj Franklin, 'Highly Accurate data value Predictions using hybird predictor,' Proc. of 30th Annual ACM/IEEE International Symposium on Micro architecture, Dec. 1997 https://doi.org/10.1109/MICRO.1997.645819
  7. B.Calder, G.Reinman and D.Tullsen, 'Selective Value Prediction,' Proc. of the 26th International Symposium on Computer Architecture(ISCA-26), May. 1999 https://doi.org/10.1145/300979.300985
  8. F.Gabbay and A.Mendelson, 'Speculative Execution Based on Value Prediction,' EE Department TR 1080, Technion-Israel Institute of Technology, Nov. 1996
  9. M. Johnson, Superscalar Microprocessor Design, Prentice Hall, 1991
  10. F.Gabbay and A.Mendelson, 'The Effect of Instruction Fetch Bandwidth on Value Prediction,' Proc. of the 25th International Symposium on Computer Architecture(ISCA-25), p.272-281, 1998 https://doi.org/10.1145/279361.278058
  11. Yiannakis Sazeides and James E. Smith, 'The Predictability of Data Values,' Proc. of 30th Annual ACM/IEEE International Symposium on Microarchitecture, Dec. 1997
  12. D.Burger and T.Austin, 'The Simplescalar Tool Set, Version 2.0,' Technical Report CS-TR-97-1342, University of Wisconsin, Medison, June. 1997
  13. T.Y.Yeh and Y.N.Patt, 'Two-level Adaptive Branch Prediction,' Proc. of the 24th Annual ACM/IEEE International Symposium on Microarchitecture, pp. 51-61, 1991 https://doi.org/10.1145/123465.123475
  14. M.H.Lipasti, C.B.Wilkerson and J.P.Shen. 'Value Locality and Load Value Prediction,' Proc. of the 7th International Conference on Architectural Support for Programming Languages and Operating Systems(ASPLOS-VII), Oct. 1996 https://doi.org/10.1145/237090.237173
  15. 박희룡, 전병찬, 이상정 'ILP프로세서에서 데이타 값 예측기의 성능평가', 98가을학술발표논문집(III) 제25권 2호, pp.21-23, 한국정보과학회 1998. 9
  16. 박희룡, 전병찬, 이상정 'ILP프로세서의 혼합형 데이타 값 예측기 모델', 99봄학술발표논문집(A) 제26권 1호, pp.18-20, 한국정보과학회 1999. 4