강화 학습 기반의 프리페처와 캐시 교체 기법

RL based prefetcher and cache replacement method

  • 진준우 (가천대학교 AI 소프트웨어학부) ;
  • 김찬우 (가천대학교 AI 소프트웨어학부) ;
  • 김희진 (가천대학교 AI 소프트웨어학부) ;
  • 이미소 (가천대학교 AI 소프트웨어학부) ;
  • 주용완 (가천대학교 AI 소프트웨어학부) ;
  • 오현영 (가천대학교 AI 소프트웨어학부)
  • Junwoo Jin (Dept. of AI.Software, Gachon University) ;
  • Chanwoo Kim (Dept. of AI.Software, Gachon University) ;
  • HeeJin Kim (Dept. of AI.Software, Gachon University) ;
  • Miso Lee (Dept. of AI.Software, Gachon University) ;
  • Yongwan Joo (Dept. of AI.Software, Gachon University) ;
  • Hyunyoung Oh (Dept. of AI.Software, Gachon University)
  • 발행 : 2024.10.31

초록

현대 컴퓨터 시스템에서 메모리 접근의 효율성을 극대화하는 것은 필수적이다. 기존의 캐시 교체 및 프리페칭 기법은 고정된 규칙에 기반해 설계되어 동적 접근 패턴에 제대로 적응하지 못한다. 이 논문에서는 이러한 한계를 극복하기 위해 RL 기반 기술을 통해 동적 환경에 적응하는 효율적인 기법들을 소개한다. 이러한 방식은 기존의 캐시 교체와 프리페칭이 지닌 문제를 해결하고, 효율적인 메모리 관리 방안을 제안한다.

키워드

과제정보

이 논문은 2024 년도 정부(산업통상자원부)의 재원으로 한국산업기술기획평가원의 지원(No. RS-2024-00406121, 자동차보안취약점기반위협분석시스템개발(R&D))과 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원(No. RS-2022-00166529)을 받고 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업(No. RS-2024-00337414)으로 수행한 결과임.

참고문헌

  1. R. Sutton and A. Barto, "The Reinforcement Learning Problem." MIT Press, 1998.
  2. Rahul Bera et al, "A Customizable Hardware Prefetching Framework Using Online Reinforcement Learning." MICRO, 2021
  3. Yang, et al, "RL-CoPref: a reinforcement learning-based coordinated prefetching controller for multiple prefetchers." J Supercomput, 2024.
  4. Matheus A. Souza et al, "Reinforcement Learning-Based Cache Replacement Policies for multicore processors." IEEE Access, 2024
  5. Subhash Sethumurugan et al, "Designing a Cost-Effective Cache Replacement Policy using Machine Learning." HPCA, 2021