한국정보처리학회:학술대회논문집 (Proceedings of the Korea Information Processing Society Conference)

한국정보처리학회 (Korea Information Processing Society)
권호 표지

합성곱 신경망 성능 향상을 위한 메모리 내 연산 구조

Processing-in-Memory Architecture for Enhanced Convolutional Neural Network Performance

  • 정건모 (연세대학교 전기전자공학과 통합과정) ;
  • 염호윤 (연세대학교 전기전자공학과 통합과정) ;
  • 김한준 (연세대학교 전기전자공학과)
  • Kun-Mo Jeong (Dept. of Electrical and Electronic Engineering, Yonsei University) ;
  • Ho-Yun Youm (Dept. of Electrical and Electronic Engineering, Yonsei University) ;
  • Han-Jun Kim (Dept. of Electrical and Electronic Engineering, Yonsei University)
  • 발행 : 2024.05.23
PDF 다운로드
⟨ 이전 논문 다음 논문 ⟩

초록

최근 고성능 컴퓨팅 장치의 수요 증가와 함께, 메모리 내에 연산을 가능하게 하는 하드웨어 구조가 새로이 발표되고 있다. 본 논문은 기존 DRAM 에 계산 유닛을 통합하는 새로운 메모리 내 연산 구조를 제안한다. 특히, 데이터 집약적인 합성곱 신경망 작업을 위해 최적화된 이 구조는 기존 메모리 구조를 사용하면서도 기존 구조에 분기를 추가함으로서 CNN 연산의 속도와 에너지 효율을 향상시킨다. VGG19, AlexNet, ResNet-50 과 같은 다양한 CNN 모델을 활용한 실험 결과, PINN 아키텍처는 기존 연구에 비해 최대 2.95 배까지의 성능 향상을 달성할 수 있음을 확인하였다. 이러한 결과는 PINN 기술이 저장 및 연산 성능의 한계를 극복하고, 머신 러닝과 같은 고급 어플리케이션의 요구를 충족시킬 수 있는 방안임을 시사한다.

키워드

과제정보

이 논문은 2024 년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No. 2020-0-01361, 인공지능대학원지원(연세대학교); No. 2022-0-00050, 데이터 플로우 구조 기반 PIM 의 실행 및 프로그래밍 모델 개발; No. RS-2023-00277060, 개방형 엣지 AI 반도체 설계 및 SW 플랫폼 기술개발; No. RS-2024-00395134, 차세대 AI 반도체를 위한 DPU 중심의 데이터센터 아키텍처). 또한 이 논문은 삼성전자의 지원을 받아 수행된 연구임.

참고문헌

  1. He, Mingxuan, Choungki Song, Ilkon Kim, Chunseok Jeong, Seho Kim, Il Park, Mithuna Thottethodi, and T. N. Vijaykumar. "Newton: A DRAM-Maker's Accelerator-in-Memory (AIM) Architecture for Machine Learning." 2020 53rd Annual IEEE/ACM International Symposium on Microarchitecture (MICRO), 2020.
  2. S. Lee, S. Kang, J. Lee, H. Kim, E. Lee, S. Seo, H. Yoon, S. Lee, K. Lim, H. Shin, J. Kim, S. O, A. Iyer, D. Wang, K. Sohn, N. Kim, "Hardware Architecture and Software Stack for PIM Based on Commercial DRAM Technology", in 2021 ACM/IEEE 48th Annual International Symposium on Computer Architecture (ISCA)
  3. Kal, Hongju, Seokmin Lee, Gun Ko, and Won Woo Ro. "Space: Locality-Aware Processing in Heterogeneous Memory for Personalized Recommendations." 2021 ACM/IEEE 48th Annual International Symposium on Computer Architecture (ISCA), 2021.
  4. Kwon, Youngeun, Yunjae Lee, and Minsoo Rhu. "Tensordimm." Proceedings of the 52nd Annual IEEE/ACM International Symposium on Microarchitecture, 2019.