Smart Media Journal (스마트미디어저널)

THE KOREAN INSTITUTE OF SMART MEDIA (한국스마트미디어학회)
권호 표지
DOI QR코드

DOI QR Code

Model Optimization for Supporting Spiking Neural Networks on FPGA Hardware

FPGA상에서 스파이킹 뉴럴 네트워크 지원을 위한 모델 최적화

  • 김서연 (인하대학교 인간중심검퓨팅연구소) ;
  • 윤영선 (한남대학교 정보통신공학과) ;
  • 홍지만 (숭실대학교 컴퓨터학부) ;
  • 김봉재 (충북대학교 컴퓨터공학과) ;
  • 이건명 (충북대학교 소프트웨어학과) ;
  • 정진만 (인하대학교 컴퓨터공학과)
  • Received : 2022.03.07
  • Accepted : 2022.03.18
  • Published : 2022.03.31
Download PDF
⟨ Previous Next ⟩

Abstract

IoT application development using a cloud server causes problems such as data transmission and reception delay, network traffic, and cost for real-time processing support in network connected hardware. To solve this problem, edge cloud-based platforms can use neuromorphic hardware to enable fast data transfer. In this paper, we propose a model optimization method for supporting spiking neural networks on FPGA hardware. We focused on auto-adjusting network model parameters optimized for neuromorphic hardware. The proposed method performs optimization to show higher performance based on user requirements for accuracy. As a result of performance analysis, it satisfies all requirements of accuracy and showed higher performance in terms of expected execution time, unlike the naive method supported by the existing open source framework.

클라우드 서버를 이용한 IoT 응용 개발은 네트워크로 연결된 하드웨어에 데이터 송수신 지연, 네트워크 트래픽, 실시간 처리 지원을 위한 비용 등의 문제가 발생한다. 엣지 클라우드 기반 플랫폼에서는 이러한 문제를 해결하기 위해 빠른 데이터 전달이 가능하도록 뉴로모픽 하드웨어를 사용할 수 있다. 본 논문에서는 FPGA상에서 스파이킹 뉴럴 네트워크를 위한 모델 최적화 기법을 제안한다. 뉴로모픽 하드웨어에 최적화된 네트워크 모델 파라미터를 자동 조정하는 것에 초점을 맞추었다. 정확도에 대한 사용자 요구사항을 기반으로 더 높은 성능을 보이도록 최적화를 수행한다. 성능 분석 결과, 기존의 오픈 프레임워크에서 지원하는 고정 기법과 달리 사용자의 요구사항을 모두 만족하였으며 수행시간 측면에서 더 높은 성능을 보였다.

Keywords

Acknowledgement

이 논문은 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원을 받아 수행된 연구임(No. 2021R1F1A1062884).

References

  1. 장양자, "IoT 플랫폼 기술 동향," 정보과학회지, 제32권, 제6호, 19-24쪽, 2014년 6월
  2. 김대영, 라현정, 김수동, "IoT 디바이스 이질성의 효율적 관리를 위한 프레임워크," 정보과학회논문지 : 소프트웨어 및 응용, 제41권, 제5호, 353-366쪽, 2014년 5월
  3. 전종암, 김내수, 고정길, 박태준, 강호용, 표철식, "IoT 디바이스 제품 및 기술 동향," 한국통신학회지(정보와통신), 제31권, 제4호, 44-52쪽, 2014년 3월
  4. 이승형, 한정수, 권진철, 김종원, "클라우드-네이티브 IoT-Cloud 서비스를 위한 마이크로서비스 구조기반의 서비스 합성 설계 및 검증," 정보과학회 컴퓨팅의 실제 논문지, 제26권, 제3호, 123-134쪽, 2020년 3월
  5. 서희경, "IoT 및 네트워크 관리 지원을 위한 컴포넌트 아키텍처 개발," 스마트미디어저널, 제6권, 제2호, 42-49쪽, 2017년 6월
  6. 박현문, 황태호, "엣지컴퓨팅기술의 변화와 동향," 한국통신학회지(정보와통신), 제36권, 제2호, 41-47 쪽, 2019년 1월
  7. 김선욱, 김화종, 홍성은, 방준일, "IoT 장치의 개인정보 데이터 보호 시스템 구현에 관한 연구", 스마트미디어저널, 제10권, 제2호, 84-91쪽, 2021년 6월
  8. Data Driven Investor, "Movidius NCS (with Raspberry Pi) vs. Google Edge TPU (Coral) vs. Nvidia Jetson Nano - A Quick Comparison.". https://medium.com/datadriveninvestor/movidiusncs-with-raspberry-pi-vs-818427734d3c (accessed Feb., 25, 2022).
  9. 차병래, 박선, 서재현, 김종원, 신병춘, "대용량 분산 Abyss 스토리지의 CDA (Connected Data Architecture) 기반 AI 서비스의 설계 및 활용", 스마트미디어저널, 제10권, 제1호, 99-107쪽, 2021년 3월
  10. 김우재, 김만배, 정인범, "엣지 컴퓨팅에서 효과적인 클러스터 아키텍처를 위한 확장성 평가," 정보과학회 컴퓨팅의 실제 논문지, 제27권, 제9호, 413-427쪽, 2021년 9월
  11. 박동환, "지능형 협업 IoT 디바이스 플랫폼 동향," 한국전자파학회지:전자파기술 제30권, 제3호, 3-9쪽, 2019년 5월
  12. 이건명, "스파이킹 뉴런 모델의 동작과 스파이킹 신경망의 학습", 정보과학회지, 제38권, 제2호, 8-19쪽, 2020년 2월
  13. 정재혁, 김서연, 김재희, 김봉재, 정진만, "뉴로모픽 하드웨어 지원 IoT 응용 생성 자동화 도구 개발," 한국정보과학회 학술발표논문집, 819-821쪽, 2020년
  14. Terasic De1-SoC, http://de1-soc.terasic.com/ (accessed Feb., 25, 2022).
  15. Xilinx PYNQ. http://www.pynq.io/ (accessed Feb., 25, 2022).
  16. Blackstock, M., Lea, R. "Toward a distributed data flow platform for the web of things (distributed node-red)." In Proceedings of the 5th International Workshop on Web of Things, pp. 34-39, MA, USA, Oct. 2014.
  17. Young-Sun Yun, Seoyeon Kim, Jisu Park, Hoinam Kim, Jinman Jung, Seongbae Eun. "Development of Neuromorphic Architecture Integrated Development Environment." 2020 International Conference on Green and Human Information Technology (ICGHIT). IEEE, Hanoi, Vietnam, Feb. 2020.
  18. LeCun, Yann, Corinna Cortes, and Chris Burges. "MNIST handwritten digit database."(2010) http://yann.lecun.com/exdb/mnist/ (accessed Feb., 25, 2022).
  19. "NengoFPGA" https://www.nengo.ai/nengo-fpga/index.html (accessed Feb., 25,. 2022).