DOI QR코드

DOI QR Code

뉴로모픽 구조 기반 IoT 통합 개발환경에서 SNN 모델을 지원하기 위한 인코더/디코더 구현

Implementation of Encoder/Decoder to Support SNN Model in an IoT Integrated Development Environment based on Neuromorphic Architecture

  • 김회남 (한남대학교 정보통신공학과) ;
  • 윤영선 (한남대학교 정보통신공학과)
  • 투고 : 2021.11.12
  • 심사 : 2021.12.20
  • 발행 : 2021.12.31

초록

뉴로모픽 기술은 인간의 뇌 구조와 연산과정을 하드웨어로 모방하는 기술로 기존 인공지능 기술의 단점을 보완하기 위하여 제안되었다. 뉴로모픽 하드웨어 기반의 IoT 응용을 개발하기 위해 NA-IDE가 제안되었으며, NA-IDE에서 SNN 모델을 구현하기 위하여 일반적으로 많이 사용되는 입력 데이터를 SNN모델에 사용할 수 있도록 변환이 필요하다. 본 논문에서는 이미지 데이터를 SNN 입력으로 사용하기 위하여 스파이크 시계열 패턴으로 변환하는 신경코딩 방식의 인코더 컴포넌트를 구현하였다. 디코더 컴포넌트는 SNN 모델이 스파이크 시계열 패턴을 생성하는 경우, 출력된 시계열 데이터를 다시 이미지 데이터로 변환하도록 구현하였다. 디코더 컴포넌트는 출력 데이터에 인코딩 과정과 동일한 매개변수를 사용한 경우, 원본 데이터와 유사한 정적 데이터를 얻을 수 있었다. 제안된 인코더와 디코더를 사용한다면 image-to-image나 speech-to-speech와 같이 입력 데이터를 변환하여 재생성하는 분야에 사용할 수 있을 것이다.

Neuromorphic technology is proposed to complement the shortcomings of existing artificial intelligence technology by mimicking the human brain structure and computational process with hardware. NA-IDE has also been proposed for developing neuromorphic hardware-based IoT applications. To implement an SNN model in NA-IDE, commonly used input data must be transformed for use in the SNN model. In this paper, we implemented a neural coding method encoder component that converts image data into a spike train signal and uses it as an SNN input. The decoder component is implemented to convert the output back to image data when the SNN model generates a spike train signal. If the decoder component uses the same parameters as the encoding process, it can generate static data similar to the original data. It can be used in fields such as image-to-image and speech-to-speech to transform and regenerate input data using the proposed encoder and decoder.

키워드

과제정보

이 논문은 2019년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No. 2019-0-00708, 뉴로모픽 아키텍처 기반 자율형 IoT 응용통합개발환경).

참고문헌

  1. Indiveri et al., "Neuromorphic silicon neuron circuits", Frontiers in Neuroscience, vol. 5, no. 73, 2011, DOI: https://doi.org/10.3389/fnins.2011.00073
  2. Davies, Mike, et al., "Loihi: A Neuromorphic Manycore Processor with on-chip Learning", IEEE Micro, Vol. 38, No. 1, pp.82-99, 2018, DOI: https://doi.org/10.1109/MM.2018.112130359.
  3. 최신현, "뇌과학과 뉴로모픽 기술동향", 뉴로모픽 기술과 연구동향 2, 전기의 세계, 대한전기학회, 68(10), pp.28-31, 2019, http://www.dbpia.co.kr/journal/articleDetail?nodeId=NODE09216315
  4. Y. S. Yun, S. Kim, J. Park, H. Kim, J. Jung, S. Eun, "Development of Neuromorphic Architecture Integrated Development Environments", International Conference on Green and Human Information Technology (ICGHIT), pp.47-49, 2020, DOI: 10.1109/ICGHIT49656.2020.00019
  5. 이성화, 김장우, "다양한 스파이크 기반 신경망 시뮬레이션을 위한 디지털 회로 구조", 석사학위논문, 서울대학교, 서울, 2019, https://hdl.handle.net/10371/150766
  6. Arbib, Michael A. "Brains, machines and buildings: towards a neuromorphic architecture", Intelligent Buildings International 4.3, pp.147-168, 2012, DOI: https://doi.org/10.1080/17508975.2012.702863
  7. Schliebs, Stefan, and Nikola Kasabov. "Evolving spiking neural network-a survey", Evolving Systems 4.2, pp.87-98, 2013, DOI: https://doi.org/10.1007/s12530-013-9074-9
  8. Spiking Neural Networks, the Next Generation of Machine Learning, towards data science, last modified Jan 11, 2018, accessed Nov 03, 2021, https://towardsdatascience.com/spiking-neural-networks-the-next-generation-of-machine-learning-84e167f4eb2b
  9. Zador, Anthony. "Spikes: Exploring the neural code", Science 277.5327, pp.772-773, 1997, ISBN:0-262-18174-6 https://doi.org/10.1126/science.277.5327.772a
  10. Ponulak F, Kasinski A, "Introduction to spiking neural networks: Information processing, learning and applications", Acta Neurobiologiae Experimentalis, 71(4): pp.409-433, 2011, PMID:22237491
  11. 김용주, 김태호, "Spiking Neural Networks(SNN)구조에서 뉴런의 개수와 학습량에 따른 학습 성능 변화 분석", The Journal of the Convergence on Culture Technology (JCCT), Vol. 6, No. 3, pp.463-468, 2020, DOI: https://doi.org/10.17703/ JCCT.2020.6.3.463
  12. Ghosh-Dastidar, Samanwoy, and Hojjat Adeli, "Spiking neural networks", International journal of neural systems 19.04, pp.295-308, 2009, DOI: https://doi.org/ 10.1142/S0129065709002002
  13. Adrian ED, Zotterman Y, "The impulses produced by sensory nerve endings: Part II: The response of a single end organ", J Physiol. 61 (2): pp.151-171, 1926, DOI: https://doi.org/10.1113/jphysiol.1926.sp002281
  14. Gerstner, W., & Kistler, W. M, "Spiking neuron models : single neurons, populations, plasticity", Kistler, Werner M., 1969-. Cambridge, U.K.: Cambridge University Press, 2002, DOI: https://doi.org/10.1017/CBO9780511815706
  15. Borst, Alexander, and Frederic E. Theunissen, "Information theory and neural coding", Nature neuroscience 2.11, pp.947-957, 1999, DOI: https://doi.org/10.1038/14731
  16. Guo, Wenzhe & Fouda, Mohammed E. & Eltawil, Ahmed & Salama, Khaled, "Neural Coding in Spiking Neural Networks: A Comparative Study for Robust Neuromorphic Systems", Frontiers in Neuroscience, 15:638474, 2021, DOI: https://doi.org/10.3389/fnins.2021.638474.
  17. Stein RB, Gossen ER, Jones KE, "Neuronal variability: noise or part of the signal?", Nat. Rev. Neurosci. 6 (5): pp.389 - 397, DOI: https://doi.org/10.1038/nrn1888
  18. Averbeck, Bruno B., Peter E. Latham, and Alexandre Pouget, "Neural correlations, population coding and computation", Nature reviews neuroscience 7.5, pp.358-366, 2006, DOI: https://doi.org/10.1038/nrn1888
  19. Pan, Zihan et al, "Neural Population Coding for Effective Temporal Classification", 2019 International Joint Conference on Neural Networks (IJCNN), pp.1-8, 2019, DOI: https://doi.org/10.1109/IJCNN.2019.8851858