DOI QR코드

DOI QR Code

Continuous Multiple Prediction of Stream Data Based on Hierarchical Temporal Memory Network

계층형 시간적 메모리 네트워크를 기반으로 한 스트림 데이터의 연속 다중 예측

  • 한창영 (경상대학교 컴퓨터과학과) ;
  • 김성진 (연암공업대학 전기컴퓨터공학과) ;
  • 강현석 (경상대학교 컴퓨터과학과, 컴퓨터정보통신연구소)
  • Received : 2012.02.14
  • Accepted : 2012.07.10
  • Published : 2012.10.30

Abstract

Stream data shows a sequence of values changing continuously over time. Due to the nature of stream data, its trend is continuously changing according to various time intervals. Therefore the prediction of stream data must be carried out simultaneously with respect to multiple intervals, i.e. Continuous Multiple Prediction(CMP). In this paper, we propose a Continuous Integrated Hierarchical Temporal Memory (CIHTM) network for CMP based on the Hierarchical Temporal Memory (HTM) model which is a neocortex leraning algorithm. To develop the CIHTM network, we created three kinds of new modules: Shift Vector Senor, Spatio-Temporal Classifier and Multiple Integrator. And also we developed learning and inferencing algorithm of CIHTM network.

스트림 데이터는 시간에 따라 연속적으로 변화하는 일련의 값들로 나타난다. 이러한 스트림 데이터의 특성상 다양한 시간 간격의 기준에 따라 계속적으로 그 동향이 달라질 수 있다. 이 때문에 스트림 데이터의 추세 예측은 간격이 갱신될 때 마다 연속적인 환경에서 여러 간격들을 기준으로 동시에 이루어지는 연속 다중 예측(Continuous Multiple Prediction, CMP)이 지원되어야 한다. 본 논문은 스트림 데이터의 연속 다중 예측을 효과적으로 지원하기 위하여, 신피질 학습 모델인 계층형 시간적 메모리(Hierarchical Temporal Memory, HTM) 모델을 확장하여 연속통합 HTM(Continuous Integrated HTM, CIHTM) 네트워크를 제안한다. 이를 위해 우리는 HTM 네트워크를 구성하는 기존 노드들 외에 새롭게 이동 벡터 파일 센서, 시공간 분류 노드, 다중 통합 노드를 고안하였다. 그리고 이들을 바탕으로 CIHTM 네트워크의 학습과 추론 알고리즘을 개발하였다.

Keywords

References

  1. I. Arel, D. Rose and T. Karrowski, "Deep Machine Learning-A New Frontier in Artificial Intelligence Research", IEEE Computational Intelligence Magazine, pp.13-18, Nov., 2010.
  2. Numenta, Numanta Home Page, http://www.numenta.com.
  3. 서대호, 배선갑, 김성진, 강현석, 배종민, "HTM 기반의 주식 가격 연속 예측 시스템 개발," 한국멀티미디어학회 논문지, 제14권 제9호, pp.1152-1164, 2011. 9.
  4. 조건화, 배선갑, 심명선, 배종민, 강현석, "데이터 스트림의 다중- 간격 예측을 위한 통합된 계층형 시간적 메모리 네트워크," 한국정보과학회 논문지: 소프트웨어 및 응용, 제37권 제7호, pp. 558-567, 2010. 7.
  5. Y. Hall, R. Poplin, "Using Numenta's Hierarchical Temporal Memory to Recognize CA PTCHAs", Carnegie Mellon University, 2007. Available at http://www.pembrokeballet. com/ 10701-HTM_CAPTCHA.pdf (last accessed April 1st, 2011).
  6. B. Bobier, "Handwritten Digit Recognition using Hierarchical Temporal Memory", University of Guelph, 2007. Available at http://arts.uwaterloo.ca/-cnrglab/?q=system/files/SoftCompu ting FinalProject.pdf (last accessed April 1st, 2011).
  7. D. George and B. Jaros, "The HTM Learning Algorithms", Numenta Inc., March, 2007.
  8. D. George and B. Jaros., "Zata1 Algorithms Reference," Numenta, Inc., March, 2007.
  9. J. Hawkins and D. George, "Hierarchical Temporal Memory," Numenta, Inc., March, 2007.
  10. Davide Maltoni, "Pattern Recognition by Hierarchical Temporal Memory", April 13, 2011, DEIS Technical Report http://bias.csr.unibo.it/maltoni/HTM_TR_v1.0.pdf
  11. J. Han and M. Kamber, "Data Mining: Concepts and Techniques," Morgan Kaufman, 2001.
  12. K. Lee and G. Jo, "Expert system for predicting stock market timing using a candlestick chart," Expert system With Applications, 16, pp.357-364, 1999. https://doi.org/10.1016/S0957-4174(99)00011-1