• Title/Summary/Keyword: 순환 신경망

Search Result 308, Processing Time 0.028 seconds

Analyzing performance of time series classification using STFT and time series imaging algorithms

  • Sung-Kyu Hong;Sang-Chul Kim
    • Journal of the Korea Society of Computer and Information
    • /
    • v.28 no.4
    • /
    • pp.1-11
    • /
    • 2023
  • In this paper, instead of using recurrent neural network, we compare a classification performance of time series imaging algorithms using convolution neural network. There are traditional algorithms that imaging time series data (e.g. GAF(Gramian Angular Field), MTF(Markov Transition Field), RP(Recurrence Plot)) in TSC(Time Series Classification) community. Furthermore, we compare STFT(Short Time Fourier Transform) algorithm that can acquire spectrogram that visualize feature of voice data. We experiment CNN's performance by adjusting hyper parameters of imaging algorithms. When evaluate with GunPoint dataset in UCR archive, STFT(Short-Time Fourier transform) has higher accuracy than other algorithms. GAF has 98~99% accuracy either, but there is a disadvantage that size of image is massive.

A Tensor Space Model based Deep Neural Network for Automated Text Classification (자동문서분류를 위한 텐서공간모델 기반 심층 신경망)

  • Lim, Pu-reum;Kim, Han-joon
    • Database Research
    • /
    • v.34 no.3
    • /
    • pp.3-13
    • /
    • 2018
  • Text classification is one of the text mining technologies that classifies a given textual document into its appropriate categories and is used in various fields such as spam email detection, news classification, question answering, emotional analysis, and chat bot. In general, the text classification system utilizes machine learning algorithms, and among a number of algorithms, naïve Bayes and support vector machine, which are suitable for text data, are known to have reasonable performance. Recently, with the development of deep learning technology, several researches on applying deep neural networks such as recurrent neural networks (RNN) and convolutional neural networks (CNN) have been introduced to improve the performance of text classification system. However, the current text classification techniques have not yet reached the perfect level of text classification. This paper focuses on the fact that the text data is expressed as a vector only with the word dimensions, which impairs the semantic information inherent in the text, and proposes a neural network architecture based upon the semantic tensor space model.

Expanding Korean/English Parallel Corpora using Back-translation for Neural Machine Translation (신경망 기반 기계 번역을 위한 역-번역을 이용한 한영 병렬 코퍼스 확장)

  • Xu, Guanghao;Ko, Youngjoong;Seo, Jungyun
    • Annual Conference on Human and Language Technology
    • /
    • 2018.10a
    • /
    • pp.470-473
    • /
    • 2018
  • 최근 제안된 순환 신경망 기반 Encoder-Decoder 모델은 기계번역에서 좋은 성능을 보인다. 하지만 이는 대량의 병렬 코퍼스를 전제로 하며 병렬 코퍼스가 소량일 경우 데이터 희소성 문제가 발생하며 번역의 품질은 다소 제한적이다. 본 논문에서는 기계번역의 이러한 문제를 해결하기 위하여 단일-언어(Monolingual) 데이터를 학습과정에 사용하였다. 즉, 역-번역(Back-translation)을 이용하여 단일-언어 데이터를 가상 병렬(Pseudo Parallel) 데이터로 변환하는 방식으로 기존 병렬 코퍼스를 확장하여 번역 모델을 학습시켰다. 역-번역 방법을 이용하여 영-한 번역 실험을 수행한 결과 +0.48 BLEU 점수의 성능 향상을 보였다.

  • PDF

Feature Selection Deep Learning Model considering Time Series Prediction (시계열 예측을 고려한 속성 선택 딥러닝 모델)

  • Park, Kwang Ho;Munkhdalai, Lkhagvadorj;Ryu, Keun Ho
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2021.05a
    • /
    • pp.509-512
    • /
    • 2021
  • 최근 다양한 시계열 데이터의 분석이 딥러닝 방법을 통하여 수행되고 있다. 주로 RNN과 LSTM을 이용하여 많은 시계열 예측이 이루어지고 있다. 하지만 이러한 예측모델을 생성하는데 가장 중요한 것은 어떠한 변수를 얼마나 사용하는지가 중요하다. 이에 대하여, 본 연구에서는 3개의 신경망을 적용하여, 속성을 선택하는 Selection MLP, 속성에 가중치를 부여하는 Extraction MLP 그리고 예측을 진행하는 Prediction MLP로 이루어진 MLP-SEL 구조를 제안한다. 비교를 위하여 다른 순환 신경망에 대하여 시계열 데이터에 대한 예측을 진행하였으며, 그 결과 우리가 제안한 MLP-SEL 모델의 시계열 예측이 좋은 성능을 보였다.

A Study on Anomaly Detection Neural Network Model Based On Flow Direction/Velocity Data (유향/유속 데이터 중심의 이상 검출 신경망 모델)

  • Seong-Kil Hyun;Dong-Young Yoo
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2023.05a
    • /
    • pp.555-557
    • /
    • 2023
  • 해양의 영향을 많이 받는 우리나라의 지리적 특성상 해양 상황은 산업 및 생업과 밀접한 관계가 있다. OPEN API 를 이용하여 유향/유속, 조위등 해양 환경관련 실시간 시계열 데이터를 수집한 후 2 차원 공간에 표시하여 순환 신경망 모델을 이용하여 학습한다. 학습된 모델을 실제 데이터에 적용하여 파랑을 예측한다. 시계열의 성격이 있고 공간상에 표시할 수 있는 데이터라면 본 논문에서 제시한 체계를 통해 예측할 수 있을 것이라 예상한다.

Analysis of Dynamical State Transition and Effects of Chaotic Signal in Continuous-Time Cyclic Neural Network (리미트사이클을 발생하는 연속시간 모델 순환결합형 신경회로망에서 카오스 신호의 영향)

  • Park Cheol-Young
    • Journal of the Korean Institute of Intelligent Systems
    • /
    • v.16 no.4
    • /
    • pp.396-401
    • /
    • 2006
  • It is well-known that a neural network with cyclic connections generates plural limit cycles, thus, being used as a memory system for storing large number of dynamic information. In this paper, a continuous-time cyclic connection neural network was built so that each neuron is connected only to its nearest neurons with binary synaptic weights of ${\pm}1$. The type and the number of limit cycles generated by such network has also been demonstrated through simulation. In particular, the effect of chaos signal for transition between limit cycles has been tested. Furthermore, it is evaluated whether the chaotic noise is more effective than random noise in the process of the dynamical neural networks.

A Study on the Neural Network Model for Soil Moisture Estimation (토양수분 추정을 위한 신경망 모형 개발에 관한 연구)

  • Kim, Gwang-Seob;Park, Jung-A
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2011.05a
    • /
    • pp.408-408
    • /
    • 2011
  • 수자원관리와 수문모형에 있어 강수, 증발산, 침투, 침루 등의 물 순환과정에 대한 실질적인 이해와 분석연구의 중요도가 높아지고 있는 실정이며, 그중에서도 토양수분은 강수의 침투, 유출 등의 지표면과 대기사이의 질량 및 에너지이동에 관여하는 중요한 요소로서 수자원 및 수문현상에 직접적인 영향을 미친다. 이를 위해 강수, 증발산, 토양수분과 같은 수문변수에 대한 다양한 관측이 실시되어야 하지만 국내에서는 지속적이고 안정적으로 지상관측을 할 수 없는 실정이며 관련 기반기술도 매우 취약하다. 따라서 이를 극복하기 위해서는 위성영상자료를 이용함으로써 한반도 전체에 대한 광역적인 토양수분자료의 획득을 용이하게 한다. 본 연구의 연구유역은 수자원 연구를 위해서 지정된 용담댐 시험유역으로 하였으며, 토양수분 관측지점의 지상관측 수문자료인 각 지점별 강수량, 지면온도, 인공위성자료인 MODIS 정규식생지수 등의 가용자료를 수집하고 신경망모형을 활용한 토양수분자료 생산 모형을 개발하여, 개선된 시공간 분해능과 공간정보 대표성을 가진 광역 토양수분자료를 생산하고 적용타당성을 분석하였다. 산정된 토양수분모형의 적용가능성을 파악하고자 용담댐 유역의 각 지점별 토양수분 관측데이터와 추정데이터를 비교한 결과 추천, 부귀, 상정 지점의 경우 평균 약 0.9257의 상관계수와 약 1.2917의 평균제곱근오차를 보였고, 검증지점인 천천2의 경우 약 0.8982의 상관계수와 약 5.1361의 평균제곱근오차의 결과를 보여주었으며 토양수분 추정모형의 적용가능성이 높음을 확인할 수 있었다.

  • PDF

Prediction of river water quality factor at Oncheoncheon Basin using RNN algorithm (RNN 알고리즘을 이용한 온천천의 하천수질 인자 예측)

  • Lim, Heesung;An, Hyunuk
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2019.05a
    • /
    • pp.39-39
    • /
    • 2019
  • 인구의 도시 집중화로 인하여 다량의 생활용수의 사용에 따라 하천의 자정능력을 초과하여 오염을 유발시키고 있다. 이에 도시하천들의 오염은 점점 심해져 경제적으로 많은 문제를 유발하고 있다. 이러한 하천오염 문제를 과학적으로 대응하기 위해서는 오염물질의 농도 측정 및 데이터 축척을 통한 오염예측이 필수적이라 할 수 있으며, 부산광역시 보건환경정보 공개시스템에서는 하천수질 자동측정망을 설치하여 시간 단위로 오염물질을 측정하고 있다. 그러나 온천천의 하천수질 데이터는 계속 쌓여가고 있는데 이 데이터를 활용해서 하천수질 인자 예측이 거의 이뤄지지 않고 있다. 본 연구에서는 순환신경망 알고리즘을 활용하여 일 단위의 하천수질 인자 예측을 시도하였다. 순환신경망은 인공신경망의 발전된 형태인 시계열 학습에 강한 RNN, LSTM 알고리즘을 활용한 일단위 하천수질 인자 예측을 하고자 하였다. 연구에 앞서 시간 단위로 쌓여있는 데이터를 평균 내어 일 단위로 변경하였고 이 데이터를 가지고 일 단위 하천수질 인자 예측을 진행하였다. 연구에는 Google에서 개발한 딥러닝 오픈소스 라이브러리인 텐서플로우를 활용하여 DO, 탁도 등 항목을 예측하였다. 하천오염의 학습과 예측을 위해 대상지로는 부산지역 온천천의 부곡교, 세병교, 이섭교 관측소를 선택하였다. 연구를 위해 DO, 탁도 등 자료 수집은 부산광역시 보건환경정보 공개시스템의 자료를 활용하였다. 모형의 학습을 위해 입력자료로는 하천수질 인자 자료를 이용하였고, 자료의 학습에는 2014년~2017년 4년간의 자료를 학습자료로 사용하였고, 2018년 1년간의 자료는 모형의 검증을 위해 사용하였다. RNN, LSTM 알고리즘을 활용하여 분석 시 은닉층의 개수, 반복시행횟수, sequence length 등의 값을 조절하여 하천수질 인자 예측을 하였다. 모형의 검증을 위해 $R^2$(r square)와 RMSE(root mean square error)을 이용하여 통계분석을 실시하였다.

  • PDF

Performance Comparison of Machine Learning Based on Neural Networks and Statistical Methods for Prediction of Drifter Movement (뜰개 이동 예측을 위한 신경망 및 통계 기반 기계학습 기법의 성능 비교)

  • Lee, Chan-Jae;Kim, Gyoung-Do;Kim, Yong-Hyuk
    • Journal of the Korea Convergence Society
    • /
    • v.8 no.10
    • /
    • pp.45-52
    • /
    • 2017
  • Drifter is an equipment for observing the characteristics of seawater in the ocean, and it can be used to predict effluent oil diffusion and to observe ocean currents. In this paper, we design models or the prediction of drifter trajectory using machine learning. We propose methods for estimating the trajectory of drifter using support vector regression, radial basis function network, Gaussian process, multilayer perceptron, and recurrent neural network. When the propose mothods were compared with the existing MOHID numerical model, performance was improve on three of the four cases. In particular, LSTM, the best performed method, showed the imporvement by 47.59% Future work will improve the accuracy by weighting using bagging and boosting.

Design of Artificial Intelligence Water Level Prediction System for Prediction of River Flood (하천 범람 예측을 위한 인공지능 수위 예측 시스템 설계)

  • Park, Se-Hyun;Kim, Hyun-Jae
    • Journal of the Korea Institute of Information and Communication Engineering
    • /
    • v.24 no.2
    • /
    • pp.198-203
    • /
    • 2020
  • In this paper, we propose an artificial water level prediction system for small river flood prediction. River level prediction can be a measure to reduce flood damage. However, it is difficult to build a flood model in river because of the inherent nature of the river or rainfall that affects river flooding. In general, the downstream water level is affected by the water level at adjacent upstream. Therefore, in this study, we constructed an artificial intelligence model using Recurrent Neural Network(LSTM) that predicts the water level of downstream with the water level of two upstream points. The proposed artificial intelligence system designed a water level meter and built a server using Nodejs. The proposed neural network hardware system can predict the water level every 6 hours in the real river.