• 제목/요약/키워드: 순환 신경망

검색결과 308건 처리시간 0.03초

Analyzing performance of time series classification using STFT and time series imaging algorithms

  • Sung-Kyu Hong;Sang-Chul Kim
    • 한국컴퓨터정보학회논문지
    • /
    • 제28권4호
    • /
    • pp.1-11
    • /
    • 2023
  • 본 논문은 순환 신경망 대신 합성곱 신경망을 사용하여 시계열 데이터 분류 성능을 분석한다. TSC(Time Series Community)에는 GAF(Gramian Angular Field), MTF(Markov Transition Field), RP(Recurrence Plot)와 같은 전통적인 시계열 데이터 이미지화 알고리즘들이 있다. 실험은 이미지화 알고리즘들에 필요한 하이퍼 파라미터들을 조정하면서 합성곱 신경망의 성능을 평가하는 방식으로 진행된다. UCR 아카이브의 GunPoint 데이터셋을 기준으로 성능을 평가했을 때, 본 논문에서 제안하는 STFT(Short Time Fourier Transform) 알고리즘이 최적화된 하이퍼 파라미터를 찾은 경우, 기존의 알고리즘들 대비 정확도가 높고, 동적으로 feature map 이미지의 크기도 조절가능하다는 장점이 있다. GAF 또한 98~99%의 높은 정확도를 보이지만, feature map 이미지의 크기를 동적으로 조절할 수 없어 크다는 단점이 존재한다.

자동문서분류를 위한 텐서공간모델 기반 심층 신경망 (A Tensor Space Model based Deep Neural Network for Automated Text Classification)

  • 임푸름;김한준
    • 데이타베이스연구회지:데이타베이스연구
    • /
    • 제34권3호
    • /
    • pp.3-13
    • /
    • 2018
  • 자동문서분류(Text Classification)는 주어진 텍스트 문서를 이에 적합한 카테고리로 분류하는 텍스트 마이닝 기술 중의 하나로서 스팸메일 탐지, 뉴스분류, 자동응답, 감성분석, 쳇봇 등 다양한 분야에 활용되고 있다. 일반적으로 자동문서분류 시스템은 기계학습 알고리즘을 활용하며, 이 중에서 텍스트 데이터에 적합한 알고리즘인 나이브베이즈(Naive Bayes), 지지벡터머신(Support Vector Machine) 등이 합리적 수준의 성능을 보이는 것으로 알려져 있다. 최근 딥러닝 기술의 발전에 따라 자동문서분류 시스템의 성능을 개선하기 위해 순환신경망(Recurrent Neural Network)과 콘볼루션 신경망(Convolutional Neural Network)을 적용하는 연구가 소개되고 있다. 그러나 이러한 최신 기법들이 아직 완벽한 수준의 문서분류에는 미치지 못하고 있다. 본 논문은 그 이유가 텍스트 데이터가 단어 차원 중심의 벡터로 표현되어 텍스트에 내재한 의미 정보를 훼손하는데 주목하고, 선행 연구에서 그 효능이 검증된 시멘틱 텐서공간모델에 기반하여 심층 신경망 아키텍처를 제안하고 이를 활용한 문서분류기의 성능이 대폭 상승함을 보인다.

신경망 기반 기계 번역을 위한 역-번역을 이용한 한영 병렬 코퍼스 확장 (Expanding Korean/English Parallel Corpora using Back-translation for Neural Machine Translation)

  • 허광호;고영중;서정연
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.470-473
    • /
    • 2018
  • 최근 제안된 순환 신경망 기반 Encoder-Decoder 모델은 기계번역에서 좋은 성능을 보인다. 하지만 이는 대량의 병렬 코퍼스를 전제로 하며 병렬 코퍼스가 소량일 경우 데이터 희소성 문제가 발생하며 번역의 품질은 다소 제한적이다. 본 논문에서는 기계번역의 이러한 문제를 해결하기 위하여 단일-언어(Monolingual) 데이터를 학습과정에 사용하였다. 즉, 역-번역(Back-translation)을 이용하여 단일-언어 데이터를 가상 병렬(Pseudo Parallel) 데이터로 변환하는 방식으로 기존 병렬 코퍼스를 확장하여 번역 모델을 학습시켰다. 역-번역 방법을 이용하여 영-한 번역 실험을 수행한 결과 +0.48 BLEU 점수의 성능 향상을 보였다.

  • PDF

시계열 예측을 고려한 속성 선택 딥러닝 모델 (Feature Selection Deep Learning Model considering Time Series Prediction)

  • 박광호;;류근호
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2021년도 춘계학술발표대회
    • /
    • pp.509-512
    • /
    • 2021
  • 최근 다양한 시계열 데이터의 분석이 딥러닝 방법을 통하여 수행되고 있다. 주로 RNN과 LSTM을 이용하여 많은 시계열 예측이 이루어지고 있다. 하지만 이러한 예측모델을 생성하는데 가장 중요한 것은 어떠한 변수를 얼마나 사용하는지가 중요하다. 이에 대하여, 본 연구에서는 3개의 신경망을 적용하여, 속성을 선택하는 Selection MLP, 속성에 가중치를 부여하는 Extraction MLP 그리고 예측을 진행하는 Prediction MLP로 이루어진 MLP-SEL 구조를 제안한다. 비교를 위하여 다른 순환 신경망에 대하여 시계열 데이터에 대한 예측을 진행하였으며, 그 결과 우리가 제안한 MLP-SEL 모델의 시계열 예측이 좋은 성능을 보였다.

유향/유속 데이터 중심의 이상 검출 신경망 모델 (A Study on Anomaly Detection Neural Network Model Based On Flow Direction/Velocity Data)

  • 현성길;유동영
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.555-557
    • /
    • 2023
  • 해양의 영향을 많이 받는 우리나라의 지리적 특성상 해양 상황은 산업 및 생업과 밀접한 관계가 있다. OPEN API 를 이용하여 유향/유속, 조위등 해양 환경관련 실시간 시계열 데이터를 수집한 후 2 차원 공간에 표시하여 순환 신경망 모델을 이용하여 학습한다. 학습된 모델을 실제 데이터에 적용하여 파랑을 예측한다. 시계열의 성격이 있고 공간상에 표시할 수 있는 데이터라면 본 논문에서 제시한 체계를 통해 예측할 수 있을 것이라 예상한다.

리미트사이클을 발생하는 연속시간 모델 순환결합형 신경회로망에서 카오스 신호의 영향 (Analysis of Dynamical State Transition and Effects of Chaotic Signal in Continuous-Time Cyclic Neural Network)

  • 박철영
    • 한국지능시스템학회논문지
    • /
    • 제16권4호
    • /
    • pp.396-401
    • /
    • 2006
  • 순환결합형 신경회로망은 복수 개의 리미트사이클을 생성하며 따라서, 많은 동적 정보를 저장할 수 있는 메모리 시스템으로 사용할 수 있다는 것이 알려져 있다. 본 논문에서는 각 뉴런이 최근접 뉴런에만 이진화한 결합하중 ${\pm}1$로 연결된 연속 시간모델 순환결합형 신경회로망을 구현하였다. 그리고 이런 회로망을 통해 생성되는 리미트사이클의 수와 패턴을 시뮬레이션을 통하여 나타내었다. 또한 카오스 신호를 인가하여 리미트사이클 사이의 천이 가능성을 입증하였다. 특히, 카오스 신호 이외의 랜덤 노이즈를 이용한 해석을 통하여 동적 신경회로망에 카오스 노이즈를 인가하는 경우의 유효성을 검토하였다.

토양수분 추정을 위한 신경망 모형 개발에 관한 연구 (A Study on the Neural Network Model for Soil Moisture Estimation)

  • 김광섭;박정아
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2011년도 학술발표회
    • /
    • pp.408-408
    • /
    • 2011
  • 수자원관리와 수문모형에 있어 강수, 증발산, 침투, 침루 등의 물 순환과정에 대한 실질적인 이해와 분석연구의 중요도가 높아지고 있는 실정이며, 그중에서도 토양수분은 강수의 침투, 유출 등의 지표면과 대기사이의 질량 및 에너지이동에 관여하는 중요한 요소로서 수자원 및 수문현상에 직접적인 영향을 미친다. 이를 위해 강수, 증발산, 토양수분과 같은 수문변수에 대한 다양한 관측이 실시되어야 하지만 국내에서는 지속적이고 안정적으로 지상관측을 할 수 없는 실정이며 관련 기반기술도 매우 취약하다. 따라서 이를 극복하기 위해서는 위성영상자료를 이용함으로써 한반도 전체에 대한 광역적인 토양수분자료의 획득을 용이하게 한다. 본 연구의 연구유역은 수자원 연구를 위해서 지정된 용담댐 시험유역으로 하였으며, 토양수분 관측지점의 지상관측 수문자료인 각 지점별 강수량, 지면온도, 인공위성자료인 MODIS 정규식생지수 등의 가용자료를 수집하고 신경망모형을 활용한 토양수분자료 생산 모형을 개발하여, 개선된 시공간 분해능과 공간정보 대표성을 가진 광역 토양수분자료를 생산하고 적용타당성을 분석하였다. 산정된 토양수분모형의 적용가능성을 파악하고자 용담댐 유역의 각 지점별 토양수분 관측데이터와 추정데이터를 비교한 결과 추천, 부귀, 상정 지점의 경우 평균 약 0.9257의 상관계수와 약 1.2917의 평균제곱근오차를 보였고, 검증지점인 천천2의 경우 약 0.8982의 상관계수와 약 5.1361의 평균제곱근오차의 결과를 보여주었으며 토양수분 추정모형의 적용가능성이 높음을 확인할 수 있었다.

  • PDF

RNN 알고리즘을 이용한 온천천의 하천수질 인자 예측 (Prediction of river water quality factor at Oncheoncheon Basin using RNN algorithm)

  • 임희성;안현욱
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2019년도 학술발표회
    • /
    • pp.39-39
    • /
    • 2019
  • 인구의 도시 집중화로 인하여 다량의 생활용수의 사용에 따라 하천의 자정능력을 초과하여 오염을 유발시키고 있다. 이에 도시하천들의 오염은 점점 심해져 경제적으로 많은 문제를 유발하고 있다. 이러한 하천오염 문제를 과학적으로 대응하기 위해서는 오염물질의 농도 측정 및 데이터 축척을 통한 오염예측이 필수적이라 할 수 있으며, 부산광역시 보건환경정보 공개시스템에서는 하천수질 자동측정망을 설치하여 시간 단위로 오염물질을 측정하고 있다. 그러나 온천천의 하천수질 데이터는 계속 쌓여가고 있는데 이 데이터를 활용해서 하천수질 인자 예측이 거의 이뤄지지 않고 있다. 본 연구에서는 순환신경망 알고리즘을 활용하여 일 단위의 하천수질 인자 예측을 시도하였다. 순환신경망은 인공신경망의 발전된 형태인 시계열 학습에 강한 RNN, LSTM 알고리즘을 활용한 일단위 하천수질 인자 예측을 하고자 하였다. 연구에 앞서 시간 단위로 쌓여있는 데이터를 평균 내어 일 단위로 변경하였고 이 데이터를 가지고 일 단위 하천수질 인자 예측을 진행하였다. 연구에는 Google에서 개발한 딥러닝 오픈소스 라이브러리인 텐서플로우를 활용하여 DO, 탁도 등 항목을 예측하였다. 하천오염의 학습과 예측을 위해 대상지로는 부산지역 온천천의 부곡교, 세병교, 이섭교 관측소를 선택하였다. 연구를 위해 DO, 탁도 등 자료 수집은 부산광역시 보건환경정보 공개시스템의 자료를 활용하였다. 모형의 학습을 위해 입력자료로는 하천수질 인자 자료를 이용하였고, 자료의 학습에는 2014년~2017년 4년간의 자료를 학습자료로 사용하였고, 2018년 1년간의 자료는 모형의 검증을 위해 사용하였다. RNN, LSTM 알고리즘을 활용하여 분석 시 은닉층의 개수, 반복시행횟수, sequence length 등의 값을 조절하여 하천수질 인자 예측을 하였다. 모형의 검증을 위해 $R^2$(r square)와 RMSE(root mean square error)을 이용하여 통계분석을 실시하였다.

  • PDF

뜰개 이동 예측을 위한 신경망 및 통계 기반 기계학습 기법의 성능 비교 (Performance Comparison of Machine Learning Based on Neural Networks and Statistical Methods for Prediction of Drifter Movement)

  • 이찬재;김경도;김용혁
    • 한국융합학회논문지
    • /
    • 제8권10호
    • /
    • pp.45-52
    • /
    • 2017
  • 뜰개는 해양에서 해수의 특성 및 흐름을 관측하기 위한 장비로서, 해수의 흐름 관측을 이용해 유출유 확산 예측을 위해 사용될 수 있다. 본 논문에서는 관측기관에서 사용하는 뜰개가 특정 시간 간격으로 관측한 바람 및 해수의 특성과 이동경로를 기계학습 기법들을 이용하여 학습시키고 예측하는 모델을 제안한다. 서포트벡터 회귀, 방사기저함수 네트워크, 가우시안 프로세스, 다층 퍼셉트론, 순환신경망을 이용하여 뜰개의 이동경로 예측 방법을 제시한다. 기존 MOHID 수치모델과 비교하여 각 기법별로 4 개의 사례중 3 개에서 성능이 개선되었으며, 가장 좋은 개선율을 보인 기법은 LSTM으로 평균 47.59% 개선되었다. 추후 연구에서는 배깅과 부스팅을 이용하여 가중치를 부여하여 정확도를 개선할 예정이다.

하천 범람 예측을 위한 인공지능 수위 예측 시스템 설계 (Design of Artificial Intelligence Water Level Prediction System for Prediction of River Flood)

  • 박세현;김현재
    • 한국정보통신학회논문지
    • /
    • 제24권2호
    • /
    • pp.198-203
    • /
    • 2020
  • 본 논문에서는 소규모 강의 범람 예측을 위한 인공 수위 예측 시스템을 제안한다. 강의 수위 예측은 홍수 피해를 줄일 수 있는 대책이 될 수 있다. 그러나 하천 범람에 영향을 미치는 강 또는 강우의 고유 특성으로 인해 범람 모델을 구축하기가 어렵다. 일반적으로 하류 수위는 상류의 인접한 수위에 영향을 받는다. 따라서 본 연구에서는 측정 지점에서 수위를 예측하기 위해 두 개의 상류 측정 지점의 수위를 순환신경망(LSTM)을 사용하여 인공 지능 모델을 구축했다. 제안 된 인공 지능 시스템은 수위 측정기를 설계하고 Nodejs를 사용하여 서버를 구축했다. 제안 된 신경망 하드웨어 시스템은 실제 강에서 6시간마다 수위를 잘 예측함을 알 수 있었다.