• 제목/요약/키워드: Long Short Term Memory (LSTM)

검색결과 495건 처리시간 0.024초

에너지 인터넷을 위한 GRU기반 전력사용량 예측 (Prediction of Power Consumptions Based on Gated Recurrent Unit for Internet of Energy)

  • 이동구;선영규;심이삭;황유민;김수환;김진영
    • 전기전자학회논문지
    • /
    • 제23권1호
    • /
    • pp.120-126
    • /
    • 2019
  • 최근 에너지 인터넷에서 지능형 원격검침 인프라를 이용하여 확보된 대량의 전력사용데이터를 기반으로 효과적인 전력수요 예측을 위해 다양한 기계학습기법에 관한 연구가 활발히 진행되고 있다. 본 연구에서는 전력량 데이터와 같은 시계열 데이터에 대해 효율적으로 패턴인식을 수행하는 인공지능 네트워크인 Gated Recurrent Unit(GRU)을 기반으로 딥 러닝 모델을 제안하고, 실제 가정의 전력사용량 데이터를 토대로 예측 성능을 분석한다. 제안한 학습 모델의 예측 성능과 기존의 Long Short Term Memory (LSTM) 인공지능 네트워크 기반의 전력량 예측 성능을 비교하며, 성능평가 지표로써 Mean Squared Error (MSE), Mean Absolute Error (MAE), Forecast Skill Score, Normalized Root Mean Squared Error (RMSE), Normalized Mean Bias Error (NMBE)를 이용한다. 실험 결과에서 GRU기반의 제안한 시계열 데이터 예측 모델의 전력량 수요 예측 성능이 개선되는 것을 확인한다.

RNN 기반 디지털 센서의 Rising time과 Falling time 고장 검출 기법 (An RNN-based Fault Detection Scheme for Digital Sensor)

  • 이규형;이영두;구인수
    • 한국인터넷방송통신학회논문지
    • /
    • 제19권1호
    • /
    • pp.29-35
    • /
    • 2019
  • 4차 산업 혁명이 진행되며 많은 회사들의 스마트 팩토리에 대한 관심이 커지고 있으며 센서의 중요성 또한 대두되고 있다. 정보를 수집하기 위한 센서에서 고장이 발생하면 공장을 최적화하여 운영할 수 없기 때문에 이에 따른 손해가 발생할 수 있다. 이를 위해 센서의 상태를 진단하여 센서의 고장을 진단하는 일이 필요하다. 본 논문에서는 디지털 센서의 고장유형 중 Rising time과 Falling time 고장을 딥러닝 알고리즘 RNN의 LSTM을 통해 신호를 분석하여 고장을 진단하는 모델을 제안한다. 제안한 방식의 실험 결과를 정확도와 ROC 곡선 그래프의 AUC(Area under the curve)를 이용하여 Rule 기반 고장진단 알고리즘과 비교하였다. 실험 결과, 제안한 시스템은 Rule 기반 고장진단 알고리즘 보다 향상되고 안정된 성능을 보였다.

딥러닝 기반 GNSS 천정방향 대류권 습윤지연 추정 연구 (Estimation of GNSS Zenith Tropospheric Wet Delay Using Deep Learning)

  • 임수현;배태석
    • 한국측량학회지
    • /
    • 제39권1호
    • /
    • pp.23-28
    • /
    • 2021
  • 최근 딥러닝을 활용한 데이터 분석 연구가 다양한 분야에서 진행되고 있다. 본 논문에서는 딥러닝 모델인 MLP (Multi-Layer Perceptron)와 LSTM (Long Short-Term Memory) 모델을 통해 ZWD (Zenith tropospheric Wet Delay)을 추정함으로써 딥러닝을 활용한 GNSS (Global Navigation Satellite System) 기반 기상 연구를 수행하였다. 딥러닝 모델은 기상 데이터와 천정방향 대류권 총 지연, 건조지연을 통해 추정한 ZWD로 학습되었고, 학습에 사용되지 않은 기상 데이터를 학습된 모델에 적용하여 두 모델에서 센티미터 수준의 RMSE (Root Mean Square Error)로 ZWD 결과를 산출하였다. 추후 해안지역의 GNSS 데이터를 함께 사용하고 시간 해상도를 높여 다양한 상황에서도 ZWD가 추정될 수 있도록 추가적인 연구가 수행될 필요가 있다.

인공위성영상과 딥러닝을 이용한 건설공사현장 폭염취약지역 분석 (Heatwave Vulnerability Analysis of Construction Sites Using Satellite Imagery Data and Deep Learning)

  • 김슬기;박승희
    • 대한토목학회논문집
    • /
    • 제42권2호
    • /
    • pp.263-272
    • /
    • 2022
  • 폭염과 도시열섬현상은 기후변화가 진행됨에 따라 피해가 더욱 커지고 있으며, 2050년까지 폭염 발생빈도는 2~6배가 증가될 것으로 예측된다. 특히, 폭염기간동안 건설공사현장에서의 근로자가 느끼는 더위체감지수는 매우 높으며, 도시열섬현상까지 고려하게 되면 체감지수는 더욱 높아진다. 열에 취약한 건설현장 환경과 건설근로자의 상황은 나아지지 않고 있으며, 피해를 줄이기 위해서는 효과적인 대응이 필요한 시점이다. 본 연구에서는 인공위성영상 이미지와 Land Surface Temperature (LST)와 Long Short Term Memory (LSTM) 딥러닝 모델 기법을 적용하여 33℃ 이상 온도가 되는 지역을 분석하고, 폭염에 취약한 건설공사현장을 식별하여 폭염 및 도시열섬현상의 복합적인 피해를 가중시킬 수 있는 가장 취약한 지역을 예측하여 도출하였다. 예측 결과를 통해 건설근로자의 안전을 보장하고, 건설현장 경보시스템의 기반이 될 수 있기를 기대한다.

FitRec 기반 달리기 심박수 예측 시스템 (Prediction System of Running Heart Rate based on FitRec)

  • 김진욱;김광현;선준호;이승우;김수현;김진영
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권6호
    • /
    • pp.165-171
    • /
    • 2022
  • 사람의 심박수는 운동 강도 측정의 기준으로 사용되는 중요한 지표이다. 만약 심박수를 예측한다면 운동 중 운동 강도를 미리 조절하여 효율적으로 운동할 수 있다. 본 논문에서는 FitRec 기반 달리기 운동을 수행하는 사용자의 심박수를 예측하는 모델을 제안한다. 학습을 위해 Endomondo의 데이터를 사용하여 예측 모델에 적용한다. 성능 비교를 위해 시계열 데이터 처리 알고리즘 LSTM(long short term memory)과 GRU(gated recurrent unit)를 사용하였다. FitRec에 유산소 운동 중 달리기 데이터만 학습한 결과 여러 유산소 운동 데이터를 모두 학습한 모델보다 MAE(mean absolute error)와 RMSE(root mean squared error) 둘 다 성능이 향상됨을 확인하였다.

한국어 상대시간관계 추출을 위한 LSTM 기반 모델 설계 (Design of LSTM-based Model for Extracting Relative Temporal Relations for Korean Texts)

  • 임채균;정영섭;이영준;오교중;최호진
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2017년도 제29회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.301-304
    • /
    • 2017
  • 시간정보추출 연구는 자연어 문장으로부터 대화의 문맥과 상황을 파악하고 사용자의 의도에 적합한 서비스를 제공하는데 중요한 역할을 하지만, 한국어의 고유한 언어적 특성으로 인해 한국어 텍스트에서는 개체간의 시간관계를 정확하게 인식하기 어려운 경향이 있다. 특히, 시간표현이나 사건에 대한 상대적인 시간관계는 시간 문맥을 체계적으로 파악하기 위해 중요한 개념이다. 본 논문에서는 한국어 자연어 문장에서 상대적인 시간표현과 사건 간의 관계를 추출하기 위한 LSTM(long short-term memory) 기반의 상대시간관계 추출 모델을 제안한다. 시간정보추출 연구에는 TIMEX3, EVENT, TLINK 추출의 세 가지 과정이 포함되지만, 본 논문에서는 특정 문장에 대해서 이미 추출된 TIMEX3 및 EVENT 개체를 제공하고 상대시간관계 TLINK를 추출하는 것만을 목표로 한다. 또한, 사람이 직접 태깅한 한국어 시간정보 주석 말뭉치를 대상으로 LSTM 기반 제안모델들의 상대적 시간관계 추출 성능을 비교한다.

  • PDF

한국어 상대시간관계 추출을 위한 LSTM 기반 모델 설계 (Design of LSTM-based Model for Extracting Relative Temporal Relations for Korean Texts)

  • 임채균;정영섭;이영준;오교중;최호진
    • 한국어정보학회:학술대회논문집
    • /
    • 한국어정보학회 2017년도 제29회 한글및한국어정보처리학술대회
    • /
    • pp.301-304
    • /
    • 2017
  • 시간정보추출 연구는 자연어 문장으로부터 대화의 문맥과 상황을 파악하고 사용자의 의도에 적합한 서비스를 제공하는데 중요한 역할을 하지만, 한국어의 고유한 언어적 특성으로 인해 한국어 텍스트에서는 개체간의 시간관계를 정확하게 인식하기 어려운 경향이 있다. 특히, 시간표현이나 사건에 대한 상대적인 시간관계는 시간 문맥을 체계적으로 파악하기 위해 중요한 개념이다. 본 논문에서는 한국어 자연어 문장에서 상대적인 시간표현과 사건 간의 관계를 추출하기 위한 LSTM(long short-term memory) 기반의 상대시간관계 추출 모델을 제안한다. 시간정보추출 연구에는 TIMEX3, EVENT, TLINK 추출의 세 가지 과정이 포함되지만, 본 논문에서는 특정 문장에 대해서 이미 추출된 TIMEX3 및 EVENT 개체를 제공하고 상대시간관계 TLINK를 추출하는 것만을 목표로 한다. 또한, 사람이 직접 태깅한 한국어 시간정보 주석 말뭉치를 대상으로 LSTM 기반 제안모델들의 상대적 시간관계 추출 성능을 비교한다.

  • PDF

LSTM을 이용한 댐 유입량 예측 평가 (Prediction of Reservoir-Inflow using LSTM)

  • 목지윤;황성환;최지혁;문영일
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2019년도 학술발표회
    • /
    • pp.319-319
    • /
    • 2019
  • 기후변화로 인한 극한 기후 상황의 증가로 홍수기 홍수피해와 갈수기 가뭄피해가 심화되고 있으며, 수자원 관리에 대한 어려움이 발생하고 있다. 효율적인 수자원 관리를 위해 국내에는 약 1,8000여개의 댐을 운영하고 있으며, 댐의 유입량과 저수량을 감안하여 물을 적절하게 방류하는 것을 목적으로 한다. 그러기 위해서는 유입량이 우선적으로 확보되어야 하며, 더 나아가 유입량을 미리 예측할 수 있다면 더욱 효율적인 댐 운영이 가능할 것이다. 기존에는 수위나 유량을 예측하기 위해서는 주로 물리적 모형이 사용되어 왔으며, 물리적 모형은 매개변수 결정을 위한 많은 자료를 필요로 하고 그 과정에서 많은 불확실성을 포함하고 있기 때문에 계산 과정을 거치는 동안 다양한 오차가 반복 누적되는 단점이 있다. 반면에 시계열 데이터 예측을 위한 알고리즘 LSTM(Long Short-Term Memory)은 입력된 데이터와 출력된 데이터를 동시에 이용하여 보다 정확한 예측 값을 얻을 수 있다. 따라서 본 연구는 다목적댐의 유입유량 예측을 위해 구글에서 제공하는 딥러닝 오픈소스 라이브러리를 활용하여 LSTM모형을 구축하고 댐 유입유량을 예측하였다. 분석 자료로는 wamis에서 제공하는 용담댐의 2006년부터 2018년까지의 시간당 유입량 자료를 사용하였으며, 입력 데이터로 모형을 학습한 후 2018년의 유입량을 예측하였다. 예측 값의 정확도를 판단하기 위해 2018년의 실제 유입량 자료와 비교하였다.

  • PDF

A Graph Embedding Technique for Weighted Graphs Based on LSTM Autoencoders

  • Seo, Minji;Lee, Ki Yong
    • Journal of Information Processing Systems
    • /
    • 제16권6호
    • /
    • pp.1407-1423
    • /
    • 2020
  • A graph is a data structure consisting of nodes and edges between these nodes. Graph embedding is to generate a low dimensional vector for a given graph that best represents the characteristics of the graph. Recently, there have been studies on graph embedding, especially using deep learning techniques. However, until now, most deep learning-based graph embedding techniques have focused on unweighted graphs. Therefore, in this paper, we propose a graph embedding technique for weighted graphs based on long short-term memory (LSTM) autoencoders. Given weighted graphs, we traverse each graph to extract node-weight sequences from the graph. Each node-weight sequence represents a path in the graph consisting of nodes and the weights between these nodes. We then train an LSTM autoencoder on the extracted node-weight sequences and encode each nodeweight sequence into a fixed-length vector using the trained LSTM autoencoder. Finally, for each graph, we collect the encoding vectors obtained from the graph and combine them to generate the final embedding vector for the graph. These embedding vectors can be used to classify weighted graphs or to search for similar weighted graphs. The experiments on synthetic and real datasets show that the proposed method is effective in measuring the similarity between weighted graphs.

Encoding Dictionary Feature for Deep Learning-based Named Entity Recognition

  • Ronran, Chirawan;Unankard, Sayan;Lee, Seungwoo
    • International Journal of Contents
    • /
    • 제17권4호
    • /
    • pp.1-15
    • /
    • 2021
  • Named entity recognition (NER) is a crucial task for NLP, which aims to extract information from texts. To build NER systems, deep learning (DL) models are learned with dictionary features by mapping each word in the dataset to dictionary features and generating a unique index. However, this technique might generate noisy labels, which pose significant challenges for the NER task. In this paper, we proposed DL-dictionary features, and evaluated them on two datasets, including the OntoNotes 5.0 dataset and our new infectious disease outbreak dataset named GFID. We used (1) a Bidirectional Long Short-Term Memory (BiLSTM) character and (2) pre-trained embedding to concatenate with (3) our proposed features, named the Convolutional Neural Network (CNN), BiLSTM, and self-attention dictionaries, respectively. The combined features (1-3) were fed through BiLSTM - Conditional Random Field (CRF) to predict named entity classes as outputs. We compared these outputs with other predictions of the BiLSTM character, pre-trained embedding, and dictionary features from previous research, which used the exact matching and partial matching dictionary technique. The findings showed that the model employing our dictionary features outperformed other models that used existing dictionary features. We also computed the F1 score with the GFID dataset to apply this technique to extract medical or healthcare information.