• 지식경영연구
• /
• 제22권2호
• /
• pp.1-17
• /
• 2021

본 연구에서는 한국과 미국의 대표적인 거래소인 빗썸과 코인베이스의 비트코인 가격을 ARIMA와 순환 신경망(Recurrent Neural Network)을 이용해 예측하고, 이후 각 국가의 뉴스 기사를 이용해 분리 학습에 기반한 separated RNN 모형을 제안한다. separated RNN 모형은 학습 데이터를 가격의 추세 변화 점을 기준으로 분리해 학습시킨 후, 추세 변화점 별 뉴스 데이터를 활용해 용어 기반 사전을 구축한다. 이후 용어 기반 사전과 평가 데이터 기간의 뉴스 데이터를 이용해 예측할 데이터의 가격 추세 변화 점을 찾아낸 후, 매칭되는 모형을 적용해 예측 결과를 산출한다. 2017년 5월 22일부터 2020년 9월 16일까지의 가격 데이터를 사용해 분석한 결과, 제안된 separated RNN을 이용해 예측한 결과가 한국과 미국의 비트코인 가격 예측 모두에서 순환 신경망(RNN)을 이용해 예측한 결과보다 높은 예측 성과를 보였다. 본 연구는 시계열 예측 기법의 한계를 뉴스 데이터를 이용한 추세 변화 점 탐색을 통해 극복할 수 있고, 성과 향상을 위한 추후 다양한 시계열 예측 기법 및 추세 변화 점 탐색을 위한 다양한 텍스트 마이닝 기법을 적용해볼 필요가 있음을 시사한다.

• 해양환경안전학회지
• /
• 제29권5호
• /
• pp.505-511
• /
• 2023

본 논문에서는 소형어선의 운동 응답을 예측하기 위해 딥러닝 모델을 구축하였다. 크기가 다른 두 소형어선을 대상으로 유체동역학 성능을 평가하여 데이터세트를 확보하였다. 딥러닝 모델은 순환 신경망 기법의 하나인 장단기 메모리 기법(LSTM, Long Short-Term Memory)을 사용하였다. 딥러닝 모델의 입력 데이터는 6 자유도 운동 및 파고의 시계열 데이터를 사용하였으며, 출력 라벨로는 6 자유도 운동의 시계열 데이터로 선정하였다. 최적 LSTM 모델 구축을 위해 hyperparameter 및 입력창 길이의 영향을 평가하였다. 구축된 LSTM 모델을 통해 입사파 방향에 따른 시계열 운동 응답을 예측하였다. 예측된 시계열 운동 응답은 해석 결과와 전반적으로 잘 일치함을 확인할 수 있었다. 시계열의 길이가 길어짐에 따라서 예측값과 해석 결과의 차이가 발생하는데, 이는 장기 데이터에 따른 훈련 영향도가 감소 됨에 따라 나타난 것으로 확인할 수 있다. 전체 예측 데이터의 오차는 약 85% 이상의 데이터가 10% 이내의 오차를 보였으며, 소형어선의 시계열 운동 응답을 잘 예측함을 확인하였다. 구축된 LSTM 모델은 소형어선의 모니터링 및 경보 시스템에 활용될 수 있을 것으로 기대한다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2008년도 추계학술대회 논문집 전기설비전문위원
• /
• pp.255-257
• /
• 2008

초고속 전기정보의 전송 시대와 U-정보전자시대에 응용하는 최신 정보기기와 의료기기 및 군사정보의 실시간 전송을 위하여 많은 실시간 알고리즘과 모델링의 연구가 필수적이다. 또한 원격지에 많은 전기 및 전력정보를 비선형적 특성이 있는 환경하에서도 정보의 오차가 없이 실시간으로 전송하는 기술은 현대 정보사회에서 해결해야 할 매우 중요한 요소중에 하나이다. 이러한 내용으로 수행되어지는 신경회로망을 이용한 실시간 모델링을 제안하고자 한다. 이와 관련한 일반적인 방법으로 역전파 학습 알고리즘을 들 수 있다. 파라미터에도 덜 민감하며, 특히 온라인으로 인식과 제어가 가능하도록 수렴속도를 향상 시켜야하는 새로운 모델의 필요성이 요구된다. 본 연구에서는 기존의 신경회로망이 가지고 있는 여러 단점들을 개선하고자 새로운 학습 알고리즘과 새로운 구조의 신경회로망을 제시한다. 또한 제시한 알고리즘을 이용하여 불규칙적 시스템 모델망과 다양한 센서 모델링 등에 연결하여 다양한 실험을 수행하여 그 결과를 보여 실시간 특성을 갖는 것을 입증해 보였다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2019년도 추계학술발표대회
• /
• pp.1030-1032
• /
• 2019

형태소 분석을 통하여 한국어 문장을 형태소 단위의 임베딩 및 학습 관련 연구가 되었으나 최근 비정형적인 텍스트 데이터의 증가에 따라 음소 단위의 임베딩을 통한 신경망 학습에 대한 요구가 높아지고 있다. 본 논문은 비정형적인 텍스트 감성 분석 성능 향상을 위해 음소 단위의 토큰을 생성하고 이를 CNN 모형을 기반으로 다차원 임베딩을 수행하고 감성분석을 위하여 양방향 순환신경망 모델을 사용하여 유튜브의 비정형 텍스트를 학습시켰다. 그 결과 텍스트의 긍정 부정 판별에 있어 90%의 정확도를 보였다.

• 대한토목학회논문집
• /
• 제40권3호
• /
• pp.303-314
• /
• 2020

수자원분야에서 이용되는 강우에 따른 유역의 수문학적 시스템, 도시지역 및 하천에 대한 수리학적 시스템은 비선형성이 강하고 많은 변수들을 포함하고 있다. 이러한 특성을 가진 시계열 자료에서 기계학습을 통한 예측은 예측시점 이전의 자료 특성을 반영하지 못하는 등 기본적인 신경망으로는 부족한 상황이 발생하기도 한다. 본 연구에서 적용할 강우-유출량과 같이 비선형성이 강하고 시간종속성이 높은 복잡한 시계열 자료를 예측하기 위해 신경망의 학습능력을 극대화한 순환형 동적 신경망(Recurrent Dynamic Neural Network)의 한 종류인 동시에, 시간 지연 신경망(Time-Delay Neural Network)의 특성을 가진 비선형 자기회귀(NARX, Nonlinear Autoregressive Exogenous Model) 인공신경망을 사용하였다. 이를 태화강 지방하천 구간에 적용하여 NARX 인공신경망의 시간 지연 매개변수를 10분에서 120분까지 조정하며 모의한 결과에 대해 여러 통계지표를 이용해 정량적으로 평가하였다. 그 결과 지연시간이 증가할수록 효율계수(NSE)가 0.530에서 0.988으로 증가하고, 평균제곱근편차(RMSE)가 379.9 ㎥/s에서 16.1 ㎥/s로 감소하는 등 정교한 예측이 가능함을 확인하였다.

• 산업융합연구
• /
• 제20권4호
• /
• pp.23-30
• /
• 2022

최근 인공지능(AI)과 딥러닝 발전으로 대화형 인공지능 챗봇의 중요성이 부각되고 있으며 다양한 분야에서 연구가 진행되고 있다. 챗봇을 만들기 위해서 직접 개발해 사용하기도 하지만 개발의 용이성을 위해 오픈소스 플랫폼이나 상업용 플랫폼을 활용하여 개발한다. 이러한 챗봇 플랫폼은 주로 RNN (Recurrent Neural Network)과 응용 알고리즘을 사용하며, 빠른 학습속도와 모니터링 및 검증의 용이성 그리고 좋은 추론 성능의 장점을 가지고 있다. 본 논문에서는 RNN과 응용 알고리즘의 추론 성능 향상방법을 연구하였다. 제안 방법은 RNN과 응용 알고리즘 적용 시 각 문장에 대한 핵심단어의 단어그룹에 대해 확장학습을 통해 데이터에 내재된 의미를 넓히는 기법을 사용하였다. 본 연구의 결과는 순환 구조를 갖는 RNN, GRU (Gated Recurrent Unit), LSTM (Long-short Term Memory) 세 알고리즘에서 최소 0.37%에서 최대 1.25% 추론 성능향상을 달성하였다. 본 연구를 통해 얻은 연구결과는 관련 산업에서 인공지능 챗봇 도입을 가속하고 다양한 RNN 응용 알고리즘을 활용하도록 하는데 기여할 수 있다. 향후 연구에서는 다양한 활성 함수들이 인공신경망 알고리즘의 성능 향상에 미치는 영향에 관한 연구가 필요할 것이다.

• 한국어정보학회:학술대회논문집
• /
• 한국어정보학회 2016년도 제28회 한글및한국어정보처리학술대회
• /
• pp.128-133
• /
• 2016

문장유사도 분석은 문서 평가 자동화에 활용될 수 있는 중요한 기술이다. 최근 순환신경망을 이용한 인코더-디코더 언어 모델이 기계학습 분야에서 괄목할만한 성과를 거두고 있다. 본 논문에서는 한국어 형태소임베딩 모델과 GRU(Gated Recurrent Unit)기반의 인코더를 제시하고, 이를 이용하여 언어모델을 한국어 위키피디아 말뭉치로부터 학습하고, 한국어 질의응답 시스템에서 질문에 대한 정답을 유추 할 수 있는 증거문장을 찾을 수 있도록 문장유사도를 측정하는 방법을 제시한다. 본 논문에 제시된 형태소임베딩 모델과 GRU 기반의 인코딩 모델을 이용하여 문장유사도 측정에 있어서, 기존 글자임베딩 방법에 비해 개선된 결과를 얻을 수 있었으며, 질의응답 시스템에서도 유용하게 활용될 수 있음을 알 수 있었다.

• 한국공작기계학회논문집
• /
• 제18권1호
• /
• pp.90-102
• /
• 2009

In this paper, a tracking control problem for a mechanical servo system with nonlinear dynamic friction is treated. The nonlinear friction model contains directly immeasurable friction state and the uncertainty caused by incomplete modeling and variations of its parameter. In order to provide the efficient solution to these control problems, we propose a hybrid control scheme, which consists of a robust friction state observer, a RFNN estimator and an approximation error estimator with sliding mode control. A sliding mode controller and a robust friction state observer is firstly designed to estimate the unknown infernal state of the LuGre friction model. Next, a RFNN estimator is introduced to approximate the unknown lumped friction uncertainty. Finally, an adaptive approximation error estimator is designed to compensate the approximation error of the RFNN estimator. Some simulations and experiments on the mechanical servo system composed of ball-screw and DC servo motor are presented. Results demonstrate the remarkable performance of the proposed control scheme.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2016년도 제28회 한글 및 한국어 정보처리 학술대회
• /
• pp.128-133
• /
• 2016

문장유사도 분석은 문서 평가 자동화에 활용될 수 있는 중요한 기술이다. 최근 순환신경망을 이용한 인코더-디코더 언어 모델이 기계학습 분야에서 괄목할만한 성과를 거두고 있다. 본 논문에서는 한국어 형태 소임베딩 모델과 GRU(Gated Recurrent Unit)기반의 인코더를 제시하고, 이를 이용하여 언어모델을 한국어 위키피디아 말뭉치로부터 학습하고, 한국어 질의응답 시스템에서 질문에 대한 정답을 유추 할 수 있는 증거문장을 찾을 수 있도록 문장유사도를 측정하는 방법을 제시한다. 본 논문에 제시된 형태소임베딩 모델과 GRU 기반의 인코딩 모델을 이용하여 문장유사도 측정에 있어서, 기존 글자임베딩 방법에 비해 개선된 결과를 얻을 수 있었으며, 질의응답 시스템에서도 유용하게 활용될 수 있음을 알 수 있었다.

• 한국수자원학회:학술대회논문집
• /
• 한국수자원학회 2019년도 학술발표회
• /
• pp.340-340
• /
• 2019

지구온난화로 유발되는 기후변동성이 증가함에 따라서 정확한 수문인자의 예측은 전 세계적으로 주요 관심사항이 되고 있다. 최근에는 고성능 컴퓨터 자원의 증가로 수문기상학 연구에서 동일한 학습량에 비하여 정확도의 향상이 뚜렷한 기계학습 구조를 활용하여 위성영상 기반의 대기예측, 태풍위치 추적 및 강수량 예측 등의 연구가 활발하게 진행되고 있다. 본 연구에는 기계학습 중 시계열 분석에 널리 활용되고 있는 순환신경망(Recurrent Neural Network, RNN) 기법의 대표적인 LSTM(Long Short-Term Memory) 네트워크를 이용하여 수문인자를 예측하였다. LSTM 네트워크는 가중치 및 메모리 요소에 대한 추가정보를 셀 상태에 저장하고 시계열의 길이 조정하여 모형의 탄력적 활용이 가능하다. LSTM 네트워크를 이용한 다양한 수문인자 예측결과 RMSE의 개선을 확인하였다. 따라서 본 연구를 통하여 개발된 기계학습을 통한 수문인자 예측기술은 권역별 수계별 홍수 및 가뭄대응 계획을 능동적으로 수립하는데 활용될 것으로 판단된다. 향후 연구에서는 LSTM의 입력영역을 Bayesian 추론기법을 활용하여 구성함으로 학습과정의 불확실성을 정량적으로 제어하고자 한다.