• Knowledge Management Research
• /
• v.22 no.2
• /
• pp.1-17
• /
• 2021

In this study, we predicted the bitcoin prices of Bithum and Coinbase, a leading exchange in Korea and USA, using ARIMA and Recurrent Neural Networks(RNNs). And we used news articles from each country to suggest a separated RNN model. The suggested model identifies the datasets based on the changing trend of prices in the training data, and then applies time series prediction technique(RNNs) to create multiple models. Then we used daily news data to create a term-based dictionary for each trend change point. We explored trend change points in the test data using the daily news keyword data of testset and term-based dictionary, and apply a matching model to produce prediction results. With this approach we obtained higher accuracy than the model which predicted price by applying just time series prediction technique. This study presents that the limitations of the time series prediction techniques could be overcome by exploring trend change points using news data and various time series prediction techniques with text mining techniques could be applied to improve the performance of the model in the further research.

• Journal of the Korean Society of Marine Environment & Safety
• /
• v.29 no.5
• /
• pp.505-511
• /
• 2023

In the present study, a deep learning model was established to predict the motion response of small fishing vessels. Hydrodynamic performances were evaluated for two small fishing vessels for the dataset of deep learning model. The deep learning model of the Long Short-Term Memory (LSTM) which is one of the recurrent neural network was utilized. The input data of LSTM model consisted of time series of six(6) degrees of freedom motions and wave height and the output label was selected as the time series data of six(6) degrees of freedom motions. The hyperparameter and input window length studies were performed to optimize LSTM model. The time series motion response according to different wave direction was predicted by establised LSTM. The predicted time series motion response showed good overall agreement with the analysis results. As the length of the time series increased, differences between the predicted values and analysis results were increased, which is due to the reduced influence of long-term data in the training process. The overall error of the predicted data indicated that more than 85% of the data showed an error within 10%. The established LSTM model is expected to be utilized in monitoring and alarm systems for small fishing vessels.

• Proceedings of the KIEE Conference
• /
• 2008.09a
• /
• pp.255-257
• /
• 2008

초고속 전기정보의 전송 시대와 U-정보전자시대에 응용하는 최신 정보기기와 의료기기 및 군사정보의 실시간 전송을 위하여 많은 실시간 알고리즘과 모델링의 연구가 필수적이다. 또한 원격지에 많은 전기 및 전력정보를 비선형적 특성이 있는 환경하에서도 정보의 오차가 없이 실시간으로 전송하는 기술은 현대 정보사회에서 해결해야 할 매우 중요한 요소중에 하나이다. 이러한 내용으로 수행되어지는 신경회로망을 이용한 실시간 모델링을 제안하고자 한다. 이와 관련한 일반적인 방법으로 역전파 학습 알고리즘을 들 수 있다. 파라미터에도 덜 민감하며, 특히 온라인으로 인식과 제어가 가능하도록 수렴속도를 향상 시켜야하는 새로운 모델의 필요성이 요구된다. 본 연구에서는 기존의 신경회로망이 가지고 있는 여러 단점들을 개선하고자 새로운 학습 알고리즘과 새로운 구조의 신경회로망을 제시한다. 또한 제시한 알고리즘을 이용하여 불규칙적 시스템 모델망과 다양한 센서 모델링 등에 연결하여 다양한 실험을 수행하여 그 결과를 보여 실시간 특성을 갖는 것을 입증해 보였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2019.10a
• /
• pp.1030-1032
• /
• 2019

형태소 분석을 통하여 한국어 문장을 형태소 단위의 임베딩 및 학습 관련 연구가 되었으나 최근 비정형적인 텍스트 데이터의 증가에 따라 음소 단위의 임베딩을 통한 신경망 학습에 대한 요구가 높아지고 있다. 본 논문은 비정형적인 텍스트 감성 분석 성능 향상을 위해 음소 단위의 토큰을 생성하고 이를 CNN 모형을 기반으로 다차원 임베딩을 수행하고 감성분석을 위하여 양방향 순환신경망 모델을 사용하여 유튜브의 비정형 텍스트를 학습시켰다. 그 결과 텍스트의 긍정 부정 판별에 있어 90%의 정확도를 보였다.

• KSCE Journal of Civil and Environmental Engineering Research
• /
• v.40 no.3
• /
• pp.303-314
• /
• 2020

The hydrological characteristics of watersheds and hydraulic systems of urban and river floods are highly nonlinear and contain uncertain variables. Therefore, the predicted time series of rainfall-runoff data in flood analysis is not suitable for existing neural networks. To overcome the challenge of prediction, a NARX (Nonlinear Autoregressive Exogenous Model), which is a kind of recurrent dynamic neural network that maximizes the learning ability of a neural network, was applied to forecast a flood in real-time. At the same time, NARX has the characteristics of a time-delay neural network. In this study, a hydrological model was constructed for the Taehwa river basin, and the NARX time-delay parameter was adjusted 10 to 120 minutes. As a result, we found that precise prediction is possible as the time-delay parameter was increased by confirming that the NSE increased from 0.530 to 0.988 and the RMSE decreased from 379.9 ㎥/s to 16.1 ㎥/s. The machine learning technique with NARX will contribute to the accurate prediction of flow rate with an unexpected extreme flood condition.

• Journal of Industrial Convergence
• /
• v.20 no.4
• /
• pp.23-30
• /
• 2022

Recently, with the development of artificial intelligence (AI) and deep learning, the importance of conversational artificial intelligence chatbots is being highlighted. In addition, chatbot research is being conducted in various fields. To build a chatbot, it is developed using an open source platform or a commercial platform for ease of development. These chatbot platforms mainly use RNN and application algorithms. The RNN algorithm has the advantages of fast learning speed, ease of monitoring and verification, and good inference performance. In this paper, a method for improving the inference performance of RNNs and applied algorithms was studied. The proposed method used the word group expansion learning technique of key words for each sentence when RNN and applied algorithm were applied. As a result of this study, the RNN, GRU, and LSTM three algorithms with a cyclic structure achieved a minimum of 0.37% and a maximum of 1.25% inference performance improvement. The research results obtained through this study can accelerate the adoption of artificial intelligence chatbots in related industries. In addition, it can contribute to utilizing various RNN application algorithms. In future research, it will be necessary to study the effect of various activation functions on the performance improvement of artificial neural network algorithms.

• 한국어정보학회:학술대회논문집
• /
• 2016.10a
• /
• pp.128-133
• /
• 2016

문장유사도 분석은 문서 평가 자동화에 활용될 수 있는 중요한 기술이다. 최근 순환신경망을 이용한 인코더-디코더 언어 모델이 기계학습 분야에서 괄목할만한 성과를 거두고 있다. 본 논문에서는 한국어 형태소임베딩 모델과 GRU(Gated Recurrent Unit)기반의 인코더를 제시하고, 이를 이용하여 언어모델을 한국어 위키피디아 말뭉치로부터 학습하고, 한국어 질의응답 시스템에서 질문에 대한 정답을 유추 할 수 있는 증거문장을 찾을 수 있도록 문장유사도를 측정하는 방법을 제시한다. 본 논문에 제시된 형태소임베딩 모델과 GRU 기반의 인코딩 모델을 이용하여 문장유사도 측정에 있어서, 기존 글자임베딩 방법에 비해 개선된 결과를 얻을 수 있었으며, 질의응답 시스템에서도 유용하게 활용될 수 있음을 알 수 있었다.

• Transactions of the Korean Society of Machine Tool Engineers
• /
• v.18 no.1
• /
• pp.90-102
• /
• 2009

In this paper, a tracking control problem for a mechanical servo system with nonlinear dynamic friction is treated. The nonlinear friction model contains directly immeasurable friction state and the uncertainty caused by incomplete modeling and variations of its parameter. In order to provide the efficient solution to these control problems, we propose a hybrid control scheme, which consists of a robust friction state observer, a RFNN estimator and an approximation error estimator with sliding mode control. A sliding mode controller and a robust friction state observer is firstly designed to estimate the unknown infernal state of the LuGre friction model. Next, a RFNN estimator is introduced to approximate the unknown lumped friction uncertainty. Finally, an adaptive approximation error estimator is designed to compensate the approximation error of the RFNN estimator. Some simulations and experiments on the mechanical servo system composed of ball-screw and DC servo motor are presented. Results demonstrate the remarkable performance of the proposed control scheme.

• Annual Conference on Human and Language Technology
• /
• 2016.10a
• /
• pp.128-133
• /
• 2016

문장유사도 분석은 문서 평가 자동화에 활용될 수 있는 중요한 기술이다. 최근 순환신경망을 이용한 인코더-디코더 언어 모델이 기계학습 분야에서 괄목할만한 성과를 거두고 있다. 본 논문에서는 한국어 형태 소임베딩 모델과 GRU(Gated Recurrent Unit)기반의 인코더를 제시하고, 이를 이용하여 언어모델을 한국어 위키피디아 말뭉치로부터 학습하고, 한국어 질의응답 시스템에서 질문에 대한 정답을 유추 할 수 있는 증거문장을 찾을 수 있도록 문장유사도를 측정하는 방법을 제시한다. 본 논문에 제시된 형태소임베딩 모델과 GRU 기반의 인코딩 모델을 이용하여 문장유사도 측정에 있어서, 기존 글자임베딩 방법에 비해 개선된 결과를 얻을 수 있었으며, 질의응답 시스템에서도 유용하게 활용될 수 있음을 알 수 있었다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2019.05a
• /
• pp.340-340
• /
• 2019

지구온난화로 유발되는 기후변동성이 증가함에 따라서 정확한 수문인자의 예측은 전 세계적으로 주요 관심사항이 되고 있다. 최근에는 고성능 컴퓨터 자원의 증가로 수문기상학 연구에서 동일한 학습량에 비하여 정확도의 향상이 뚜렷한 기계학습 구조를 활용하여 위성영상 기반의 대기예측, 태풍위치 추적 및 강수량 예측 등의 연구가 활발하게 진행되고 있다. 본 연구에는 기계학습 중 시계열 분석에 널리 활용되고 있는 순환신경망(Recurrent Neural Network, RNN) 기법의 대표적인 LSTM(Long Short-Term Memory) 네트워크를 이용하여 수문인자를 예측하였다. LSTM 네트워크는 가중치 및 메모리 요소에 대한 추가정보를 셀 상태에 저장하고 시계열의 길이 조정하여 모형의 탄력적 활용이 가능하다. LSTM 네트워크를 이용한 다양한 수문인자 예측결과 RMSE의 개선을 확인하였다. 따라서 본 연구를 통하여 개발된 기계학습을 통한 수문인자 예측기술은 권역별 수계별 홍수 및 가뭄대응 계획을 능동적으로 수립하는데 활용될 것으로 판단된다. 향후 연구에서는 LSTM의 입력영역을 Bayesian 추론기법을 활용하여 구성함으로 학습과정의 불확실성을 정량적으로 제어하고자 한다.