• 한국항해항만학회:학술대회논문집
• /
• 한국항해항만학회 2022년도 추계학술대회
• /
• pp.383-384
• /
• 2022

Gas Combustion Unit (GCU) onboard liquefied natural gas carriers handles boil-off to stabilize tank pressure. There are many factors for LNG cargo operators to take into consideration to determine whether to use GCU or not. Gas consumption of main engine and re-liquefied gas through the Partial Re-Liquefaction System (PRS) are good examples of these factors. Human gas operators have decided the operation so far. In this paper, some deep learning neural network models were developed to provide human gas operators with a decision support system. The models consider various factors specially into GCU operation. A deep learning model with Sigmoid activation functions in input layer and hidden layers made the best performance among eight different deep learning models.

• 센서학회지
• /
• 제8권1호
• /
• pp.45-52
• /
• 1999

이 논문에서는 오차 역전파 학습 알고리듬의 학습 속도를 향상시키기 위한 새로운 학습 방법을 제안한다. 제안하고자 하는 방법은 시그모이드 형태를 갖는 신경회로망의 활성화 함수(activation function) 자체에 고차항(higher order)을 적절히 이용하여 초기 학습 단계에서 발생할 수 있는 조기 포화(premature saturation) 현상을 계산량의 큰 증가 없이 효과적으로 대처할 수 있다. 고차항을 이용함으로써 은닉층 활성화 함수의 도합수가 작은 값으로 감소함에 따라 신경망의 연결 강도를 학습시키는 학습율은 적응적으로 큰 값을 갖게 된다. 또한, 은닉층에 고차항을 이용하는 제안한 방법에 모멘텀(momentum) 학습 알고리듬을 결합하는 새로운 hybrid 학습 방법을 제안한다. 컴퓨터 모의 실험을 통해 제안하고자 하는 학습 방법과 기존의 방법들과의 학습 속도 성능을 비교한다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 1992년도 하계학술대회 논문집 A
• /
• pp.242-244
• /
• 1992

Conventionally in the industrial control, PlD controller has been used because of its robustness, and nonlinear characteristic of a system under control. Although the PlD controller produce suitable parameter of the each system and also variable of PlD controller should be changed according to environment, disturbance, load. In this paper, the convergence and learning accuracy of the back-propagation(BP) method in neural network are investigated by analyzing the reason for decelerating the convergence of BP method. and examining the rapid deceleration of the convergence when the learning is executed on the part of sigmoid activation function with the very small first derivative. The modified logistic activation function it proposed by defining the convergence factor based on the analysis and applied to the position and speed control of a DC-servo motor. This paper revealed for experimental, a neural network and a PD controller combined off-line system using developed the position and speed characteristics of a DC-servo motor.

• 방송공학회논문지
• /
• 제24권2호
• /
• pp.234-242
• /
• 2019

본 논문에서는 일정 크기로 자른 영상의 가운데 픽셀이 SIFT 특징점인지를 판별함으로써 SIFT 특징점을 추출하는 딥 뉴럴 네트워크(Deep Neural Network)를 제안한다. 이 네트워크의 데이터 세트는 DIV2K 데이터 세트를 $33{\times}33$ 크기로 잘라서 구성하고, 흑백 영상으로 판별하는 SIFT와는 달리 RGB 영상을 사용한다. 그라운드 트루스(ground truth)는 옥타브(scale, octave)를 0, 시그마(sigma)는 1.6, 간격(intervals)은 3으로 설정하여 추출한 RobHess SIFT 특징들로 구성한다. VGG-16을 기반으로 컨볼루션 층을 13개에서 23개와 33개로 점점 깊은 네트워크를 구성하고, 영상의 스케일을 증가시키는 방법을 바꿔가며 실험을 수행한다. 출력 층의 활성화 함수로 시그모이드(sigmoid) 함수를 사용한 결과와 소프트맥스(softmax) 함수를 사용한 결과를 비교하여 분석한다. 실험결과 제안한 네트워크가 99% 이상의 추출 정확도를 가질 뿐 아니라 왜곡된 영상에 대해서도 높은 추출 반복성을 가진다는 것을 보인다.

• 한국수자원학회:학술대회논문집
• /
• 한국수자원학회 2019년도 학술발표회
• /
• pp.363-363
• /
• 2019

활성화 함수(activation function)는 기계학습(machine learning)의 학습과정에 비선형성을 도입하여 심층적인 학습을 용이하게 하고 예측의 정확도를 높이는 중요한 요소 중 하나이다(Roy et al., 2019). 일반적으로 기계학습에서 사용되고 있는 활성화 함수의 종류에는 계단 함수(step function), 시그모이드 함수(sigmoid 함수), 쌍곡 탄젠트 함수(hyperbolic tangent function), ReLU 함수(Rectified Linear Unit function) 등이 있으며, 예측의 정확도 향상을 위하여 다양한 형태의 활성화 함수가 제시되고 있다. 본 연구에서는 기계학습을 통하여 수위예측 시 정확도 향상을 위하여 Hybrid 활성화 함수를 제안하였다. 연구대상지는 조수간만의 영향을 받는 한강을 대상으로 선정하였으며, 2009년 ~ 2018년까지 10년간의 수문자료를 활용하였다. 수위예측 알고리즘은 Python 내 Tensorflow의 RNN (Recurrent Neural Networks) 모델을 이용하였으며, 강수량, 수위, 조위, 댐 방류량, 하천 유량의 수문자료를 학습시켜 3시간 및 6시간 후의 수위를 예측하였다. 예측정확도 향상을 위하여 입력 데이터는 정규화(Normalization)를 시켰으며, 민감도 분석을 통하여 신경망모델의 은닉층 개수, 학습률의 최적 값을 도출하였다. Hybrid 활성화 함수는 쌍곡 탄젠트 함수와 ReLU 함수를 혼합한 형태로 각각의 가중치($w_1,w_2,w_1+w_2=1$)를 변경하여 정확도를 평가하였다. 그 결과 가중치의 비($w_1/w_2$)에 따라서 예측 결과의 RMSE(Roote Mean Square Error)가 최소가 되고 NSE (Nash-Sutcliffe model Efficiency coefficient)가 최대가 되는 지점과 Peak 수위의 예측정확도가 최대가 되는 지점을 확인할 수 있었다. 본 연구는 현재 Data modeling을 통한 수위예측의 정확도 향상을 위해 기초가 되는 연구이나, 향후 다양한 형태의 활성화 함수를 제안하여 정확도를 향상시킨다면 예측 결과를 통하여 침수예보에 대한 의사결정이 가능할 것으로 기대된다.

• 한국통신학회논문지
• /
• 제22권5호
• /
• pp.1026-1035
• /
• 1997

본 연구는 RBFN의 일종인 GPFN과 PNN을 이용한 음소인식에 관한 연구이다. RBFN의 구조는 계층형 신경망의 구조와 유사하지만, hidden층에서 활성화함수, 참조벡터 및 학습알고리듬의 선택이 다르다. 특히 PNN은 시그모이드 함수가 지수를 포함한 함수들의 한 분류로 대체된다는 것이며, 학습이 필요없으므로 전체계산 시간이 빠르게 수행된다. 5모음, 12자음을 대상으로 한 음소인식 실험에서 평가데이터, VQ와 LVQ에 의한 코드북 데이터를 사용한 경우에 음성의 통계적 특성을 잘 반영하고 있는 RBFN의 일종인 GPFN과 PNN의 인식결과가 MLP보다 우수하였다.

• 한국지능시스템학회논문지
• /
• 제26권1호
• /
• pp.87-92
• /
• 2016

본 논문에서는 일반적인 신경회로망의 단점인 느린 학습속도를 획기적으로 개선한 네트워크인 Extreme Learning Machine과 전문가들의 언어적 정보들을 기술 할 수 있는 퍼지 이론을 접목한 퍼지 Extreme Learning Machine을 최적화하기 위하여 Particle Swarm Optimization 알고리즘을 이용하였다. 퍼지 Extreme Learning Machine의 활성화 함수를 일반적인 시그모이드 함수를 사용하지 않고, 퍼지 C-Means 클러스터링 알고리즘의 활성화 레벨 함수를 이용하였다. Particle Swarm Optimization 알고리즘과 같은 최적화 알고리즘을 통하여 퍼지 Extreme Learning Machine의 활성화 함수의 파라미터들을 최적화 한다. Particle Swarm Optimization과 같은 최적화 알고리즘을 통한 제안된 모델의 최적화 하고 최적화된 모델의 분류성능을 평가하기 위하여 다양한 머신 러닝 데이터 집합을 사용하여 평가한다.

• Elastomers and Composites
• /
• 제50권2호
• /
• pp.92-97
• /
• 2015

A study on reaction kinetics for a PTMG/TDI prepolymer with 2,2'-dichloro-4,4'-methylenedianiline (MOCA), of which formulations may be generally used for fabricating high performance polyurethane elastomers, was peformed using non-isothermal differential scanning calorimetry (DSC). A number of thermograms were obtained at several constant heating rates, and analysed using Flynn-Wall-Ozawa (FWO) isoconversional method for activation energy, $E_a$ and extended-Avrami equation for reaction order, n. Urea formation reaction of the present system was observed to occur through the simple exothermic reaction process in the temperature range of $100{\sim}130^{\circ}C$ for the heating rate of $3{\sim}7^{\circ}C/min$. and could be well-fitted with generalized sigmoid function. Though activation energy was nearly constant as $53.0{\pm}0.5kJ/mol$, it tended to increase a little at initial stage, but it decreases at later stage by the transformation into diffusion-controlled reaction due to the increased viscosity. Reaction order was evaluated as about 2.8, which was somewhat higher than the generally well-known $2^{nd}$ order values for the various urea reactions. Both the reaction order and reaction rate explicitly increased with temperature, which was considered as the indication of occurring the side reactions such as allophanate or biuret formation.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 1995년도 하계학술대회 논문집 B
• /
• pp.606-609
• /
• 1995

This paper presents discriminate between magnetizing inrush and internal faults of power transformer by artificial neural networks trained with preprocessing of fault discriminant. The proposed neural networks contain multi-layer perceptron using back-propagation learning algorithm with logistic sigmoid activation function. For this training and test, we used the relaying signals obtained from the EMTP simulation of model power system. It is shown that the proposed transformer protection system by neural networks never misoperated.

• 한국지능시스템학회논문지
• /
• 제15권1호
• /
• pp.87-91
• /
• 2005

Fahlman과 Lebiere의 캐스케이드-상관 (CC) 학습 알고리즘은 신경망의 구성 알고리즘에서 가장 널리 사용되는 것 중의 하나이며, 망에서 은닉 뉴런을 캐스케이드 형태로 취함으로서 매우 강력한 비선형을 표현할 수 있다. 비록 이 멱승이 유용할지 몰라도 대체로 문제를 푸는데는 강력한 비선형성이 요구되지 않으며 단점이 될 수도 있다. CC 알고리즘의 캐스케이드 구조 및 출력 뉴런의 가중치 훈련에 대한 변형된 형태인 3개 모델이 제안되고 경험적으로 비교되었다. 실험결과 다음과 같은 결론을 얻었다: (1) 패턴분류에 있어서, 새로 추가되는 은닉 뉴런과 출력층간 연결강도만 훈련시키는 모델이 가장 좋은 예측력을 나타내었다; (2) 함수근사 문제에 있어서는 입력-출력 연결강도를 제거하고 시그모이드-선형 작동함수를 사용하는 모델이 CasCor 알고리즘보다 좋은 결과를 나타내었다.