• 한국음향학회지
• /
• 제21권5호
• /
• pp.430-437
• /
• 2002

다층신경망 (MLP: multilayer perceptron)은 다른 패턴인식 방법에 비해 여러 가지 훌륭한 특성을 가지고 있어 음성인식 및 화자인식 영역에서 폭넓게 사용되고 있다. 그러나 다층신경망의 학습에 일반적으로 사용되는 오류역전파 (EBP: error backpropagation) 알고리즘은 학습시간이 비교적 오래 걸린다는 단점이 있으며, 이는 화자인식이나 화자적응과 같이 실시간 처리를 요구하는 응용에서 상당한 제약으로 작용한다. 패턴인식에 사용되는 학습데이터는 풍부한 중복특성을 내포하고 있으므로 패턴마다 다층신경망의 내부변수를 갱신하는 온라인 계열의 학습방식이 속도의 향상에 상당한 효과가 있다. 일반적인 온라인 오류역전파 알고리즘에서는 가중치 갱신 시 고정된 학습률을 적용한다. 고정 학습률을 적절히 선택함으로써 패턴인식 응용에서 상당한 속도개선을 얻을 수 있지만, 학습률이 고정된 상태에서는 학습이 진행됨에 따라 학습에 기여하는 패턴영역이 달라지는 현상에 효과적으로 대응하지 못하는 문제가 있다. 이 문제에 대해 본 논문에서는 패턴의 기여도에 따라 가변 하는 학습률과 학습에 기여하는 패턴만을 학습에 반영하는 패턴별 가변 학습률 및 학습생략 (COIL: Changing rate and Omitting patterns in Instant Learning)방법을 제안한다. 제안한 COIL의 성능을 입증하기 위해 화자증명과 음성인식을 실험하고 그 결과를 제시한다.

• 제어로봇시스템학회논문지
• /
• 제3권4호
• /
• pp.363-372
• /
• 1997

In this paper, the design and the implementation of the adaptive learning rate neural network controller for an articulate robot, which is being developed (or) has been developed in our Automatic Control Laboratory, are mainly discussed. The controller reduces software computational load via distributed processing method using multiple CPU's, and simplifies hardware structures by the time-division control with TMS32OC31 DSP chip. Proposed neural network controller with adaptive learning rate structure using expert's heuristics can improve learning speed. The proposed controller verifies its superiority by comparing response characteristics of conventional controller with those of the proposed controller that are obtained from the experiments for the 5 axis vertical articulated robot. We, also, present the generalization property of proposed controller for unlearned trajectory and the change of load through experimental data.

• 한국멀티미디어학회논문지
• /
• 제21권7호
• /
• pp.779-786
• /
• 2018

In this paper, we are applied a nerve network to allow for the reflection of data learning methods in their overall forms by using cluster data rather than data learning by the stages and then selected a nerve network model and analyzed its variables through learning by the cluster. The CkLR algorithm was proposed to analyze the reaction variables of clustering outcomes through an approach to the initialization of K-means clustering and build a model to assess the prediction rate of clustering and the accuracy rate of prediction in case of new data inputs. The performance evaluation results show that the accuracy rate of test data by the class was over 92%, which was the mean accuracy rate of the entire test data, thus confirming the advantages of a specialized structure found in the proposed learning nerve network by the class.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2021년도 제64차 하계학술대회논문집 29권2호
• /
• pp.401-403
• /
• 2021

본 연구는 한국지능정보사회진흥원에서 제공한 2018년 스마트폰 과의존 실태조사에서 사용된 11개 변수와 스마트폰 과의존과의 관계를 탐색하고, 이를 통해 딥러닝 기반 스마트폰 과의존 분류 분석 모델을 개발하고자 시행되었다. 학습데이터셋은 전국 10,000개 가구내 만 3-69세 스마트폰 이용자 25,465명의 스마트폰 이용 형태 및 개인적 특성에 관한 데이터이다. 딥러닝은 심층신경망(DNN)을 설계하였으며, 은닉층(hidden layer)은 4개층으로 구성하였다. 입력한 데이터는 각각 200개, 150개, 100개, 50개, 2개 노드를 거치면서 최종 출력 정보인 스마트폰 과의존 분류율로 나타나는 모델이다. 이때 스마트폰 과의존 분류률을 높이기 위해 학습률(learning rate)과 같은 하이퍼 파라미터를 활용하여 세부조정하면서 가장 잘 학습하는 값을 찾아내었다. 연구결과, 학습횟수가 300번으로 학습율(learning.rate)이 0.01일때 훈련데이터에서 97.43%, 검증데이터에서 98.06%로 가장 높게 나타났다.

• 제어로봇시스템학회논문지
• /
• 제13권4호
• /
• pp.309-314
• /
• 2007

This paper presents an adaptive neural computation algorithm for multi-layered neural networks which are applied to identify the characteristic function of dynamic systems. The main feature of the proposed algorithm is that the initial learning rate for the employed neural network is assigned systematically, and also the assigned learning rate can be adjusted empirically for effective neural leaning. By employing the approach, enhanced modeling of dynamic systems is possible. The effectiveness of this approach is veri tied by simulations.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 1992년도 한국자동제어학술회의논문집(국제학술편); KOEX, Seoul; 19-21 Oct. 1992
• /
• pp.550-554
• /
• 1992

In this paper the issue of convergence rate is introduced for a learning control scheme we have developed and applied for tracking of unknown linear systems. A sufficient condition under which the output trajectory converges exponentially fast is obtained using the controllability grammian of controllable linear systems. Under the same condition it is also shown that the learning control input converges exponentially with the same rate as the rate of output convergence. A numerical example with computer simulation results is presented to show the feasibility of the scheme.

• 한국컴퓨터정보학회논문지
• /
• 제25권9호
• /
• pp.37-44
• /
• 2020

AI 기술은 법률, 특허, 금융, 국방의 의사결정지원 기술 형태로 발전하여 질병 진단과 법률 판정 등에 적용되고 있다. Deep Learning으로 실시간 정보를 검색하려면, Big data Analysis과 Deep Learning Algorithm이 필요하다. 본 논문에서는 Deep Learning 모델인 RNN(Recurrent Neural Network)을 이용하여 상위권 대학 진학률을 예측하고자 한다. 우선, 행정구역 사설학원 현황과 행정구역 연령별 학생 수를 분석하고 교육열이 높은 지역에 거주하는 학생이 상위권 대학 진학률이 높다는 사회 통념의 가설을 설정했다. 예측된 가설과 정부의 공공데이터를 활용하여 분석된 자료를 토대로 검증하고자 한다. 예측모델은 2015년부터 2017년까지의 데이터를 활용하여 상위권 진학률을 예상하도록 학습하고, 학습된 모델은 2018년 상위권 진학률을 예측한다. 교육특구지역의 상위권 진학률을 Deep Learning 모델인 RNN을 이용하여 예측 실험을 수행했다. 본 논문은 교육열이 높은 지역의 사설학원 현황, 연령별 학생 수에 미치는 영향에 대해서 가구소득, 사교육의 참여 비율을 분석하여 상위권 진학률의 상관관계를 정의한다.

• 전자공학회논문지B
• /
• 제32B권3호
• /
• pp.503-511
• /
• 1995

A batch-mode algorithm is proposed to increase the speed of learning in the error backpropagation algorithm with variable learning rate and variable momentum parameters in classification problems. The objective function is normalized with respect to the number of patterns and output nodes. Also the gradient of the objective function is normalized in updating the connection weights to increase the effect of its backpropagated error. The learning rate and momentum parameters are determined from a function of the gradient norm and the number of weights. The learning rate depends on the square rott of the gradient norm while the momentum parameters depend on the gradient norm. In the two typical classification problems, simulation results demonstrate the effectiveness of the proposed algorithm.

• 센서학회지
• /
• 제33권3호
• /
• pp.119-124
• /
• 2024

Effective fire sensing is important to protect lives and property from the disaster. In this paper, we present an intelligent visual sensing method for detecting fires based on machine learning techniques. The proposed method involves a two-step process. In the first step, fire and non-fire images are used to train a convolutional neural network (CNN), and in the next step, feature vectors consisting of 256 values obtained from the CNN are used for the learning of a support vector machine (SVM). Linear and nonlinear SVMs with different parameters are intensively tested. We found that the proposed hybrid method using an SVM with a linear kernel effectively increased the recall rate of fire image detection without compromising detection accuracy when an imbalanced dataset was used for learning. This is a major contribution of this study because recall is important, particularly in the sensing of disaster situations such as fires. In our experiments, the proposed system exhibited an accuracy of 96.9% and a recall rate of 92.9% for test image data.

• Journal of information and communication convergence engineering
• /
• 제19권1호
• /
• pp.1-7
• /
• 2021

Reinforcement learning is an area of machine learning that studies how an intelligent agent takes actions in a given environment to maximize the cumulative reward. In this paper, we propose a new MAC protocol based on the Q-learning technique of reinforcement learning to improve the performance of the IEEE 802.11 wireless LAN CSMA/CA MAC protocol. Furthermore, the operation of each access point (AP) and station is proposed. The AP adjusts the value of the contention window (CW), which is the range for determining the backoff number of the station, according to the wireless traffic load. The station improves the performance by selecting an optimal backoff number with the lowest packet collision rate and the highest transmission success rate through Q-learning within the CW value transmitted from the AP. The result of the performance evaluation through computer simulations showed that the proposed scheme has a higher throughput than that of the existing CSMA/CA scheme.