Utilizing Experiences of Supervisor in Sequential Learning for Multilayer Perceptron

Evaluating the level of achievement and providing the knowledge which is appropriate at the evaluated level have great influence in studying of the human beings. This shows the importance of the order of training and the training order should be considered in machine learning. In this research, to assess the influence of the order of training, we propose a method of controlling the order of training samples utilizing the experience of supervisor in the training of MLP. The supervisor finds out the current state of MLP using teaching experience and student evaluation, and then selects the most instructive sample for MLP in that state. We use CRF to represent and utilize the experience of supervisor. While the proposed method is similar to active learning in selecting samples, it is basically different in that selection is not to reduce the number of samples to be used but to assist the learning progress. The result from classification problem shows that the method is usually effective in terms of time taken in training in contrast to random selection.

지도 경험을 활용한 다계층 퍼셉트론의 순차적 학습 방법

학습 수준의 평가와 수준에 맞는 지식의 제공은 인간의 학습 과정에 많은 영향을 준다. 이것은 학습 순서가 중요하다는 것을 말하고 있으며, 기계 학습에서도 학습 순서를 고려할 필요가 있다. 본 연구는 학습 순서가 학습에 미치는 영향을 알아보기 위해, MLP의 학습에서 지도자의 경험을 이용하여 학습순서를 제어하는 방법을 제안한다. 지도 경험과 평가를 이용하여 MLP의 상태를 파악하고, 현 상태에서 학습 효율이 좋을 것으로 예상되는 학습 자료를 선택하여 학습을 시킨다. 지도자의 경험을 표현하고 활용하기 위해 CRF(Conditional Random Fields)를 이용하였다. 제안한 방법은 학습 자료를 선택한다는 점에서 능동 학습(Active Learning)과 유사하지만, 학습 순서를 제시하기 위한 자료의 선택이란 점에서 능동학습과는 차이가 있다. 분류 문제에 대하여 실험해 본 결과, 순서의 제어가 없는 학습의 경우에 비하여 학습 횟수의 측면에서 일반적으로 더 나은 학습 성능을 보여준다.