• ETRI Journal
• /
• 제41권2호
• /
• pp.242-253
• /
• 2019

We devise a layer-wise hint training method to improve the existing hint-based knowledge distillation (KD) training approach, which is employed for knowledge transfer in a teacher-student framework using a residual network (ResNet). To achieve this objective, the proposed method first iteratively trains the student ResNet and incrementally employs hint-based information extracted from the pretrained teacher ResNet containing several hint and guided layers. Next, typical softening factor-based KD training is performed using the previously estimated hint-based information. We compare the recognition accuracy of the proposed approach with that of KD training without hints, hint-based KD training, and ResNet-based layer-wise pretraining using reliable datasets, including CIFAR-10, CIFAR-100, and MNIST. When using the selected multiple hint-based information items and their layer-wise transfer in the proposed method, the trained student ResNet more accurately reflects the pretrained teacher ResNet's rich information than the baseline training methods, for all the benchmark datasets we consider in this study.

• 전자공학회논문지
• /
• 제54권5호
• /
• pp.35-41
• /
• 2017

본 논문에서는 지식추출(knowledge distillation) 및 지식전달(knowledge transfer)을 위하여 최근에 소개된 선생-학생 프레임워크 기반의 힌트(Hint)-knowledge distillation(KD) 학습기법에 대한 성능을 분석한다. 본 논문에서 고려하는 선생-학생 프레임워크는 현재 최신 딥러닝 모델로 각광받고 있는 딥 residual 네트워크를 이용한다. 따라서, 전 세계적으로 널리 사용되고 있는 오픈 딥러닝 프레임워크인 Caffe를 이용하여 학생모델의 인식 정확도 관점에서 힌트-KD 학습 시 선생모델의 완화상수기반의 KD 정보 비중에 대한 영향을 살펴본다. 본 논문의 연구결과에 따르면 KD 정보 비중을 단조감소하는 경우보다 초기에 설정된 고정된 값으로 유지하는 것이 학생모델의 인식 정확도가 더 향상된다는 것을 알 수 있었다.

• International Journal of Control, Automation, and Systems
• /
• 제4권1호
• /
• pp.17-29
• /
• 2006

A novel inverse kinematics solution based on the back propagation neural network (NN) for redundant manipulators is developed for online obstacles avoidance. A laser transducer at the end-effctor is used for online planning the trajectory. Since the inverse kinematics in the present problem has infinite number of joint angle vectors, a fuzzy reasoning system is designed to generate an approximate value for that vector. This vector is fed into the NN as a hint input vector rather than as a training vector to guide the output of the NN. Simulations are implemented on both three- and four-link redundant planar manipulators to show the effectiveness of the proposed position control system.

• 교육시설
• /
• 제9권3호
• /
• pp.23-34
• /
• 2002

This paper is to analyse the major impact of the new era of information technology on the changes being made in physical environment of existing corporate training centers through the case of on- and off-line LG academies. By the analysis, some interesting features are to be found which can be a hint for the future planning and design of corporate training centers. Unlike the expectation in the early stage of changes, the rapid growth of on-line education forms a very strong partnership with the existing in-house training programs at all levels. Understanding of such key issues surrounding the use of facilities is specific to the formation of an effective environment for training programmes. After all aspects of the facility uses-not just the class rooms, but also the residential, dining, recreational, and support areas, as well as on-line type of educational services-are carefully examined, a design guideline is identified as considerations for guestrooms, classrooms, public facilities, the recreational areas, and the audio-visual provisions.

• 예술인문사회 융합 멀티미디어 논문지
• /
• 제7권2호
• /
• pp.515-523
• /
• 2017

문학을 활용하는 실습현장에서는 문학의 전문이 아니라 일부분을 발췌해서 사용한다. 따라서 어느 부분을 기억힌트로 활용할 것인지, 어떻게 제시하는 것이 효과적인지에 관한 실증적인 지침이 필요하다. 본 연구를 위해서 헤세의 삶 전반과 그의 인물들을 문학치료적인 관점으로 들여다보았다. 첫째, 헤세의 작품 속 인물을 분석하는 과정에서 자가치유적인 삶을 살아가고 있는 헤세의 모습을 만날 수 있었다. 또한 그는 쓰기, 그리기, 연주하기, 감상하기, 명상하기, 걷기 등과 함께하는 다매체적인 삶을 살았다. 둘째, 연구자는 헤세와 그의 작품을 활용한 문학치료 콘텐츠를 조현병 환자들에게 적용해 보았다. 임상에서 활용한 매체는 헤세의 작품 속에서 추출한 것이었다. 참여자들은 헤세의 작품에 대해 정서적 공감을 할 수 있었으며 나아가 참여자들간의 상호공감나누기도 가능하였다. 헤세가 보여주는 다매체적인 특성과 활용방법은 현대인의 정신건강을 증진하고 병리적인 문제를 치유하기 위해서 중요한 인문학적 자원이 될 것이다.