• ETRI Journal
• /
• 제41권2호
• /
• pp.242-253
• /
• 2019

We devise a layer-wise hint training method to improve the existing hint-based knowledge distillation (KD) training approach, which is employed for knowledge transfer in a teacher-student framework using a residual network (ResNet). To achieve this objective, the proposed method first iteratively trains the student ResNet and incrementally employs hint-based information extracted from the pretrained teacher ResNet containing several hint and guided layers. Next, typical softening factor-based KD training is performed using the previously estimated hint-based information. We compare the recognition accuracy of the proposed approach with that of KD training without hints, hint-based KD training, and ResNet-based layer-wise pretraining using reliable datasets, including CIFAR-10, CIFAR-100, and MNIST. When using the selected multiple hint-based information items and their layer-wise transfer in the proposed method, the trained student ResNet more accurately reflects the pretrained teacher ResNet's rich information than the baseline training methods, for all the benchmark datasets we consider in this study.

• 한국CDE학회논문집
• /
• 제10권6호
• /
• pp.392-401
• /
• 2005

2D CAD is being replaced by 3D CAD to improve efficiency of product design and manufacturing. Therefore, converting legacy 2D drawings into 3D solid models is required. CSG based approaches construct solid models from orthographic views more efficiently than traditional B-rep based approaches. A major limitation of CSG based approaches has been the limited domain of objects that can be handled. This paper aims at extending the capabilities of CSG based approaches by proposing hint-based recognition of interacting solids of revolution which can handle interacting solids of revolution as well as isolated solids of revolution.

• 전자공학회논문지
• /
• 제54권5호
• /
• pp.35-41
• /
• 2017

본 논문에서는 지식추출(knowledge distillation) 및 지식전달(knowledge transfer)을 위하여 최근에 소개된 선생-학생 프레임워크 기반의 힌트(Hint)-knowledge distillation(KD) 학습기법에 대한 성능을 분석한다. 본 논문에서 고려하는 선생-학생 프레임워크는 현재 최신 딥러닝 모델로 각광받고 있는 딥 residual 네트워크를 이용한다. 따라서, 전 세계적으로 널리 사용되고 있는 오픈 딥러닝 프레임워크인 Caffe를 이용하여 학생모델의 인식 정확도 관점에서 힌트-KD 학습 시 선생모델의 완화상수기반의 KD 정보 비중에 대한 영향을 살펴본다. 본 논문의 연구결과에 따르면 KD 정보 비중을 단조감소하는 경우보다 초기에 설정된 고정된 값으로 유지하는 것이 학생모델의 인식 정확도가 더 향상된다는 것을 알 수 있었다.

• 한국CDE학회논문집
• /
• 제3권1호
• /
• pp.68-85
• /
• 1998

Solid modeling refers to techniques for unambiguous representations of three-dimensional objects. Feature recognition is a sub-discipline focusing on the design and implementation of algorithms for detecting manufacturing information such as holes, slots, etc. in a solid model. Automated feature recognition has been an active research area in stolid modeling for many years, and is considered to be a critical component for CAD/CAM integration. This paper gives a technical overview of the state of the art in feature recognition research. Rather than giving an exhaustive survey, I focus on the three currently dominant feature recognition technologies: graph-based algorithms, volumetric decomposition techniques, and hint-based geometric reasoning. For each approach, I present a detailed description of the algorithms being employed along with some assessments of the technology. I conclude by outlining important open research and development issues.

• 한국음향학회지
• /
• 제41권1호
• /
• pp.108-113
• /
• 2022

소음상황에서의 어음 이해 능력은 효과적인 의사소통을 위한 중요한 기술이다. 이러한 능력을 평가하는 방법으로 Hearing In Noise Test(HINT) 도구가 제안되어 사용되고 있다. 하지만 국내에서 이 유용한 도구가 초기의 기대와 달리 임상에서 적극적으로 활용되지 못하고 있다. 연령이 높아질수록 정상 청력을 가지고 있을지라도 양이에서 들어오는 신호들을 처리하는데 어려움을 겪게 되고, 특히 배경 소음이 있는 상황에서 듣기는 더욱 어려워진다. 하지만, 어음이해에 상당한 문제점을 갖고 있는 노인 인구들을 임상적으로 평가하는 도구들이 많지 않다. 본 연구에서는 이러한 검사법이 근거하고 있는 기전에 있는 인지적 특성과 임상에서의 문제점을 분 석하여 개선점을 제안하고자 한다. 기본 임상 사례로 정상 청력을 가진 20대와 70대의 대표적 HINT점수를 비교하고, 소음이 어떤 조건에서 제시되는가에 따른 문장 인지 특징을 조명하였다. 대상자의 HINT score는 Quiet(Q), Noise Front(NF), Noise Right(NR), Noise Left(NF)조건에서 분석되었다. 여러 임상적 관점에서 유용한 점은 배경 소음이 있을 때 노인의 경우 청년보다 더 많은 신호대잡음비를 필요함을 나타내는 정량적 변수를 보여주고, 양이차폐감소차이(Binaural Masking Level Difference, BMLD)효과도 보여주고 있다는 점이다. 효과적 임상적 적용에는 세부 연령대별 비교 가능한 표준 자료가 극히 부족한 실정이다. 이러한 유용성 확인과 함께 임상 관련 개선점을 제시하였다.

• 정보처리학회논문지C
• /
• 제17C권1호
• /
• pp.27-36
• /
• 2010

웹 서비스 신청 단계에서 신청자가 실제 인간 사용자임을 확인하기 위해 사용되는 텍스트 기반 캡차(text-based CAPTCHA)의 변형된 문자를 광학문자인식 기술로 파악하는 것이 가능하기에 캡차의 신뢰성이 떨어지는 문제가 발생하고 있다. 이 문제를 해결하기 위해 제안되었던 기존의 이미지 기반 캡차(image-based CAPTCHA)에서도 여러 문제점이 존재한다. 인공지능 프로그램을 사용하여 시스템이 보유하고 있는 제한된 수의 이미지 내용을 파악함으로써 신뢰도가 떨어지는 문제가 발생할 수 있으며, 제공된 이미지에 대해 사용자가 다른 유사한 단어를 입력하는 경우에는 오답으로 판정되어 반복적으로 캡차를 시도해야 하는 불편함이 발생 할 수 있으며 또한, 사용자에게 캡차 문제를 제공하기 위해 여러 이미지 파일을 전송해야 하기에 전송 비용의 비효율성 문제가 존재한다. 이러한 기존 이미지 기반 캡차의 문제점들을 해결하기 위해 본 논문에서는 이미지와 관련 키워드 일부를 융합하여 제공하는 이미지-텍스트 융합 캡차를 제안하였다. 본 논문에서 제안한 이미지-텍스트 융합 캡차에서는 이미지와 관련된 단어의 일부분을 힌트로 활용하여 쉽게 정답을 입력할 수 있도록 사용자 편리성을 제공하며 이미지와 텍스트를 한 이미지 파일 내에 융합시켰기 때문에 전송 비용을 절약하여 효율성을 증진할 수 있다. 또한, 캡차 시스템의 신뢰성 증진을 위해 인터넷 검색으로 캡차용 이미지를 대량으로 수집하도록 하였으며 수집되는 캡차 이미지의 정확성을 유지하기 위해 필터링 과정을 거치도록 하였다. 또한, 본 논문에서는 실제 실험을 통해 제안된 이미지-텍스트 융합 캡차가 기존 이미지 기반 캡차보다 사용자에게 편리하고 신뢰성이 증진될 수 있음을 입증하였다.