• 제목/요약/키워드: Information Distillation

검색결과 60건 처리시간 0.024초

주제를 깊이 있게 다루는 블로그 피드 검색을 위한 위키피디아 기반 질의 확장 방법 (A Wikipedia-based Query Expansion Method for In-depth Blog Distillation)

  • 송우상;이예하;이종혁;양기주
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제16권11호
    • /
    • pp.1121-1125
    • /
    • 2010
  • 본 논문에서는 질의로 주어진 주제를 깊이 있게 다루는 블로그 검색을 위한 위키피디아 기반 질의 확장 방법을 제안한다. 제안된 방법은 질의와 연관된 위키피디아 문서를 질의 확장에 사용한다. 실험을 위해 대규모 블로그 실험 데이터인 TREC Blogs08 collection과 영문 위키피디아 데이터를 사용하였다. 실험 결과 제안된 방법은 기존의 블로그 포스트 기반 질의 확장 방법에 비해 MAP을 비롯한 검색 성능을 콘 폭으로 향상시켰다.

다중클래스 피드백을 이용한 지식증류기법 기반의 추천시스템 정확도 평가 (On Evaluating Recommender Systems with Knowledge Distillation in Multi-Class Feedback Environment)

  • 김지연;배홍균;김상욱
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2021년도 춘계학술발표대회
    • /
    • pp.310-311
    • /
    • 2021
  • 추천시스템은 사용자가 아이템들에 남긴 과거 피드백을 바탕으로 사용자가 선호할 법할 아이템을 추천한다. 추천시스템에서 사용자의 선호도는 단일클래스 세팅과 다중클래스 세팅 두 가지로 표현 할 수 있다. 우리는 추천시스템을 위해 제안된 지식증류기법인 Ranking Distillation 을 다중클래스 세팅에서 실험하여, 증류된 지식을 통한 작은 모델 학습이 효과적인지에 대해 알아보고자 한다.

다중 스케일 얼굴 영역 딕셔너리의 적대적 증류를 이용한 얼굴 초해상화 (Face Super-Resolution using Adversarial Distillation of Multi-Scale Facial Region Dictionary)

  • 조병호;박인규;홍성은
    • 방송공학회논문지
    • /
    • 제26권5호
    • /
    • pp.608-620
    • /
    • 2021
  • 최근 딥러닝 기반의 얼굴 초해상화 연구는 일반적인 영상에 대한 초해상화 연구와 달리 인간의 얼굴이 가지는 구조적 혹은 의미론적인 특성을 반영한 안면 랜드마크 정보, 주요 영역 딕셔너리와 같은 사전 및 참조 정보를 사용하여 우수한 초해상화 결과를 보였다. 그러나 얼굴에 특화된 사전 정보를 사용할 시 추가적인 처리 소요 시간과 메모리를 요구하는 단점이 존재한다. 본 논문은 앞서 언급한 한계점을 극복하고자 지식 증류 기법을 활용한 효율적인 초해상화 모델을 제안한다. 주요 얼굴 영역 기반의 딕셔너리 정보를 사용하는 선생 모델에 지식 증류 기법을 적용하여 추론 시 랜드마크 정보와 부가적인 딕셔너리 사용이 필요 없는 학생 모델을 구축하였다. 제안하는 학생 모델은 특징맵 기반의 적대적 지식 증류를 통해 얼굴 주요 영역 딕셔너리를 가지고 있는 선생 모델로부터 학습을 진행하였다. 본 논문은 제안하는 학생 모델의 실험 결과를 통해 정량 및 정성적으로 우수함을 보이며 선생 모델의 연산량에 비해 90% 이상 절감되는 효율성을 증명한다.

의미적 정보를 보존하는 지식 증류에 대한 연구 (A study on knowledge distillation to preserve semantic information)

  • 박성현;이상근
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2024년도 춘계학술발표대회
    • /
    • pp.772-773
    • /
    • 2024
  • 의미적 정보까지 학생 모델에게 학습시키기 위한 지식 증류 기법은 많이 논의되어 왔다. 그러나 학생 모델의 용량이 교사 모델의 용량에 비해 부족함에서 발생하는 의미적 정보 손실에 대한 논의는 아직 진행되지 않았다. 본 논문에서는 의미적 정보의 최소 단위를 교사 모델의 레이어로 설정하여 학생 모델이 지식 증류를 시작하기 전 최적의 지식 증류 대상을 설정하는 최적 은닉층 선정 알고리즘을 제시한다.

In-Service Identification of the Heterogeneous Zone in Petrochemical Pipelines by Using Sealed Gamma-Ray Sources $(^{60}Co,\;^{137}Cs)$

  • Kim, Jin-Seop;Jung, Sung-Hee;Kim, Jong-Bum
    • 비파괴검사학회지
    • /
    • 제26권3호
    • /
    • pp.169-173
    • /
    • 2006
  • In-service diagnoses of pipeline facilities are important for a systematic maintenance of them. Field applications by using sealed gamma-ray sources $(^{60}Co,\;^{137}Cs)$ were performed to identify the heterogeneous zone in the pipelines of a distillation tower and a flare stack respectively. From the results, the heterogeneous zones in the pipelines were successfully identified. In the case of the pipeline connected to the distillation tower, a vapor pocket was detected in the fluid under hydrodynamic conditions, which could explain the reason for a decrease of the flow rate. In another case, an area with some amount of catalyst deposits was found at the bottom of the gas pipeline which was connected to the flare stack. And these findings provided important information for the process operators. Diagnosis technique by using gamma radiation sources has been proven to be an effective and reliable method for providing information on a media distribution in a facility.

신경망 근사에 의한 다중 레이어의 클래스 활성화 맵을 이용한 블랙박스 모델의 시각적 설명 기법 (Visual Explanation of Black-box Models Using Layer-wise Class Activation Maps from Approximating Neural Networks)

  • 강준규;전민경;이현석;김성찬
    • 대한임베디드공학회논문지
    • /
    • 제16권4호
    • /
    • pp.145-151
    • /
    • 2021
  • In this paper, we propose a novel visualization technique to explain the predictions of deep neural networks. We use knowledge distillation (KD) to identify the interior of a black-box model for which we know only inputs and outputs. The information of the black box model will be transferred to a white box model that we aim to create through the KD. The white box model will learn the representation of the black-box model. Second, the white-box model generates attention maps for each of its layers using Grad-CAM. Then we combine the attention maps of different layers using the pixel-wise summation to generate a final saliency map that contains information from all layers of the model. The experiments show that the proposed technique found important layers and explained which part of the input is important. Saliency maps generated by the proposed technique performed better than those of Grad-CAM in deletion game.

증발식 다중효용 담수기에서 열교환기 튜브 배열 및 형상에 따른 액막 유동에 관한 수치해석 (Numerical Study of Liquid Film Flow on Heat Exchanger Tube Arrangement and Configuration of Multi Effect Distillation)

  • 정일영;윤상국;주홍진;곽희열
    • 한국태양에너지학회:학술대회논문집
    • /
    • 한국태양에너지학회 2011년도 추계학술발표대회 논문집
    • /
    • pp.68-73
    • /
    • 2011
  • This study was performed numerical analysis in order to analyze liquid film flow of heat exchanger tube arrangement and configuration of evaporative multi effect distillation system using medium-temperature. Simulation was accomplished the two-dimensional calculations using commercial analyses program FLUENT based on the FVM(finite volume method). Fresh water generator of this study used Shell & Tubes heat exchanger with Cu_Ni tube, configuration of tube used bare tube and corrugated tube, and arrangement of tube used in-line array and staggered array. Performance of heat exchanger through the formation of liquid film was compared and analyzed. Liquid film flow occurred that falling on heat exchanger tube wall. Result of simulation showed that liquid film thickness of in-line arrangement was found 0.57mm with bare tube and 0.67mm with corrugated tube, respectively. And liquid film thickness of staggered arrangement was found 0.39mm with bare tubes and 0.62mm with corrugated tubes, respectively. Liquid film thickness of corrugated tube showed thicker than bare tube, but heat transfer rates of corrugated tube showed higher than bare tube. The reason was considered that surface area of corrugated tube was wider than bare tube. And liquid film thickness of staggered arrangement showed thinner than in-line arrangement, so thermal performance of staggered arrangement showed higher than in-line arrangement.

  • PDF

실시간 3차원 객체 검출을 위한 포인트 클라우드 기반 딥러닝 모델 경량화 (Lightweight Deep Learning Model for Real-Time 3D Object Detection in Point Clouds)

  • 김규민;백중환;김희영
    • 한국정보통신학회논문지
    • /
    • 제26권9호
    • /
    • pp.1330-1339
    • /
    • 2022
  • 3D 물체검출은 대체로 자동차, 버스, 사람, 가구 등과 같은 비교적 크기가 큰 데이터를 검출하는 것을 목표로 두어 작은 객체 검출에는 취약하다. 또한, 임베디드 기기와 같은 자원이 제한적인 환경에서는 방대한 연산량 때문에 모델의 적용이 어렵다. 본 논문에서는 1개의 레이어만을 사용하여 로컬 특징에 중점을 두어 작은 객체 검출의 정확도를 높였으며, 제안한 사전 학습된 큰 네트워크에서 작은 네트워크로의 지식 증류법과 파라미터 크기에 따른 적응적 양자화를 통해 추론 속도를 향상시켰다. 제안 모델은 SUN RGB-D Val 와 자체 제작한 모형 사과나무 데이터 셋을 이용하여 성능을 평가하였고 최종적으로 mAP@0.25에서 62.04%, mAP@0.5에서 47.1%의 정확도 성능을 보였으며, 추론 속도는 120.5 scenes per sec로 빠른 실시간 처리속도를 보였다.

Gamma Absorption Technique를 이용한 Trayed Column의 가동 중 내부 밀도분포 측정에 의한 유체 유동상태 진단 (In-service Investigation on the Flow Dynamics of a Trayed Column from the Measurement of an Internal Density by using a Gamma Absorption Technique)

  • 김재호;김종범;김진섭;이나영;이성식;장석준;정성희
    • Journal of Radiation Protection and Research
    • /
    • 제33권1호
    • /
    • pp.35-40
    • /
    • 2008
  • 석유화학 공정의 증류탑은 공정유체를 분리, 정제하는 중요한 장치 중의 하나로 가동효율은 설비의 생산성에 큰 영향을 미친다. 본 연구는 밀봉 감마선원을 이용하여 투과 감마선의 세기를 높이별로 측정함으로써 내부 밀도의 변화를 분석하여 공정의 가동 중 내부 상황에 대한 정보를 얻고자 하였다. 이를 위하여 한국원자력연구원에서 개발된 자동 증류탑 검사장치를 이용하여 증류탑 상부 양쪽에 밀봉 감마선원과 방사선검출기를 매달아 수직으로 내리면서 실험을 수행하였으며, 이때 감마선원으로는 Co-60 150 mCi과 방사선검출기로 BGO detector를 각각 사용하였다. 진단결과 설비 내부의 tray에는 구조적 결함이 관찰되지 않았으나, 유체분포를 고려할 때 상부는 기포층(vapor)의 밀도분포가 지배적인 반면에, 하단부에는 기포에 비해 유체가 상대적으로 많이 분포하는 것으로 계측되었다. 본 실험으로부터 밀봉 감마선원을 이용한 가동 중에 있는 대형 증류탑의 tray에 대한 구조적 건전성 및 내부 유체분포에 대한 정보를 성공적으로 제시하였다.