• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2015년도 추계학술대회
• /
• pp.8-10
• /
• 2015

최근 2D 와 3D 콘텐츠의 급격한 수요 증가로 인하여 2D 와 3D 공간에서 사람이 인지하는 물체의 시각적 정보량을 정량화할 필요성이 대두되었다. 본 논문에서는 정보이론에 기초하여 엔트로피 관점에서 2D 와 3D 영상의 시각적 정보량을 측정하는 방법을 제시한다. 시각적 정보량을 측정할 때, 기존의 연구에서는 고려되지 않았던 집중영역(saliency), 시각세포의 불균형으로 인한 주변영역 흐림현상인 포비에이션(foveation), 양안합성(binocular fusion)등 인간의 시각적 특성을 반영하였다는 점에서 기존의 연구들과 차이를 둔다. 2D 콘텐츠의 시각적 엔트로피는 단안시에 근거한 질감(texture) 엔트로피와 깊이 엔트로피로 구성되어 있다. 그리고 3D 콘텐츠의 시각적 엔트로피는 2D 에서의 시각적 엔트로피와 양안시에 의한 깊이 엔트로피를 포함한다. 본 논문의 시각적 엔트로피는 2D 와 3D 영상의 시각적 피로도를 측정할 때 사용될 수 있다.

• 한국정보과학회논문지:시스템및이론
• /
• 제26권3호
• /
• pp.282-290
• /
• 1999

본 논문에서는 영상 데이터베이스에서의 색인화를 위해 화소간의 엔트로피(inter-pixel entropy)측면에서 영상을 해석하여 특징을 추출하는 색인기법을 제안하였다. 엔트로피를 정량적으로 나타내기 위하여 PIM(picture information measure)에 기반한 특징을 각각의 영상들로부터 추출하여 색인으로 사용하였다. 엔트로피에 기반 하는 특징은 한 영상에 대하여 3가지를 추출하였다. 첫 번째 특징은 원 영상으로부터 직접 값들을 추출하였고 영상의 해상도와 그레이 레벨을 낮추어 가면서 얻어지는 영상들로부터 두 번째, 세번째 의 엔트로피 특징을 각각 추출하였다. 일반적으로 영상의 경우에 엔트로피가 높은 영역에 정보가 집중되는 경향이 있고 엔트로피가 낮은 영역에서는 배경 영역 등의 정보를 추출하게된다. 이러한 이유로 색채 특쟁은 엔트로피에 따라서 분리된 영역에서 추출하였다. 전역검색(global search)은 엔트로피 특징을 이용하였고 색채 특징을 이용하여 지역 검색(local search)을 시도하였다. 실험은 색채와 엔트로피로 식별이 유용한 꽃 영상을 사용하였는데 원치 않는 영상이 상위 단계에서 나타나는 빈도가 기존의 타 기법에 비해 줄어들었다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2005년도 한국컴퓨터종합학술대회 논문집 Vol.32 No.1 (B)
• /
• pp.625-627
• /
• 2005

결정 트리(Decision Tree)는 주어진 데이터의 경향을 학습하는 데 사용되는 대표적인 방식이다. 이것은 주어진 데이터를 구조화하기 위하여 데이터의 속성과 정보의 엔트로피에 기반을 둔 정보획득량을 이용한다. 본 논문에서는 유비쿼터스 환경에서 사용자 프로파일 정보처럼 시간에 따라 그 경향이 변하는 데이터에 유용하게 적용할 수 있는 시간 가중치 엔트로피를 정의한다. 그리고 ID3 알고리즘을 기반으로 새롭게 제안하는 시간 가중치 엔트로피를 이용하는 향상된 ID3 알고리즘을 쓰고 사용자의 경향을 분석한다. 본 논문에서 제안하는 엔트로피를 이용하는 방식은 데이터들의 시간에 관한 영향을 고려해서 기준방식보다 분석결과가 더욱 유리하다. 두 방식의 비교 테스트 결과를 보면 시간 가중치 엔트로피를 이용하는 알고리즘은 기존의 ID3 알고리즘보다 구성된 트리의 구조가 매우 간단하고 유리하다.

• 한국콘텐츠학회:학술대회논문집
• /
• 한국콘텐츠학회 2014년도 추계 종합학술대회 논문집
• /
• pp.39-40
• /
• 2014

신경회로망의 학습을 위하여 크로스 엔트로피 오차함수가 사용되며, 이의 성능향상을 위하여 확장된 크로스 엔트로피 함수도 제시되었다. 크로스 엔트로피 오차함수는 정보이론에서 제시된 상대 엔트로피(relative entropy)에서 유도된 함수이다. 상대 엔트로 피는 두 확률밀도함수의 발산(divergence) 함수이다. 이 논문에서는 상대 엔트로피와 크로스 엔트로피 관계를 파악한 후, 이를 기반으로 확장된 크로스 엔트로피에 상응하는 새로운 엔트로피 발산 함수를 n=2와 4인 경우에 대하여 유도한다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2002년도 가을 학술발표논문집 Vol.29 No.2 (2)
• /
• pp.670-672
• /
• 2002

Park과 Zhang은 최대 엔트로피 모델(maximum entropy model)을 실제 자연언어 처리에 적용함에 있어서 나타날 수 있는 여러가지 문제를 해결하기 위한 최대 엔트로피 모델(maximum entropy boosting model)을 제시하여 문서 단위화(text chunking)에 성공적으로 적용하였다. 최대 엔트로피 부스팅 모델은 쉬운 모델링과 높은 성능을 보이는 장점을 가지고 있다. 본 논문에서는 최대 엔트로피 부스팅 모델을 영어 전치사 접속 모호성 해소에 적용한다. Wall Street Journal 말뭉치에 대한 실험 결과, 아주 작은 노력을 들였음에도 84.3%의 성능을 보여 지금까지 알려진 최고의 성능과 비슷한 결과를 보였다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2019년도 제59차 동계학술대회논문집 27권1호
• /
• pp.143-144
• /
• 2019

최대 엔트로피(Maximum Entropy)는 실증적 데이터에서 관찰된 잠재적인 여러 유용한 특징들을 기반으로 최대 엔트로피를 갖는 추정된 분포를 구축하기 위한 접근법이다. 본 논문에서는 네트워크상의 데이터 전송 시 혼잡한 흐름을 효율적으로 분류하기 위해 최대 엔트로피 알고리즘을 기반으로 한 새로운 네트워크 흐름 분류 모델을 제안한다. 제안한 알고리즘이 기존의 방법들 보다 높은 분류 정확도를 나타내는 것을 목표로 네트워크 서비스 시 효율성을 높이고자 한다.

• 한국전자거래학회지
• /
• 제16권4호
• /
• pp.241-256
• /
• 2011

본 연구는 온라인 소비자 리뷰가 제품정보 제공자로서 소비자 구매결정에 미치는 영향에 대해 살펴보았다. 정보이론에서 제시된 엔트로피의 개념을 이용하여, 온라인 소비자 리뷰 안에 존재하는 여러 가지 종류의 제품 정보에 대해 소비자들이 각각 다르게 반응하는 이유를 설명하고자 하였다. 정보 엔트로피는 한 개의 단위 정보가 감소시킬 수 있는 불확실성의 정도를 의미한다. 온라인 소비자 리뷰에는 각각 다른 정도의 엔트로피를 감소시킬 수 있는 여러 가지 정보가 있고 따라서 소비자는 감소되는 엔트로피의 정도에 따라 각각의 정보에 대해 다르게 반응한다. 본 연구에서는 여러 가지 종류의 정보에 따라 감소하는 엔트로피의 양이, 제품 정보 제공의 전후에 따라 제품 속성에 대한 인식된 중요도의 차이로 나타남을 검증하고자 하였다. 이러한 연구 가설들은 총 268명의 온라인 쇼핑몰 이용자에게 실험을 하여 정보제공의 전후에 따른 제품 속성 별 중요도에 분명한 차이가 있음을 보여줌으로써 확인되었다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2022년도 춘계학술발표대회
• /
• pp.370-373
• /
• 2022

본 연구에서는 전이 엔트로피 개념을 활용하여 주요 상품 선물의 하방 리스크 지수의 정보 흐름을 바탕으로 한 인과관계 네트워크를 구성하였다. 그리고 구성된 네트워크를 활용하여 금융 시장을 분석하였으며, 또한 정보 흐름의 존재 여부를 바탕으로 상품 선물의 하방 리스크 지수의 예측력이 개선될 수 있는지 확인하고자 하였다. 이를 위하여 정보 불확실성의 감소량을 측정하는 전이 엔트로피를 인과관계의 측정 지표로 상정하였으며, 전이 엔트로피 측정 시 발생할 수 있는 유한크기효과(finite size effect)를 조정하는 데 있어서 효과적인 지표인 효율적 전이 엔트로피를 활용하여 정보 흐름 네트워크를 구성하였으며 이를 이용하여 금융 지수 간의 인과관계를 분석하고 EDaR 의 등락 예측에 활용하였다. 그 결과, 금융 시장 지수를 효율적 전이 엔트로피를 이용한 인과관계 네트워크를 활용하여 금융 시장의 복잡계 네트워크 분석이 가능함을 확인하였고, 구성된 네트워크를 활용하여 국내 금융 시장 등락 예측에 있어 더 적은 데이터 열을 활용하여 거의 유사한 예측 결과를 냄으로써 상품 선물 시장 관련 예측의 데이터 열 선택에 활용할 수 있음을 확인하였다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 1999년도 가을 학술발표논문집 Vol.26 No.2 (2)
• /
• pp.57-59
• /
• 1999

본 논문에서는 최대 엔트로피 원리에 기반한 문서 분류기의 학습을 제안한다. 최대 엔트로피 기법은 자연언어 처리에서 언어 모델링(Language Modeling), 품사 태깅 (Part-of-Speech Tagging) 등에 널리 사용되는 방법중의 하나이다. 최대 엔트로피 모델의 효율성을 위해서는 자질 선정이 중요한데, 본 논문에서는 자질 집합의 선택을 위한 기준으로 chi-square test, log-likelihood ratio, information gain, mutual information 등의 방법을 이용하여 실험하고, 전체 후보 자질에 대한 실험 결과와 비교해 보았다. 데이터 집합으로는 Reuters-21578을 사용하였으며, 각 클래스에 대한 이진 분류 실험을 수행하였다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2008년도 한국컴퓨터종합학술대회논문집 Vol.35 No.1 (C)
• /
• pp.569-573
• /
• 2008

패턴인식 문제를 다루는 연구에서 인식 성능을 향상시키고자 베이스 에러율의 상한인 조건부 엔트로피를 응용하는 시도가 있었다. 본 논문에서는 다수의 인식기로 구성된 다수 인식기 시스템이 우수한 성능을 보이도록 인식기의 집합을 결정하는 문제에서 이러한 조건부 엔트로피의 최소화를 통하여 시도한 방법과 다른 방법들을 간단하고 분명한 예제를 통하여 비교, 분석해 보았다. 다수 인식기의 결합 방법으로 대표적인 투표 기법과 조건부 독립 가정의 베이지안 기법을 사용하였으며, 조건부 엔트로피의 최소화를 통하여 인식기의 집합을 결정하는 방법에 대한 유용성을 확인할 수 있었다.