• Proceedings of the Korea Contents Association Conference
• /
• 2014.11a
• /
• pp.39-40
• /
• 2014

신경회로망의 학습을 위하여 크로스 엔트로피 오차함수가 사용되며, 이의 성능향상을 위하여 확장된 크로스 엔트로피 함수도 제시되었다. 크로스 엔트로피 오차함수는 정보이론에서 제시된 상대 엔트로피(relative entropy)에서 유도된 함수이다. 상대 엔트로 피는 두 확률밀도함수의 발산(divergence) 함수이다. 이 논문에서는 상대 엔트로피와 크로스 엔트로피 관계를 파악한 후, 이를 기반으로 확장된 크로스 엔트로피에 상응하는 새로운 엔트로피 발산 함수를 n=2와 4인 경우에 대하여 유도한다.

• The Korean Journal of Applied Statistics
• /
• v.24 no.2
• /
• pp.383-391
• /
• 2011

This paper presents a modified entropy-based test of fit for the inverse Gaussian distribution. The test is based on the entropy difference of the unknown data-generating distribution and the inverse Gaussian distribution. The entropy difference estimator used as the test statistic is obtained by employing Vasicek's sample entropy as an entropy estimator for the data-generating distribution and the uniformly minimum variance unbiased estimator as an entropy estimator for the inverse Gaussian distribution. The critical values of the test statistic empirically determined are provided in a tabular form. Monte Carlo simulations are performed to compare the proposed test with the previous entropy-based test in terms of power.

• Journal of KIISE:Computer Systems and Theory
• /
• v.26 no.3
• /
• pp.282-290
• /
• 1999

본 논문에서는 영상 데이터베이스에서의 색인화를 위해 화소간의 엔트로피(inter-pixel entropy)측면에서 영상을 해석하여 특징을 추출하는 색인기법을 제안하였다. 엔트로피를 정량적으로 나타내기 위하여 PIM(picture information measure)에 기반한 특징을 각각의 영상들로부터 추출하여 색인으로 사용하였다. 엔트로피에 기반 하는 특징은 한 영상에 대하여 3가지를 추출하였다. 첫 번째 특징은 원 영상으로부터 직접 값들을 추출하였고 영상의 해상도와 그레이 레벨을 낮추어 가면서 얻어지는 영상들로부터 두 번째, 세번째 의 엔트로피 특징을 각각 추출하였다. 일반적으로 영상의 경우에 엔트로피가 높은 영역에 정보가 집중되는 경향이 있고 엔트로피가 낮은 영역에서는 배경 영역 등의 정보를 추출하게된다. 이러한 이유로 색채 특쟁은 엔트로피에 따라서 분리된 영역에서 추출하였다. 전역검색(global search)은 엔트로피 특징을 이용하였고 색채 특징을 이용하여 지역 검색(local search)을 시도하였다. 실험은 색채와 엔트로피로 식별이 유용한 꽃 영상을 사용하였는데 원치 않는 영상이 상위 단계에서 나타나는 빈도가 기존의 타 기법에 비해 줄어들었다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2015.11a
• /
• pp.8-10
• /
• 2015

최근 2D 와 3D 콘텐츠의 급격한 수요 증가로 인하여 2D 와 3D 공간에서 사람이 인지하는 물체의 시각적 정보량을 정량화할 필요성이 대두되었다. 본 논문에서는 정보이론에 기초하여 엔트로피 관점에서 2D 와 3D 영상의 시각적 정보량을 측정하는 방법을 제시한다. 시각적 정보량을 측정할 때, 기존의 연구에서는 고려되지 않았던 집중영역(saliency), 시각세포의 불균형으로 인한 주변영역 흐림현상인 포비에이션(foveation), 양안합성(binocular fusion)등 인간의 시각적 특성을 반영하였다는 점에서 기존의 연구들과 차이를 둔다. 2D 콘텐츠의 시각적 엔트로피는 단안시에 근거한 질감(texture) 엔트로피와 깊이 엔트로피로 구성되어 있다. 그리고 3D 콘텐츠의 시각적 엔트로피는 2D 에서의 시각적 엔트로피와 양안시에 의한 깊이 엔트로피를 포함한다. 본 논문의 시각적 엔트로피는 2D 와 3D 영상의 시각적 피로도를 측정할 때 사용될 수 있다.

• Broadcasting and Media Magazine
• /
• v.24 no.4
• /
• pp.102-108
• /
• 2019

VVC(Versatile Video Coding)는 H.264/AVC(Advanced Video Coding)와 H.265/HEVC(High Efficiency Video Coding)의 엔트로피 코딩 기술로 사용되었던 CABAC(Context-based Adaptive Binary Arithmetic Coding)을 기반으로하여 압축율과 처리율을 향상시킬 수 있는 다양한 기술들이 채택되어 현재 CD(Committee Draft)가 완성되었고 참조 모델인 VTM6.0이 정식으로 배포되었다. 본 논문에서는 VVC Draft 6에 채택된 엔트로피 코딩 관련 기술들과 H.265/HEVC의 엔트로피 코딩의 차이점을 설명하고 엔트로피 코딩의 압축 성능과 엔트로피 코딩의 복잡도를 분석한다.

• Science of Emotion and Sensibility
• /
• v.1 no.1
• /
• pp.213-221
• /
• 1998

현대의 시스템들이 가지는 고기능화와 자동화로 인하여 인간의 운용 능력이 점점 더 중요한 능력으로 부각되고 있으며, 이는 사용자가 경험하게 되는 인지넉 복잡도를 제어하는 것을 요구한다. 본 연구에서는 사용자 인터페이스에서 사용자가 경험해야 하는 인지적 복잡도를 스키마 구조를 반영하여 정량화하는 엔트로피 모형(윤완철, 1992)을 적용하여 사용자가 겪게 될 인지적 복잡도를 예측하는 척도가 제안되었으며 실험적으로 검증되었다. 엔트로피와 시스템 크기-조작의 수와 상태의 수-가 각각 다른 세 가지 인터페이스 (엔트로피가 낮고 작은 크기의 인터페이스, 엔트로피가 높고 작은 크기의 인터페이스, 엔트로피가 높고 큰 크기의 인티페이스) 중의 하나를 사용하는 것을 피험자이 학습하고, 이에 대해 검사를 받았다. 제안된 척도인 시스템 엔트로피는 사용자 수행도를 잘 설명하였지만, 시스템의 크기는 그러하지 않았다. 본 연구는 사용자가 겪게 될 인지적 복잡도를 평가자의 주관이 개입하지 않는 방법을 통하여 평가할 수 있음을 보인 것으로 가전제품이나 스프트웨어의 디자인의 평가와 개선 등 인간의 인지적 복잡도가 사용성에 중요한 영향을 미치는 분야에서 유용하리라 여겨진다.

• Proceeding of EDISON Challenge
• /
• 2014.03a
• /
• pp.311-323
• /
• 2014

분자동역학 모의실험을 이용하여 간단한 van der Waals 상호작용하는 이성분 혼합물 계의 섞임 자유에너지 및 섞임 엔트로피 등 섞임과 관련된 열역학 함수들을 계산하는 방법을 소개한다. 각 혼합물의 과잉 자유에너지는 열역학 적분 (thermodynamic integration)방법을 이용하여 계산하고, 이성분 혼합물의 섞임 관련 열역학 함수들은 Hess의 법칙을 확장함으로써 구한다. 계산 결과로부터 온도가 증가할수록 계의 섞임 Helmholtz 자유에너지는 감소하며, 섞임 내부에너지도 감소함을 알 수 있다. 섞임 엔트로피는 온도가 증가할수록 이상기체의 섞임 엔트로피에 접근함을 알 수 있다. 섞임 Helmholtz 자유에너지에 대한 섞임 내부에너지와 섞임 엔트로피 기여도를 조사한 결과 이 계의 섞임 과정을 주도하는 추진력은 엔트로피에 의한 것임을 알 수 있다. 본 연구 방법과 결과를 이용함으로써 학부생들이 혼합물의 열역학 성질을 이해하는데 도움을 주리라 기대한다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2002.10d
• /
• pp.670-672
• /
• 2002

Park과 Zhang은 최대 엔트로피 모델(maximum entropy model)을 실제 자연언어 처리에 적용함에 있어서 나타날 수 있는 여러가지 문제를 해결하기 위한 최대 엔트로피 모델(maximum entropy boosting model)을 제시하여 문서 단위화(text chunking)에 성공적으로 적용하였다. 최대 엔트로피 부스팅 모델은 쉬운 모델링과 높은 성능을 보이는 장점을 가지고 있다. 본 논문에서는 최대 엔트로피 부스팅 모델을 영어 전치사 접속 모호성 해소에 적용한다. Wall Street Journal 말뭉치에 대한 실험 결과, 아주 작은 노력을 들였음에도 84.3%의 성능을 보여 지금까지 알려진 최고의 성능과 비슷한 결과를 보였다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2005.07b
• /
• pp.625-627
• /
• 2005

결정 트리(Decision Tree)는 주어진 데이터의 경향을 학습하는 데 사용되는 대표적인 방식이다. 이것은 주어진 데이터를 구조화하기 위하여 데이터의 속성과 정보의 엔트로피에 기반을 둔 정보획득량을 이용한다. 본 논문에서는 유비쿼터스 환경에서 사용자 프로파일 정보처럼 시간에 따라 그 경향이 변하는 데이터에 유용하게 적용할 수 있는 시간 가중치 엔트로피를 정의한다. 그리고 ID3 알고리즘을 기반으로 새롭게 제안하는 시간 가중치 엔트로피를 이용하는 향상된 ID3 알고리즘을 쓰고 사용자의 경향을 분석한다. 본 논문에서 제안하는 엔트로피를 이용하는 방식은 데이터들의 시간에 관한 영향을 고려해서 기준방식보다 분석결과가 더욱 유리하다. 두 방식의 비교 테스트 결과를 보면 시간 가중치 엔트로피를 이용하는 알고리즘은 기존의 ID3 알고리즘보다 구성된 트리의 구조가 매우 간단하고 유리하다.

• Journal of the Korean Data and Information Science Society
• /
• v.24 no.4
• /
• pp.847-856
• /
• 2013

In this paper, we deal with testing goodness-of-fit for normal distribution based on parametric and nonparametric entropy estimators. The minimum variance unbiased estimator for the entropy of the normal distribution is derived as a parametric entropy estimator to be used for the construction of a test statistic. For a nonparametric entropy estimator of a data-generating distribution under the alternative hypothesis sample entropy and its modifications are used. The critical values of the proposed tests are estimated by Monte Carlo simulations and presented in a tabular form. The performance of the proposed tests under some selected alternatives are investigated by means of simulations. The results report that the proposed tests have better power than the previous entropy-based test by Vasicek (1976). In applications, the new tests are expected to be used as a competitive tool for testing normality.