• 제목/요약/키워드: Shannon entropy

검색결과 81건 처리시간 0.022초

A View on Extension of Utility-Based on Links with Information Measures

  • Hoseinzadeh, A.R.;Borzadaran, G.R.Mohtashami;Yari, G.H.
    • Communications for Statistical Applications and Methods
    • /
    • 제16권5호
    • /
    • pp.813-820
    • /
    • 2009
  • In this paper, we review the utility-based generalization of the Shannon entropy and Kullback-Leibler information measure as the U-entropy and the U-relative entropy that was introduced by Friedman et al. (2007). Then, we derive some relations between the U-relative entropy and other information measures based on a parametric family of utility functions.

EDISON 앱 개발 및 교육을 위한 Polymer Collapse 중 Polymer의 Entropy 및 Free Energy 계산

  • 박윤재;장락우
    • EDISON SW 활용 경진대회 논문집
    • /
    • 제6회(2017년)
    • /
    • pp.75-81
    • /
    • 2017
  • Polymer collapse transition에 대한 연구가 많이 진행되어왔다. 허나 각각의 microstate에 대한 entropy나 free energy에 대한 계산을 하지는 못하였다. 최근 local nonequilibrium thermodynamics와 관련한 논문이 발표되었는데 이는 비평형 상태에서의 각각의 microstate에 대한 확률 분포를 결정하는 물리량을 발견 및 특성을 규명하여 이 중 특별한 상태가 지니는 "information" 이라는 양이 내부에너지와 엔트로피와의 상관관계가 있음을 보였다. 또한, 이러한 information theory를 이용한 Shannon entropy를 사용하여 entropy를 정의하고 free energy와 같은 물리량을 계산하였다. 따라서 이를 이용하여 information theory를 이용한 Shannon entropy와 이로 정의된 free energy를 이용하여 polymer collapse중 entropy 및 free energy를 계산하였다.

  • PDF

EU항만의 효율성에 관한 연구 (DEA와 Shannon's Entropy의 통합모형과 DEA-Window 분석을 이용하여)

  • 박호;김동진;김율성
    • 한국항해항만학회:학술대회논문집
    • /
    • 한국항해항만학회 2012년도 추계학술대회
    • /
    • pp.109-111
    • /
    • 2012
  • 한-EU FTA 발효 등은 교역 확대가 예상되며, 항만의 역할은 더욱더 중요해 질 것이다. 항만의 성과를 측정할 수 있는 방안으로 DEA를 활용한 효율성 측정을 들 수 있으며, 본 연구에서는 DEA 측정 시 모형 선정의 어려움과 동태적 효율성을 변화를 분석하기 위해 DEA와 Shannon's Entropy 결합모형으로 효율성을 분석하고, DEA-Window 모형으로 동태적 효율변화를 분석하였다.

  • PDF

Shannon 엔트로피 개념을 이용한 가보 웨이블렛 최적 형상의 선정 (The Selection of the Optimal Gator Wavelet Shape Factor Using the Shannon Entropy Concept)

  • 홍진철;김윤영
    • 한국소음진동공학회:학술대회논문집
    • /
    • 한국소음진동공학회 2002년도 추계학술대회논문집
    • /
    • pp.176-181
    • /
    • 2002
  • The continuous Gabor wavelet transform (GWT) has been utilized as a useful time-frequency analysis tool to identify the rapidly-varying characteristics of some wave signals. In the application of GWT, it is important to select the Gabor wavelet with the optimal shape factor by which the time-frequency distribution of a signal can be accurately estimated. To find the signal-dependent optimal Gabor wavelet shape factor, the notion of the Shannon entropy which mesures the extent of signal energy concentration in the time-frequency plane is employed. To verify the validity of the present entropy-based scheme, we have applied it to the time-frequency analysis of a set of elastic bending wave signals generated by an impact in a solid cylinder.

  • PDF

Shannon 엔트로피 개념을 이용한 가보 웨이블렛 최적 형상의 선정 (The Selection of the Optimal Gabor Wavelet Shape Factor Using the Shannon Entropy Concept)

  • Hong, Jin-Chul;Kim, Yoon-Young
    • 한국소음진동공학회:학술대회논문집
    • /
    • 한국소음진동공학회 2002년도 추계학술대회논문초록집
    • /
    • pp.324.1-324
    • /
    • 2002
  • The continuous Gabor wavelet transform (GWT) has been utilized as a useful time-frequency analysis tool to identify the rapidly-varying characteristics of some wave signals. In the application of GWT, it is important to select the Gabor wavelet with the optimal shape factor by which the time-frequency distribution of a signal can be accurately estimated. To find the signal-dependent optimal Gator wavelet shape factor, the notion of the Shannon entropy which measures the extent of signal energy concentration in the time-frequency plane is employed. (omitted)

  • PDF

샤논 엔트로피와 신경회로망을 이용한 심잡음 분류에 관한 연구 (A Study of Classification of Heart Murmurs using Shannon Entropy and Neural Network)

  • 엄상희
    • 융합신호처리학회논문지
    • /
    • 제16권4호
    • /
    • pp.134-138
    • /
    • 2015
  • 본 논문은 심장질환을 비침습적 방법으로 빠르고 쉽게 진단할 수 있도록 심음을 이용하는 방법에 대한 가능성을 찾는 것이다. 일반적으로 심음의 분류를 위하여 심음을 분리한 후에 특징파라미터를 추출하는 과정을 거치지 않고, 심음 분리에 사용되는 Shannon 엔트로피로 정규화하여 신경회로망의 입력으로 사용하였다. 심장질환에 따른 심잡음 분류를 위하여 Scaled conjugate gradient 역전파 알고리즘을 이용하여 신경회로망 분류기를 구현하였다. 정상 심음과 심장 질환의 경우 5가지를 포함하여 6종류의 심잡음에 대하여 분류가 가능함을 확인하였다.

Shannon Entropy as an Indicator of the Spatial Resolutions of the Morphologies of the Mode Patterns in an Optical Resonator

  • Park, Kyu-Won;Kim, Jinuk;Moon, Songky
    • Current Optics and Photonics
    • /
    • 제5권1호
    • /
    • pp.16-22
    • /
    • 2021
  • We present the Shannon entropy as an indicator of the spatial resolutions of the morphologies of the resonance mode patterns in an optical resonator. We obtain each optimized number of mesh points, one of minimum size and the other of maximum one. The optimized mesh-point number of minimum size is determined by the identifiable quantum number through a chi-squared test, whereas the saturation of the difference between Shannon entropies corresponds to the other mesh-point number of maximum size. We also show that the optimized minimum mesh-point increases as the (real) wave number increases and approximates the proportionality constant between them.

AN EXTENSION OF JENSEN-MERCER INEQUALITY WITH APPLICATIONS TO ENTROPY

  • Yamin, Sayyari
    • 호남수학학술지
    • /
    • 제44권4호
    • /
    • pp.513-520
    • /
    • 2022
  • The Jensen and Mercer inequalities are very important inequalities in information theory. The article provides the generalization of Mercer's inequality for convex functions on the line segments. This result contains Mercer's inequality as a particular case. Also, we investigate bounds for Shannon's entropy and give some new applications in zeta function and analysis.

5G Massive MIMO에서 가우스(Gauss)와 샤논(Shannon)이 동전 한 닢에서 만남 (Meeting of Gauss and Shannon at Coin Leaf in 5G Massive MIMO)

  • 김정수;이문호;박대철
    • 한국인터넷방송통신학회논문지
    • /
    • 제18권2호
    • /
    • pp.89-103
    • /
    • 2018
  • 천재수학자 가우스와 통신 공학자 샤논은 창의적인 아이디어 모티베이션(motivation)을 어디에서 가져왔을까. 정답은 동전 한 잎이다. 가우스는 1부터 100까지 합을 구하는 문제에서 창의적인 아이디어를 찾았다. 이것은 동전 한 잎을 던졌을 때 나올 확률 값 분포 곡선과 같다. 샤논은 가우스 확률 분포를 확장하여 엔트로피(Entropy)를 정의했는데, Source 심볼과 그 역수(Reciprocal) 대수를 취하여 가중평균을 구했다. 가우스와 샤논은 똑같이 <동전 한 잎>에서 만났다. 본고에서는 이점에 착안, 가우스 분포와 샤논 엔트로피를 쉽게 증명한다. 그 응용예로 제주 정낭 채널 용량과 천이확률을 구했는데, 동등한 천이확률이 1/2 일때 샤논 채널 용량은 1이됨을 밝혔다.