• Title/Summary/Keyword: entropy test

Search Result 129, Processing Time 0.02 seconds

A Goodness of Fit Tests Based on the Partial Kullback-Leibler Information with the Type II Censored Data

  • Park, Sang-Un;Lim, Jong-Gun
    • 한국통계학회:학술대회논문집
    • /
    • 한국통계학회 2003년도 추계 학술발표회 논문집
    • /
    • pp.233-238
    • /
    • 2003
  • Goodness of fit test statistics based on the information discrepancy have been shown to perform very well (Vasicek 1976, Dudewicz and van der Meulen 1981, Chandra et al 1982, Gohkale 1983, Arizona and Ohta 1989, Ebrahimi et al 1992, etc). Although the test is well defined for the non-censored case, censored case has not been discussed in the literature. Therefore we consider a goodness of fit test based on the partial Kullback-Leibler(KL) information with the type II censored data. We derive the partial KL information of the null distribution function and a nonparametric distribution function, and establish a goodness of fit test statistic. We consider the exponential and normal distributions and made Monte Calro simulations to compare the test statistics with some existing tests.

  • PDF

Modified Mass-Preserving Sample Entropy

  • Kim, Chul-Eung;Park, Sang-Un
    • Communications for Statistical Applications and Methods
    • /
    • 제9권1호
    • /
    • pp.13-19
    • /
    • 2002
  • In nonparametric entropy estimation, both mass and mean-preserving maximum entropy distribution (Theil, 1980) and the underlying distribution of the sample entropy (Vasicek, 1976), the most widely used entropy estimator, consist of nb mass-preserving densities based on disjoint Intervals of the simple averages of two adjacent order statistics. In this paper, we notice that those nonparametric density functions do not actually keep the mass-preserving constraint, and propose a modified sample entropy by considering the generalized 0-statistics (Kaigh and Driscoll, 1987) in averaging two adjacent order statistics. We consider the proposed estimator in a goodness of fit test for normality and compare its performance with that of the sample entropy.

디지털 방사선 시스템의 노출 유형에 따른 임상 적용 시 입사표면선량 및 Entropy 비교분석을 통한 자동노출제어장치의 유용성 평가 (Evaluation of Usefulness of Automatic Exposure Control (AEC) by Comparison Analysis of Entrance Surface Dose (ESD) and Entropy in Clinical Application of Digital Radiography (DR))

  • 최지안;황준호;이경배
    • 한국콘텐츠학회논문지
    • /
    • 제19권8호
    • /
    • pp.276-283
    • /
    • 2019
  • 본 연구는 자동노출제어장치(Automatic Exposure Control, AEC)와 수동노출 이용 시 입사표면선량(Entrance Surface Dose, ESD)과 Entropy를 분석하여 자동노출제어장치의 유용성에 대해 알아보고자 하였다. 실험방법은 Skull, Chest, Abdomen, Pelvis 부위에 대하여 란도팬텀(Rando Phantom)에 반도체 선량계를 위치시켜 선량을 측정하였고, 동시에 획득한 DICOM(Digital Imaging and Communications in Medicine) 파일을 Matlab으로 Entropy 분석을 하였다. 그 결과 자동노출제어장치 이용 시 모든 부위의 입사표면선량이 수동노출보다 낮았고 Entropy 수치는 높았으며, paired t-test는 p<0.05로 유의한 차이가 있음을 알 수 있었다. 결론적으로 자동노출제어장치의 사용은 X선 검사 시 발생할 수 있는 불필요한 방사선량과 정보의 손실량을 줄여서 피폭선량과 영상 화질의 최적화에 기여할 수 있는 유용한 방법이 될 수 있다.

엔트로피 추정에 기초한 적합도 검정 (Goodness-of-fit tests based on Entropy Estimators)

  • 김종태;차영준;김영훈;이재만;강상길
    • Journal of the Korean Data and Information Science Society
    • /
    • 제10권2호
    • /
    • pp.387-395
    • /
    • 1999
  • 본 연구의 목적은 엔트로피 추정량에 기초한 적합도검정 통계량들을 제시하고 경험적 분포에 기초한 적합도 검정 통계량들과의 검정력을 비교하여 향후 적합도 검정에 사용될 검정력을 선정하는데 그 목적이 있다. 또한 모란 (Moran)의 검정통계량과 엔트로피의 추정을 연구함으로 그 일치성을 알 수 있다.

  • PDF

확률적분변환에 기초한 역가우스분포에 대한 적합도 검정 (A Test of Fit for Inverse Gaussian Distribution Based on the Probability Integration Transformation)

  • 최병진
    • 응용통계연구
    • /
    • 제26권4호
    • /
    • pp.611-622
    • /
    • 2013
  • Mudholkar와 Tian (2002)이 제시한 엔트로피 기반 검정은 위치모수와 척도모수가 모두 알려져 있지 않거나 척도 모수만 알려져 있는 역가우스분포의 적합을 알아보고자 하는 경우에만 사용이 가능하다. 본 논문에서는 위치모수와 척도모수가 모두 알려져 있거나 위치모수만 알려져 있는 역가우스분포의 적합에도 적용할 수 있는 엔트로피 기반 적합도 검정을 소개한다. 이 검정은 확률적분변환에 기초를 두고 있다. 모의실험을 통해서 추정한 표본크기와 윈도크기에 따른 검정통계량의 기각값과 근사기각값을 얻기 위한 계산공식을 제시한다. 제안한 검정과 Mudholkar와 Tian (2002)의 검정을 검정력 측면에서의 성능을 비교하고자 모의실험을 수행한다. 모의실험 결과에서 제안한 검정은 기존의 엔트로피 기반 검정보다 더 좋은 검정력을 가지는 것으로 나타난다.

Identification of the associations between genes and quantitative traits using entropy-based kernel density estimation

  • Yee, Jaeyong;Park, Taesung;Park, Mira
    • Genomics & Informatics
    • /
    • 제20권2호
    • /
    • pp.17.1-17.11
    • /
    • 2022
  • Genetic associations have been quantified using a number of statistical measures. Entropy-based mutual information may be one of the more direct ways of estimating the association, in the sense that it does not depend on the parametrization. For this purpose, both the entropy and conditional entropy of the phenotype distribution should be obtained. Quantitative traits, however, do not usually allow an exact evaluation of entropy. The estimation of entropy needs a probability density function, which can be approximated by kernel density estimation. We have investigated the proper sequence of procedures for combining the kernel density estimation and entropy estimation with a probability density function in order to calculate mutual information. Genotypes and their interactions were constructed to set the conditions for conditional entropy. Extensive simulation data created using three types of generating functions were analyzed using two different kernels as well as two types of multifactor dimensionality reduction and another probability density approximation method called m-spacing. The statistical power in terms of correct detection rates was compared. Using kernels was found to be most useful when the trait distributions were more complex than simple normal or gamma distributions. A full-scale genomic dataset was explored to identify associations using the 2-h oral glucose tolerance test results and γ-glutamyl transpeptidase levels as phenotypes. Clearly distinguishable single-nucleotide polymorphisms (SNPs) and interacting SNP pairs associated with these phenotypes were found and listed with empirical p-values.

쿨백-라이블러 판별정보에 기반을 둔 정규성 검정의 개선 (Improving a Test for Normality Based on Kullback-Leibler Discrimination Information)

  • 최병진
    • 응용통계연구
    • /
    • 제20권1호
    • /
    • pp.79-89
    • /
    • 2007
  • Arizono와 Ohta(1989)에 의해 소개된 정규성 검정은 쿨백-라이블러 판별정보를 이용하고 있으며, 검정통계량의 유도에 기반이 되는 판별정보의 추정량을 얻기 위해 Vasicek(1976)의 표본엔트로피와 분산의 최대가능도 추정량을 사용했다. 그런데 두 추정량은 편향성을 가지게 되므로 보다 정확한 판별정보의 추정을 위해 비편향 추정량을 사용하는 것이 바람직하다. 본 논문에서는 편향을 수정한 엔트로피 추정량과 분산의 균일최소분산비편향 추정량을 사용하여 판별정보의 추정량을 구하고 이로부터 유도되는 검정통계량을 사용하는 개선된 정규성 검정을 제시한다. 제안한 검정의 특성을 규명하고 검정력 비교를 위해서 모의실험을 수행한다.

Recurrence plot entropy for machine defect severity assessment

  • Yan, Ruqiang;Qian, Yuning;Huang, Zhoudi;Gao, Robert X.
    • Smart Structures and Systems
    • /
    • 제11권3호
    • /
    • pp.299-314
    • /
    • 2013
  • This paper presents a nonlinear time series analysis technique for evaluating machine defect severity, based on the Recurrence Plot (RP) entropy. The RP entropy is calculated from the probability distribution of the diagonal line length in the recurrence plot, which graphically depicts a system's dynamics and provides a global picture of the autocorrelation in a time series over all available time-scales. Results of experimental studies conducted on a spindle-bearing test bed have demonstrated that, as the working condition of the bearing deteriorates due to the initiation and/or progression of structural damages, the frequency information contained in the vibration signal becomes increasingly complex, leading to the increase of the RP entropy. As a result, RP entropy can serve as an effective indicator for defect severity assessment of rolling bearings.

엔트로피 및 평균밝기오차의 절대값에 기반한 임계값 결정 (Entropy and AMBE-based Threshold Selection)

  • 권순학
    • 한국지능시스템학회논문지
    • /
    • 제21권3호
    • /
    • pp.347-352
    • /
    • 2011
  • 영상의 세세한 부분에 대한 표현 정확도를 나타내는 엔트로피와 전체 영상에 있어서의 밝기의 변화를 나타내는 평균밝기 오차의 절대값은 영상의 질을 측정하기 위하여 일반적으로 사용되어지는 두 종류의 양적 측도이다. 본 논문에서는 이러한 엔트로피와 평균밝기오차의 절대값에 기반하여 주어진 영상을 이진화하는 영상 임계화 기법을 제안하고, 9개의 시험 영상에 대한 실험과 기존의 오츠 방법 및 엔트로피 기반의 임계값 결정법과의 비교 및 검토를 통해 제안된 기법의 효용성을 보인다.

Entropy에 의한 Randomness 검정법 (A Randomness Test by the Entropy)

  • 최봉대;신양우;이경현
    • 한국정보보호학회:학술대회논문집
    • /
    • 한국정보보호학회 1991년도 학술발표논문집
    • /
    • pp.105-133
    • /
    • 1991
  • 본 논문에서는 임의의 이진 난수발생기의 source가 $BMS_{p}$ 이거나 M-memory를 갖는 마르코프연쇄로 모델화 되었을 경우에 비트당 entropy와 관련이 있는 새로운 randomness에 관한 통계적 검정법을 제안한다. 기존에 알려진 이진 난수발생기의 randomness검정법이 0또는 1의 분포의 편향성(bias)이나 연속된 비트간의 상관성(correlation)중의 한 종류만의 non-randomness를 추적해낼 수 있는 반면에 새로운 검정법은 위의 두가지 검정을 통과하였을 때 암호학적으로 중요한 측도인 비트당 entropy 를 측정하여 암호학적인 약점을 검정할 수 있다. 또한 대칭(비밀키) 암호시스템의 통계적 결점을 바탕으로 하여 키를 찾는 공격자의 최적 전략( optimal strategy)문제를 분석하여 이 최적 전략이 이진 수열의 비트당 entropy와 밀접한 관계가 있음을 보이고 이 비트당 entropy와 관련이 있는 새로운 통계량을 도입하여 이진 난수 발생기의 source의 이진수열이 다음 3가지 경우, 즉, i.i.d. symmetric인 경우, $BMS_{p}$ 인 경우, M-memory를 갖는 마르코프연쇄인 경우의 각각에 대하여 특성을 조사하고 새로운 통계량의 평균과 분산을 구한다. 이때 구한 새로운 통계량은 잘 알려진 중심 극한 정리에 의하여 근사적으로 정규분포를 따르므로 위의 평균과 분산을 이용하여 스트림 암호시스템에서 구성요소로 많이 사용되는 몇 몇 간단한 이진 난수 발생기에 적용하여 통계적 검정을 실시함으로써 entropy 관점의 검정법이 새로운 randomness 검정법으로 타당함을 보인다.

  • PDF