• International Journal of Control, Automation, and Systems
• /
• 제6권4호
• /
• pp.620-625
• /
• 2008

The $H_{\infty}$ entropy in $H_{\infty}$ control theory is discussed based on investigating information transmission in continuous-time linear stochastic systems. It is proved that the stabilizing feedback does not change the time-average information transmission between system input and output, and the $H_{\infty}$ entropies of open- and closed-loop stable transfer functions are bounded by mutual information rate between input and output in the open-loop system. Furthermore, a new $H_2$ upper bound for $H_{\infty}$ entropy is introduced with a numerical example. Thus the $H_{\infty}$ entropy of a stable transfer function is sandwiched between $H_2$ norms of the original system and a static feedback system.

• Journal of Information Processing Systems
• /
• 제16권1호
• /
• pp.184-200
• /
• 2020

Similarity searching is a basic issue in information processing because of the large size of formal contexts and their complicated derivation operators. Recently, some researchers have focused on knowledge reduction methods by using granular computing. In this process, suitable information granules are vital to characterizing the quantities of attributes and objects. To address this problem, a novel approach to obtain an entropy-weighted concept lattice with inclusion degree and similarity distance (ECLisd) has been proposed. The approach aims to compute the combined weights by merging the inclusion degree and entropy degree between two concepts. In addition, another method is utilized to measure the hierarchical distance by considering the different degrees of importance of each attribute. Finally, the rationality of the ECLisd is validated via a comparative analysis.

• 한국전자거래학회지
• /
• 제16권4호
• /
• pp.241-256
• /
• 2011

본 연구는 온라인 소비자 리뷰가 제품정보 제공자로서 소비자 구매결정에 미치는 영향에 대해 살펴보았다. 정보이론에서 제시된 엔트로피의 개념을 이용하여, 온라인 소비자 리뷰 안에 존재하는 여러 가지 종류의 제품 정보에 대해 소비자들이 각각 다르게 반응하는 이유를 설명하고자 하였다. 정보 엔트로피는 한 개의 단위 정보가 감소시킬 수 있는 불확실성의 정도를 의미한다. 온라인 소비자 리뷰에는 각각 다른 정도의 엔트로피를 감소시킬 수 있는 여러 가지 정보가 있고 따라서 소비자는 감소되는 엔트로피의 정도에 따라 각각의 정보에 대해 다르게 반응한다. 본 연구에서는 여러 가지 종류의 정보에 따라 감소하는 엔트로피의 양이, 제품 정보 제공의 전후에 따라 제품 속성에 대한 인식된 중요도의 차이로 나타남을 검증하고자 하였다. 이러한 연구 가설들은 총 268명의 온라인 쇼핑몰 이용자에게 실험을 하여 정보제공의 전후에 따른 제품 속성 별 중요도에 분명한 차이가 있음을 보여줌으로써 확인되었다.

• International Journal of Safety
• /
• 제4권1호
• /
• pp.8-13
• /
• 2005

Design of manufacturing process, in general, facilitates the creation of new process that may potentially harm the workers. Design of safety-guaranteed manufacturing process is, therefore, very important since it determines the ultimate outcomes of manufacturing activities involving safety of workers. This study discusses application of information-theoretic measure (entropy) to safety assessment of manufacturing processes. The idea is based on the general principles of design and their applications. Some examples are given.

• 한국정보보호학회:학술대회논문집
• /
• 한국정보보호학회 1991년도 학술발표논문집
• /
• pp.105-133
• /
• 1991

본 논문에서는 임의의 이진 난수발생기의 source가 $BMS_{p}$ 이거나 M-memory를 갖는 마르코프연쇄로 모델화 되었을 경우에 비트당 entropy와 관련이 있는 새로운 randomness에 관한 통계적 검정법을 제안한다. 기존에 알려진 이진 난수발생기의 randomness검정법이 0또는 1의 분포의 편향성(bias)이나 연속된 비트간의 상관성(correlation)중의 한 종류만의 non-randomness를 추적해낼 수 있는 반면에 새로운 검정법은 위의 두가지 검정을 통과하였을 때 암호학적으로 중요한 측도인 비트당 entropy 를 측정하여 암호학적인 약점을 검정할 수 있다. 또한 대칭(비밀키) 암호시스템의 통계적 결점을 바탕으로 하여 키를 찾는 공격자의 최적 전략( optimal strategy)문제를 분석하여 이 최적 전략이 이진 수열의 비트당 entropy와 밀접한 관계가 있음을 보이고 이 비트당 entropy와 관련이 있는 새로운 통계량을 도입하여 이진 난수 발생기의 source의 이진수열이 다음 3가지 경우, 즉, i.i.d. symmetric인 경우, $BMS_{p}$ 인 경우, M-memory를 갖는 마르코프연쇄인 경우의 각각에 대하여 특성을 조사하고 새로운 통계량의 평균과 분산을 구한다. 이때 구한 새로운 통계량은 잘 알려진 중심 극한 정리에 의하여 근사적으로 정규분포를 따르므로 위의 평균과 분산을 이용하여 스트림 암호시스템에서 구성요소로 많이 사용되는 몇 몇 간단한 이진 난수 발생기에 적용하여 통계적 검정을 실시함으로써 entropy 관점의 검정법이 새로운 randomness 검정법으로 타당함을 보인다.

• 대한전자공학회논문지TC
• /
• 제48권3호
• /
• pp.50-59
• /
• 2011

본 논문은 주파수 영역에서 과거와 현재에 센싱된 결과들의 관계를 이용한 스펙트럼 센싱기법을 제안하였다. 기존에 제안된 대부분의 스펙트럼 센싱기법은 해당 시간에 센싱된 우선사용자의 신호만을 다루고 있다. 해당 시간 이전의 우선사용자의 상태는 조건부확률을 사용하여 검출기의 신뢰성을 증가시킬 수 있다. 따라서, 본 논문은 이전 시간과 해당 시간의 스펙트럼 센싱 결과를 사용하는 cross entropy 기반의 스펙트럼 센싱기법을 제안하며 이를 통해 우선사용자 신호 검출 성능을 향상시키고 잡음에 강인한 성능을 가질 수 있다. 이전 시간에 검출된 신호가 잡음인 경우 cross entropy 기반의 스펙트럼 센싱 성능 감소는 기존의 entropy 기반의 센싱기법과 동일하게 된다. 이러한 문제를 해결하기 위해 본 논문에서는 보다 향상된 cross entropy 센싱기법을 제안하였다. 본 논문은 시뮬레이션을 통해 가장 최근에 제안된 주파수 영역에서의 entropy 기반 스펙트럼 센싱기법 보다 제안된 방법이 더 나은 성능을 보이는 것을 보였다.

• 한국융합학회논문지
• /
• 제4권2호
• /
• pp.35-41
• /
• 2013

Data management with fuzzy entropy and similarity measure were discussed and verified by applying reliable data selection problem. Calculation of certainty or uncertainty for data, fuzzy entropy and similarity measure are designed and proved. Proposed fuzzy entropy and similarity are considered as dissimilarity measure and similarity measure, and the relation between two measures are explained through graphical illustration.Obtained measures are useful to the application of decision theory and mutual information analysis problem. Extension of data quantification results based on the proposed measures are applicable to the decision making and fuzzy game theory.

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제9권1호
• /
• pp.20-33
• /
• 2015

Spectrum sensing is a key component of cognitive radio. The prediction of the primary user status in a low signal-to-noise ratio is an important factor in spectrum sensing. However, because of noise uncertainty, secondary users have difficulty distinguishing between the primary signal and an unauthorized signal when an unauthorized user exists in a cognitive radio network. To resolve the sensitivity to the noise uncertainty problem, we propose an entropy-based spectrum sensing scheme to detect the primary signal accurately in the presence of an unauthorized signal. The proposed spectrum sensing uses the conditional entropy between the primary signal and the unauthorized signal. The ability to detect the primary signal is thus robust against noise uncertainty, which leads to superior sensing performance in a low signal-to-noise ratio. Simulation results show that the proposed spectrum sensing scheme outperforms the conventional entropy-based spectrum sensing schemes in terms of the primary user detection probability.

• Journal of the Korean Data and Information Science Society
• /
• 제17권1호
• /
• pp.259-268
• /
• 2006

For Type-II censored sample, we propose three modified entropy estimators based on the Vasieck's estimator, van Es' estimator, and Correa's estimator. We also propose the goodness-of-fit tests of the Weibull distribution based on the modified entropy estimators. We simulate the mean squared errors (MSE) of the proposed entropy estimators and the powers of the proposed tests. We also compare the proposed tests with the modified Kolmogorov-Smirnov and Cramer-von-Mises tests which were proposed by Kang et al. (2003).

• 한국정보통신학회논문지
• /
• 제26권7호
• /
• pp.972-980
• /
• 2022

영상을 이용한 기계학습 기반의 나비 종 인식 기술은 나비 종의 다양성 및 개체 수, 종의 서식 분포 등을 파악하는데 관련 분야 종사자의 많은 시간과 비용 감소의 효과를 가져온다. 나비 종 분류의 정확성과 시간 효율을 높이기 위해 기계학습 모델의 입력으로 사용되는 여러 가지 특징들이 연구되었다. 그중 엔트로피 개념을 이용한 가지 길이 유사성 엔트로피나 색채 강도 엔트로피 방법이 푸리에 변환이나 웨이블릿 등 다른 특징들에 비해 높은 정확성과 적은 학습 시간을 보여주었다. 본 논문은 나비의 컬러 영상에 대한 RGB 색채 강도 엔트로피를 이용한 특징 추출 알고리즘을 제안한다. 또한 제안한 특징 추출 방법과 대표적인 앙상블 모델들을 결합한 나비 인식 시스템을 개발하고 성능을 평가한다.