• 제목/요약/키워드: information entropy

검색결과 888건 처리시간 0.028초

엔트로피 추정에 기초한 적합도 검정 (Goodness-of-fit tests based on Entropy Estimators)

  • 김종태;차영준;김영훈;이재만;강상길
    • Journal of the Korean Data and Information Science Society
    • /
    • 제10권2호
    • /
    • pp.387-395
    • /
    • 1999
  • 본 연구의 목적은 엔트로피 추정량에 기초한 적합도검정 통계량들을 제시하고 경험적 분포에 기초한 적합도 검정 통계량들과의 검정력을 비교하여 향후 적합도 검정에 사용될 검정력을 선정하는데 그 목적이 있다. 또한 모란 (Moran)의 검정통계량과 엔트로피의 추정을 연구함으로 그 일치성을 알 수 있다.

  • PDF

Vertical Handoff Decision Algorithm combined Improved Entropy Weighting with GRA for Heterogeneous Wireless Networks

  • Zhao, Shasha;Wang, Fei;Ning, Yueqiang;Xiao, Yi;Zhang, Dengying
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제14권11호
    • /
    • pp.4611-4624
    • /
    • 2020
  • Future network scenario will be a heterogeneous wireless network environment composed of multiple networks and multimode terminals (MMT). Seamless switching and optimal connectivity for MMT among different networks and different services become extremely important. Here, a vertical handoff algorithm combined an improved entropy weighting method based on grey relational analysis (GRA) is proposed. In which, the improved entropy weight method is used to obtain the objective weights of the network attributes, and GRA is done to rank the candidate networks in order to choose the best network. Through simulation and comparing the results with other vertical handoff decision algorithms, the number of handoffs and reversal phenomenon are reduced with the proposed algorithm, which shows a better performance.

신경회로망 기반 우리나라 산업안전시스템의 모델링 (Neural Network-based Modeling of Industrial Safety System in Korea)

  • 최기흥
    • 한국안전학회지
    • /
    • 제38권1호
    • /
    • pp.1-8
    • /
    • 2023
  • It is extremely important to design safety-guaranteed industrial processes because such process determine the ultimate outcomes of industrial activities, including worker safety. Application of artificial intelligence (AI) in industrial safety involves modeling industrial safety systems by using vast amounts of safety-related data, accident prediction, and accident prevention based on predictions. As a preliminary step toward realizing AI-based industrial safety in Korea, this study discusses neural network-based modeling of industrial safety systems. The input variables that are the most discriminatory relative to the output variables of industrial safety processes are selected using two information-theoretic measures, namely entropy and cross entropy. Normalized frequency and severity of industrial accidents are selected as the output variables. Our simulation results confirm the effectiveness of the proposed neural network model and, therefore, the feasibility of extending the model to include more input and output variables.

K-means 클러스터링 알고리즘을 이용한 financial transfer entropy 시각화 연구 (A study on the visualization of financial transfer entropy by the k-means clustering algorithm)

  • 김진규;윤성로
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2009년도 추계학술발표대회
    • /
    • pp.409-410
    • /
    • 2009
  • 최근 Transfer entropy 이론을 주가지수 데이터에 적용하여 각 국가 간 상호 주고받는 정보의 방향성을 분석하고자 하는 연구가 진행되었다. 하지만 이렇게 각 국가 간의 정보 이동 관계를 고려하는 것도 중요하지만, 나아가 비슷한 방향성을 갖는 국가 군을 찾고 이를 분석하는 것 또한 중요한 연구이다. 기존의 연구 결과는 각 국가 간의 Entropy만 계산한 이차원 구조로 이 같은 경향성을 파악하기가 쉽지 않았다. 따라서 본 연구에서는 이 경향성을 쉽게 찾기 위해 k-means 클러스터링 알고리즘을 적용한 시각화 방법을 제안하고자 한다.

고주파에 적합한 교차 엔트로피 손실함수에 대한 초해상도 (Super-Resolution with Cross-Entropy Loss Adapted to High Frequencies)

  • 오윤주;김태현
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2024년도 춘계학술발표대회
    • /
    • pp.709-710
    • /
    • 2024
  • Super resolution에서 High-frequency Details를 개선하는 것이 최근 문제이다. 기존에는 Super resolution을 Regression task로 접근하므로써 L2 Loss를 사용하여 이미지가 흐릿하게 되었다. 이를 해결하기위해, Classification task로 바꾸므로써 Cross Entropy Loss을 적용하여 Cross-entropy Super-resolution (CS)를 설계한다. CS를 통해 선명도와 Details이 개선되지만, 저주파의 CE Loss 학습으로인한 Black Artifacts가 발생한다. 그래서, L2 Loss는 저주파와 같이 큰 신호에 더 초점을 맞추므로, 성능 개선을 위해 저주파를 L2 Loss에서, 고주파를 CE Loss에서 학습시킨 Frequency-specific Cross-entropy Super-resolution (FCS)을 제안한다. 우리는 왜곡에 강하며 Human의 인식과 유사한 측정지표인 Learned Perceptual Image Patch Similarity (LPIPS)로 평가한다. 실험한 모든 데이터 셋에서 우리의 FCS는 Baseline보다 LPIPS가 약 1.7배 정도 개선되었다.

PSS Evaluation Based on Vague Assessment Big Data: Hybrid Model of Multi-Weight Combination and Improved TOPSIS by Relative Entropy

  • Lianhui Li
    • Journal of Information Processing Systems
    • /
    • 제20권3호
    • /
    • pp.285-295
    • /
    • 2024
  • Driven by the vague assessment big data, a product service system (PSS) evaluation method is developed based on a hybrid model of multi-weight combination and improved TOPSIS by relative entropy. The index values of PSS alternatives are solved by the integration of the stakeholders' vague assessment comments presented in the form of trapezoidal fuzzy numbers. Multi-weight combination method is proposed for index weight solving of PSS evaluation decision-making. An improved TOPSIS by relative entropy (RE) is presented to overcome the shortcomings of traditional TOPSIS and related modified TOPSIS and then PSS alternatives are evaluated. A PSS evaluation case in a printer company is given to test and verify the proposed model. The RE closeness of seven PSS alternatives are 0.3940, 0.5147, 0.7913, 0.3719, 0.2403, 0.4959, and 0.6332 and the one with the highest RE closeness is selected as the best alternative. The results of comparison examples show that the presented model can compensate for the shortcomings of existing traditional methods.

SOME PROPERTIES OF MUTUAL INFORMATION AND TYPICAL SET

  • LEE, YOUNG SOO
    • Journal of the Korean Society for Industrial and Applied Mathematics
    • /
    • 제4권1호
    • /
    • pp.133-142
    • /
    • 2000
  • In this note we define typical set and differential entropy for continuous random variables. Using Markov chain, we show that the various properties of the mutual information and entropies (theorems 3.2 and 3.4 ) and show the properties of typical set in continuous random variables( lemma 4.2 and theorem 4.3.)

  • PDF

NIST SP 800-90B 프레딕터를 이용한 잡음원의 엔트로피 추정량에 대한 실험적 분석 (An Experimental Analysis on Entropy Estimators for the Entropy Sources Using Predictors of NIST SP 800-90B)

  • 박호중;배민영;염용진;강주성
    • 한국통신학회논문지
    • /
    • 제41권12호
    • /
    • pp.1892-1902
    • /
    • 2016
  • 잡음원(Noise source)의 안전성 평가에 사용되는 대표적인 표준으로는 미국 NIST의 SP 800-90B가 있다. 최근 SP 800-90B가 2차 안(Second Draft)으로 개정되면서 Non-IID 트랙의 최소 엔트로피 추정에 프레딕터(predictor)를 이용한 추정 방법이 새롭게 추가되었다. 프레딕터는 잡음원의 주기적인 특성을 검출하기에 용이하다고 알려져 있지만, 그 특성에 대한 구체적인 언급은 하지 않고 있다. 이에 본 논문에서는 프레딕터가 검출해낼 수 있는 잡음원의 주기적 특성을 명확히 밝히기 위한 실험을 진행한다. 먼저 주기적 성질을 갖는 잡음원에 대하여 Non-IID 트랙의 추정을 실시했을 때, 잡음원의 최소 엔트로피가 대체적으로 프레딕터보다는 Non-IID 트랙의 다른 추정 방법에 의해서 결정되고 있음을 실험적으로 확인한다. 다음으로 프레딕터를 이용한 추정법이 검출해낼 수 있는 주기적 특성을 밝혀내기 위한 다양한 실험 결과를 제시함으로써, 프레딕터 추정 방법의 의미와 그 역할을 실험적으로 규명한다.

엔트로피 값 변화 분석을 이용한 실행 압축 해제 방법 연구 (A Study on Generic Unpacking using Entropy Variation Analysis)

  • 이영훈;정만현;정현철;손태식;문종섭
    • 정보보호학회논문지
    • /
    • 제22권2호
    • /
    • pp.179-188
    • /
    • 2012
  • 악성코드의 탐지 및 분석 회피 기술 중 실행 압축 기술은 악성코드의 용량을 줄이고 분석가가 코드를 분석할 때 혼란을 주도록 코드를 변형하고 있다. 따라서 악성코드의 확산이 용이해지고 분석하는데 시간이 오래 걸려 신속한 대응이 어렵게 만들고 있다. 최근에는 이러한 실행 압축된 악성코드에 대응하기 위하여 실행 압축 해제 관련 연구가 진행되고 있다. 실행 압축 프로그램은 실행되면 실행 압축을 해제하게 된다. 실행 압축 해제 때 압축되어 있던 데이터가 해제 되면서 실행 압축 파일의 데이터가 변경되거나 추가되어 데이터의 변화가 생기게 된다. 이때 이러한 변화 때문에 실행 압축 파일의 엔트로피 값이 변화하게 된다. 실행 압축 해제가 끝나게 되면 이러한 데이터 변화가 끝나고 실제적인 프로그램이 수행되므로 엔트로피 값이 변화하지 않게 된다. 그러므로 이러한 성질을 이용하여 실행 압축 해제되는 시점을 찾게 되면 실행 압축 알고리즘에 상관없이 실행 압축을 해제 할 수 있게 된다. 본 논문에서는 실행 압축 파일의 압축 해제 때의 엔트로피 값 변화량을 보고 실행 압축 해제가 끝나는 시점을 판단하여 실행 압축을 해제하는 방법을 제안한다.

A Goodness of Fit Tests Based on the Partial Kullback-Leibler Information with the Type II Censored Data

  • Park, Sang-Un;Lim, Jong-Gun
    • 한국통계학회:학술대회논문집
    • /
    • 한국통계학회 2003년도 추계 학술발표회 논문집
    • /
    • pp.233-238
    • /
    • 2003
  • Goodness of fit test statistics based on the information discrepancy have been shown to perform very well (Vasicek 1976, Dudewicz and van der Meulen 1981, Chandra et al 1982, Gohkale 1983, Arizona and Ohta 1989, Ebrahimi et al 1992, etc). Although the test is well defined for the non-censored case, censored case has not been discussed in the literature. Therefore we consider a goodness of fit test based on the partial Kullback-Leibler(KL) information with the type II censored data. We derive the partial KL information of the null distribution function and a nonparametric distribution function, and establish a goodness of fit test statistic. We consider the exponential and normal distributions and made Monte Calro simulations to compare the test statistics with some existing tests.

  • PDF