• 제목/요약/키워드: Entropy source

검색결과 66건 처리시간 0.023초

한글의 First Order Markov Source에 의한 해석 (Analysis of Korean Language by First Order Markov Source)

  • 한영렬;박종원
    • 한국통신학회:학술대회논문집
    • /
    • 한국통신학회 1982년도 추계학술발표회논문집
    • /
    • pp.51-55
    • /
    • 1982
  • The analysis of Korean language by the first order markov source is carried out. The calculated entropy of the first order Markov source is also included. The results presented here are new data. The data can be useful in designing the keyboard pattern of terminal and the automatic discrimination of monosyllable in Korean language.

  • PDF

Shannon의 정보이론과 문헌정보 (Shannon's Information Theory and Document Indexing)

  • 정영미
    • 한국문헌정보학회지
    • /
    • 제6권
    • /
    • pp.87-103
    • /
    • 1979
  • Information storage and retrieval is a part of general communication process. In the Shannon's information theory, information contained in a message is a measure of -uncertainty about information source and the amount of information is measured by entropy. Indexing is a process of reducing entropy of information source since document collection is divided into many smaller groups according to the subjects documents deal with. Significant concepts contained in every document are mapped into the set of all sets of index terms. Thus index itself is formed by paired sets of index terms and documents. Without indexing the entropy of document collection consisting of N documents is $log_2\;N$, whereas the average entropy of smaller groups $(W_1,\;W_2,...W_m)$ is as small $(as\;(\sum\limits^m_{i=1}\;H(W_i))/m$. Retrieval efficiency is a measure of information system's performance, which is largely affected by goodness of index. If all and only documents evaluated relevant to user's query can be retrieved, the information system is said $100\%$ efficient. Document file W may be potentially classified into two sets of relevant documents and non-relevant documents to a specific query. After retrieval, the document file W' is reclassified into four sets of relevant-retrieved, relevant-not retrieved, non-relevant-retrieved and non-relevant-not retrieved. It is shown in the paper that the difference in two entropies of document file Wand document file W' is a proper measure of retrieval efficiency.

  • PDF

A Cooperative Transmission Strategy using Entropy-based Relay Selection in Mobile Ad-hoc Wireless Sensor Networks with Rayleigh Fading Environments

  • An, Beong-Ku;Duy, Tran Trung;Kong, Hyung-Yun
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제3권2호
    • /
    • pp.147-162
    • /
    • 2009
  • In this paper, we propose a Cooperative Transmission Strategy using Entropy-based Relay Selection in Mobile Ad-hoc Wireless Sensor Networks(MAWSN) with Rayleigh Fading Environments. The main features and contributions of the proposed cooperative transmission strategy are as follows. First, entropy-based relay selection is used to improve data transmission reliability from a source node to a destination node. Second, we present a theoretical analysis model for the proposed cooperative transmission strategy with the outage probability of the end-to-end performance. The performance of our protocol is evaluated using analysis and simulation.

표본 적응 프로덕트 양자기에 기초한 격자 벡터 양자화의 엔트로피 부호화와 무기억성 가우시언 분포에 대한 성능 분석 (Entropy-Coded Lattice Vector Quantization Based on the Sample-Adaptive Product Quantizer and its Performance for the Memoryless Gaussian Source)

  • 김동식
    • 전자공학회논문지
    • /
    • 제49권9호
    • /
    • pp.67-75
    • /
    • 2012
  • 높은 전송률에서 엔트로피 제한 양자화를 수행 시 최적의 양자기는 격자(lattice) 형태의 부호책을 가지는데, 규칙적인 구조로 인하여 양자화 과정이 단순하며, 격자의 형태에 따라 여러 양자화 알고리듬이 제안되어있다. 이러한 격자 벡터 양자기(vector quantizer: VQ)는 표본 적응 프로덕트 양자기(sample-adaptive product quantizer: SAPQ)를 사용하여 구현이 가능하며, 그 출력도 단순하게 엔트로피 부호화가 가능하다. 본 논문에서는 SAPQ에 기초한 엔트로피 부호화 방법을 제안하고, 무기억성(memoryless) 가우시언 분포에 대하여 여러 제안한 격자 VQ를 구현하고 양자화 에러 곡선을 엔트로피에 대하여 구하여 그 성능을 비교하였다. 실험을 통하여 전송률이 증가하면서 균등 분포에 이론적으로 얻는 이득과 비슷한 이득을 무기억성 가우시언 분포에서도 SAPQ의 출력을 엔트로피 부호화함으로 얻을 수 있음을 확인하였다.

NIST SP 800-90B 프레딕터를 이용한 잡음원의 엔트로피 추정량에 대한 실험적 분석 (An Experimental Analysis on Entropy Estimators for the Entropy Sources Using Predictors of NIST SP 800-90B)

  • 박호중;배민영;염용진;강주성
    • 한국통신학회논문지
    • /
    • 제41권12호
    • /
    • pp.1892-1902
    • /
    • 2016
  • 잡음원(Noise source)의 안전성 평가에 사용되는 대표적인 표준으로는 미국 NIST의 SP 800-90B가 있다. 최근 SP 800-90B가 2차 안(Second Draft)으로 개정되면서 Non-IID 트랙의 최소 엔트로피 추정에 프레딕터(predictor)를 이용한 추정 방법이 새롭게 추가되었다. 프레딕터는 잡음원의 주기적인 특성을 검출하기에 용이하다고 알려져 있지만, 그 특성에 대한 구체적인 언급은 하지 않고 있다. 이에 본 논문에서는 프레딕터가 검출해낼 수 있는 잡음원의 주기적 특성을 명확히 밝히기 위한 실험을 진행한다. 먼저 주기적 성질을 갖는 잡음원에 대하여 Non-IID 트랙의 추정을 실시했을 때, 잡음원의 최소 엔트로피가 대체적으로 프레딕터보다는 Non-IID 트랙의 다른 추정 방법에 의해서 결정되고 있음을 실험적으로 확인한다. 다음으로 프레딕터를 이용한 추정법이 검출해낼 수 있는 주기적 특성을 밝혀내기 위한 다양한 실험 결과를 제시함으로써, 프레딕터 추정 방법의 의미와 그 역할을 실험적으로 규명한다.

양자 특성 기반 칩을 활용한 엔트로피 소스 모델 수립 방법에 관한 연구 (A Study on the Establishment of Entropy Source Model Using Quantum Characteristic-Based Chips)

  • 김대형;김주빈;지동화
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 추계학술대회
    • /
    • pp.140-142
    • /
    • 2021
  • 5세대 이후의 이동통신 기술은 초고속, 초연결, 초저지연 등을 요구하고 있다. 이 중, 안전한 초연결의 기술적 요구사항을 만족하기 위해서는 IoT 서비스의 말단에 해당하는 저사양 IoT 기기들도 고사양 서버와 동일한 수준의 보안 기능을 제공할 수 있어야 한다. 이러한 보안 기능을 수행하기 위하여 암호 알고리즘에서 필요한 정도의 안전성을 가진 암호키들이 요구되고, 암호키는 보통 암호학적 난수 발생기로부터 생성된다. 이때 난수 생성을 위해서는 좋은 잡음원들이 필요한데, 저사양 기기 환경 특성상 충분한 잡음원을 확보하기 어렵기 때문에 TRNG와 같은 하드웨어 난수 발생기를 사용한다. 이 논문에서는 방사성 동위원소의 붕괴를 예측할 수 없다는 양자의 특성을 기반으로 한 칩을 사용하였으며, 이 칩이 출력하는 신호를 기반으로 이진 비트열 형태의 엔트로피 소스를 얻는 여러 방법(TRNG)을 제시하였다. 또한, 각각의 TRNG에서 출력된 값의 엔트로피에 대해 NIST SP 800-90B 테스트를 이용하여 각 방법에 대한 엔트로피 양을 비교하였다.

  • PDF

모듈의 의존관계와 저자 엔트로피를 이용한 소프트웨어 모듈-뷰 복원 (Recovery of Software Module-View using Dependency and Author Entropy of Modules)

  • 김정민;이찬근;이기성
    • 정보과학회 논문지
    • /
    • 제44권3호
    • /
    • pp.275-286
    • /
    • 2017
  • 본 연구에서 우리는 모듈의 의존관계와 저자 엔트로피(Author Entropy) 정보를 이용하여 소프트웨어 모듈-뷰를 복원하는 새로운 소프트웨어 클러스터링 기법을 제안한다. 해당 기법은 우선 구조적 및 논리적 의존관계 정보를 기준으로 소프트웨어 모듈을 클러스터링한 후, 모듈 별 저자 엔트로피를 이용하여 일부 선택된 모듈을 클러스터 결과로부터 이전한다. 제안된 기법의 평가를 위해 참(ground-truth) 모듈-뷰가 알려진 오픈소스 프로젝트들에 적용하여 MoJoFM 값을 구하였다. 이와 함께 기존에 연구된 모듈-뷰 복원 기법들의 MoJoFM값과 비교하여, 제안된 기법이 소프트웨어 모듈-뷰 복원에 보다 효과적임을 보였다.

고효율 엔트로피 부호화를 위한 ICMEP 알고리즘 설계 (Design of the ICMEP Algorithm for the Highly Efficient Entropy Encoding)

  • 이선근;임순자;김환용
    • 대한전자공학회논문지SD
    • /
    • 제41권4호
    • /
    • pp.75-82
    • /
    • 2004
  • 압축 과정 중에 빠른 처리율을 보여주는 렘펠-짚 알고리즘의 결합에 의하여 채널 전송율은 증가한다. 영상정보의 압축 과정동안 처리율을 향상시키기 위하여 ICMEP 알고리즘을 제안하였으며 HDTV에 적용시켜 엔트로피 부호화기를 설계하였으며 이를 검증하였다. ICMEP 엔트로피 암호기는 top-down 방식을 이용하여 설계하였으며 VHDL을 이용하여 회로 합성 및 모의실험을 수행하였다. 모의실험 결과, 구현된 ICHEP 엔트로피 부호화기는 메모리 포화방지 및 압축률 증가로 인하여 전체적인 시스템 효율이 향상됨을 확인하였다.

웨이블렛 변환과 MUSIC 기법을 이용한 소음원 추적 (Noise Source Localization by Applying MUSIC with Wavelet Transformation)

  • 최태환;고병식;임종명
    • 한국자동차공학회논문집
    • /
    • 제16권2호
    • /
    • pp.18-28
    • /
    • 2008
  • In inverse acoustic problem with nearfield sources, it is important to separate multiple acoustic sources and to measure the position of each target. This paper proposes a new algorithm by applying MUSIC(Multiple Signal Classification) to the outputs of discrete wavelet transformation with sub-band selection based on the entropy threshold, Some numerical experiments show that the proposed method can estimate the more precise positions than a conventional MUSIC algorithm under moderately correlated signal and relatively low signal-to-noise ratio case.

DELTA-SHOCK FOR THE NONHOMOGENEOUS PRESSURELESS EULER SYSTEM

  • Shiwei Li;Jianli Zhao
    • 대한수학회보
    • /
    • 제61권3호
    • /
    • pp.699-715
    • /
    • 2024
  • We study the Riemann problem for the pressureless Euler system with the source term depending on the time. By means of the variable substitution, two kinds of Riemann solutions including deltashock and vacuum are constructed. The generalized Rankine-Hugoniot relation and entropy condition of the delta-shock are clarified. Because of the source term, the Riemann solutions are non-self-similar. Moreover, we propose a time-dependent viscous system to show all of the existence, uniqueness and stability of solutions involving the delta-shock by the vanishing viscosity method.