• Title/Summary/Keyword: 엔트로피 제한

Search Result 47, Processing Time 0.022 seconds

Entropy-Constrained Sample-Adaptive Product Quantizer Design for the High Bit-Rate Quantization (고 전송률 양자화를 위한 엔트로피 제한 표본 적응 프로덕트 양자기 설계)

  • Kim, Dong-Sik
    • Journal of the Institute of Electronics Engineers of Korea SP
    • /
    • v.49 no.1
    • /
    • pp.11-18
    • /
    • 2012
  • In this paper, an entropy constrained vector quantizer for high bit-rates is proposed. The sample-adaptive product quantizer (SAPQ), which is based on the product codebooks, is employed, and a design algorithm for the entropy constrained sample adaptive product quantizer (ECSAPQ) is proposed. The performance of the proposed ECSAPQ is better than the case of the entropy constrained vector quantizer by 0.5dB. It is also shown that the ECSAPQ distortion curve, which is based on the scalar quantizer, is lower than the high-rate theoretical curve of the entropy constrained scalar quantizer, where the theoretical curve have 1.53dB difference from Shannon's lower bound.

Image Coding using Conditional Entropy Constrained Vector Quantization (조건부 엔트로피 제한 벡터 양자화를 이용한 영상 부호화)

  • Lee, Seung-Jun;Seo, Yong-Chang;Lee, Choong-Woong
    • Journal of the Korean Institute of Telematics and Electronics B
    • /
    • v.31B no.11
    • /
    • pp.88-96
    • /
    • 1994
  • This paper proposes a new vector quantization scheme which exploits high correlations among indexes in vector quantization. An optimal vector quantizer in the rate-distortion sense can be obtained, if it is designed so that the average distortion can be minimized under the constraint of the conditional entropy of indes, which is usually much smaller than the entropy of index due to the high correlations among indexes of neighboring vectors. The oprimization process is very similar to that in ECVQ(entropy-constrained vector quanization) except that in the proposed scheme the Viterbi algorithm is introduced to find the optimal index sequence. Simulations show that at the same bitrate the proposed method provides higher PSNR by 1.0~3.0 dB than the conventional ECVQ when applied to image coding.

  • PDF

Entropy-Constrained Temporal Decomposition (엔트로피 제한 조건을 갖는 시간축 분할)

  • Lee Ki-Seung
    • The Journal of the Acoustical Society of Korea
    • /
    • v.24 no.5
    • /
    • pp.262-270
    • /
    • 2005
  • In this paper, a new temporal decomposition method is proposed. where not oniy distortion but also entropy are involved in segmentation. The interpolation functions and the target feature vectors are determined by a dynamic Programing technique. where both distortion and entropy are simultaneously minimized. The interpolation functions are built by using a training speech corpus. An iterative method. where segmentation and estimation are iteratively performed. finds the locally optimum Points in the sense of minimizing both distortion and entropy. Simulation results -3how that in terms of both distortion and entropy. the Proposed temporal decomposition method Produced superior results to the conventional split vector-quantization method which is widely employed in the current speech coding methods. According to the results from the subjective listening test, the Proposed method reveals superior Performance in terms of qualify. comparing to the Previous vector quantization method.

Edge Detection in noisy Images by means of Fuzzy Entropy (퍼지엔트로피에 의한 잡음영상의 경계검출)

  • 박인규
    • Proceedings of the Korea Multimedia Society Conference
    • /
    • 2000.04a
    • /
    • pp.170-173
    • /
    • 2000
  • 잡음에 오염된 영상의 경계검출에 대한 퍼지연산자를 보강하였다. 제한된 방법은 데이터에 존재하는 잡음에 강인한 경계를 검출하기 위하여 퍼지 엔트로피에 의한 퍼지추론을 이용한다. 퍼지기법이 영상의 세세한 정보의 검출과 잡음에 대한 민감도의 관점에서 보았을 때 기존의 방법들보다 성능이 우수하다는 것을 여러 실험결과를 통하여 알 수 있었다.

  • PDF

Classification Learning Data using Maximum Entropy Theory (최대 엔트로피 이론을 이용한 학습 데이터 분류)

  • Kim, Min-Woo;Kim, Dong-Hyun;Lee, Byung-Jun;Kim, Kyung-Tae;Youn, Hee-Yong
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2018.07a
    • /
    • pp.213-214
    • /
    • 2018
  • 빅 데이터 활용의 증가로 인해 효율적으로 데이터를 분류하는 것은 머신러닝의 주요 과제이다. 제한적인 자원을 가지고 이에 맞는 처리능력을 갖기 위해서는 단일 기기의 자원 관리능력을 향상시키는 방향의 연구가 필요하다. 본 논문에서는 머신러닝을 위한 학습 데이터를 최대 엔트로피 이론을 적용시켜 효과적으로 분류하는 방법을 제안한다. 최대 엔트로피에 대한 간단한 설명과 최대 엔트로피 이론을 적용시키기 위한 간단한 사전 작업들의 방향 등에 대한 설명을 토대로 기술하였다. 또한 본 연구를 통해 얻게 된 문제점들과 향후 연구에 필요한 피드백을 갖는다.

  • PDF

Accuracy Enhancement of Determining File Encryption Status through Divided Shannon Entropy (분할된 Shannon 엔트로피 값을 이용한 파일 암호화 판별 정확성 향상에 대한 연구)

  • Ko, Ju-Seong;Kwak, Jin
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2018.10a
    • /
    • pp.279-281
    • /
    • 2018
  • 랜섬웨어는 사용자의 중요 파일을 암호화한 후 금전을 요구하는 형태의 악성코드로, 전 세계적으로 큰 피해를 발생시켰다. 안드로이드 환경에서의 랜섬웨어는 앱을 통해 동작하기 때문에, 앱의 악의적인 암호화 기능 수행을 실시간으로 탐지할 수 있는 방안에 대한 연구들이 진행되고 있다. 자원 제한적인 안드로이드 환경에서 중요한 파일들에 대한 암호화 수행 여부를 실시간으로 탐지하기 위한 방안으로 Shannon 엔트로피 값 비교가 있다. 하지만 파일의 종류에 따라 Shannon 엔트로피 값이 크게 달라질 수 있으며, 암호화 기능 수행에 대한 오탐이 발생할 수 있다. 따라서 본 논문에서는 파일에 대한 분할된 Shannon 엔트로피 값을 측정하여 암호화 기능 수행 탐지의 정확성을 높이고자 한다.

Adaptive Learning Rate and Limited Error Signal to Reduce the Sensitivity of Error Back-Propagation Algorithm on the n-th Order Cross-Entropy Error (오류 역전파 알고리즘의 n차 크로스-엔트로피 오차신호에 대한 민감성 제거를 위한 가변 학습률 및 제한된 오차신호)

  • 오상훈;이수영
    • Journal of the Korean Institute of Telematics and Electronics C
    • /
    • v.35C no.6
    • /
    • pp.67-75
    • /
    • 1998
  • Although the nCE(n-th order cross-entropy) error function resolves the incorrect saturation problem of conventional EBP(error back-propagation) algorithm, the performance of MLP's (multilayer perceptrons) trained using the nCE function depends heavily on the order of the nCE function. In this paper, we propose an adaptive learning rate to make the performance of MLP's insensitive to the order of the nCE error. Additionally, we propose a limited error signal of output node to prevent unstable learning due to the adaptive learning rate. The effectiveness of the proposed method is demonstrated in simulations of handwritten digit recognition and thyroid diagnosis tasks.

  • PDF

A Study on a High-Performance VLSI Design of VLC-Based Entropy Decoder for VC-1 (VC-1용 VLC 기반 엔트로피 디코더의 고성능 VLSI 설계에 관한 연구)

  • Song, Hyeong-Don;Sonh, Seung-Il
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2007.11a
    • /
    • pp.829-832
    • /
    • 2007
  • 디지털 비디오 압축 기술은 대역폭과 저장 공간이 제한되는 멀티미디어 데이터의 효율적인 전송과 저장을 가능하게 하는 중요한 역할을 해왔다. 현재 VC-1은 차세대 DVD의 표준으로 채택되어 사용되고 있고 H.264/AVC의 대안으로 제안되고 있다. 이에 본 논문에서는 VC-1의 엔트로피 디코더에 대하여 소프트웨어 검증을 통한 최적화 알고리즘을 사용하여 하드웨어 설계 언어인 VHDL 언어를 이용하여 기술하고 ModeSim6.0a를 이용한 데이터 검증을 수행하였다.

  • PDF

Entropy-Coded Lattice Vector Quantization Based on the Sample-Adaptive Product Quantizer and its Performance for the Memoryless Gaussian Source (표본 적응 프로덕트 양자기에 기초한 격자 벡터 양자화의 엔트로피 부호화와 무기억성 가우시언 분포에 대한 성능 분석)

  • Kim, Dong Sik
    • Journal of the Institute of Electronics and Information Engineers
    • /
    • v.49 no.9
    • /
    • pp.67-75
    • /
    • 2012
  • Optimal quantizers in conducting the entropy-constrained quantization for high bit rates have the lattice structure. The quantization process is simple due to the regular structure, and various quantization algorithms are proposed depending on the lattice. Such a lattice vector quantizer (VQ) can be implemented by using the sample-adaptive product quantizer (SAPQ) and its output can also be easily entropy encoded. In this paper, the entropy encoding scheme for the lattice VQ is proposed based on SAPQ, and the performance of the proposed lattice VQ, which is based on SAPQ with the entropy coder, is asymptotically compared as the rate increases. It is shown by experiment that the gain for the memoryless Gaussian source also approaches the theoretic gain for the uniform density case.

Visual Entropy gain for Wavelet Image Coding (웨이블릿 화상 코딩에서의 시각적 엔트로피 이득)

  • Park, Jin-Cheol;Lee, Hyung-Keuk;Lee, Sang-Hoon
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2007.05a
    • /
    • pp.383-385
    • /
    • 2007
  • 웨이블릿 화상 코딩 기법은 자연적으로 레이어드된 비트스트림을 생성해 내기 때문에, 주파수 제한적인 채널 상황에서 에러에 강한 성능을 나타내고 있다. 본 논문에서는 Progressive Image Coder의 성능을 비교하고 평가하는 새로운 기법인 시각적 엔트로피를 이용해, 웨이블릿 영역에서 시각적인 가중치를 이용해 정량화하려고 한다. 이 시각적인 가중치는 주파수 영역과 공간 영역에서, 인간의 시각 체계(HVS, human visual system)에 기반 하여 만들어진 것으로, 웨이블릿 계수들의 코딩 순서를 결정하는 기준으로 사용되고, 이렇게 해서 시각적인 화질을 개선할 수가 있다. 정규화된 채널 용량이 0.3일 때, 전송 이득은 시각적 엔트로피로 측정해 보았을 때 23% 이상 얻을 수 있다.

  • PDF