• The Journal of the Acoustical Society of Korea
• /
• 제15권2E호
• /
• pp.24-32
• /
• 1996

A rigorous theory for modeling, analysis, optimum nonseparable filter bank in multidimensional M-band quantized subband codec are developed in this paper. Each pdf-optimized quantizer is modeled by a nonlinear gain-plus-additive uncorrelated noise and embedded into the subband structure. We then decompose the analysis/synthesis filter banks into their polyphase components and shift the down-and up-samplers to the right and left of the analysis/synthesis polyphase matrices respectively. Focusing on the slow clock rate signal between the samplers, we derive the exact expression for the output mean square quantization error by using spatial-invariant analysis. We show that this error can be represented by two uncorrelated components : a distortion component due to the quantizer gain, and a random noise component due to fictitious uncorrelated noise at the uantizer. This mean square error is then minimized subject to perfect reconstruction (PR) constraints and the total bit allocation for the entire filter bank. The algorithm gives filter coefficients and subband bit allocations. Numerical design example for the optimum nonseparable orthonormal filter bank is given with a quincunx subsampling lattice.

• 정보처리학회논문지B
• /
• 제12B권4호
• /
• pp.379-386
• /
• 2005

본 논문은 다차원 서브밴드 필터 뱅크에서 양자화 효과에 대한 분석과 그에 따른 최적의 필터 설계 방법에 대한 이론을 제안한다. 기존의 서브밴드 필터뱅크에 대한 연구에서 양자화 과정에 대한 고려는 매우 미미하였다. 본 연구에서는 확률 밀도에 최적화된 양자화기가 이득에 무상관성 잡음이 더하여진 비선형 형태로 모델링 되어 서브밴드 구조에 결합된다. 분석/합성 필터 뱅크에 다위상 분리 방법을 적용하여 양자화 과정에 의한 출력에서의 MSE가 유도되며 이 에러의 최소화 과정을 통하여 최적의 필터 설계 방법이 개발된다. 또한 5점형 구조의 표본화 격자를 이용한 최적의 비분리 파라유니터리와 이중직교 필터의 설계와 이를 이용한 영상 데이터의 압축 및 복원 과정을 통하여 성능 분석을 한다. 시뮬레이션 결과 제안한 설계방법에 따른 필터가 기존의 단순한 PR 서브밴드 필터보다 영상의 압축 및 복원에서 10에서 20퍼센트 정도의 MSE 감소를 보여주었고 낮은 비트율에서 특히 우수한 성능을 나타내었다.