• 정보처리학회논문지B
• /
• 제12B권4호
• /
• pp.379-386
• /
• 2005

본 논문은 다차원 서브밴드 필터 뱅크에서 양자화 효과에 대한 분석과 그에 따른 최적의 필터 설계 방법에 대한 이론을 제안한다. 기존의 서브밴드 필터뱅크에 대한 연구에서 양자화 과정에 대한 고려는 매우 미미하였다. 본 연구에서는 확률 밀도에 최적화된 양자화기가 이득에 무상관성 잡음이 더하여진 비선형 형태로 모델링 되어 서브밴드 구조에 결합된다. 분석/합성 필터 뱅크에 다위상 분리 방법을 적용하여 양자화 과정에 의한 출력에서의 MSE가 유도되며 이 에러의 최소화 과정을 통하여 최적의 필터 설계 방법이 개발된다. 또한 5점형 구조의 표본화 격자를 이용한 최적의 비분리 파라유니터리와 이중직교 필터의 설계와 이를 이용한 영상 데이터의 압축 및 복원 과정을 통하여 성능 분석을 한다. 시뮬레이션 결과 제안한 설계방법에 따른 필터가 기존의 단순한 PR 서브밴드 필터보다 영상의 압축 및 복원에서 10에서 20퍼센트 정도의 MSE 감소를 보여주었고 낮은 비트율에서 특히 우수한 성능을 나타내었다.