영상압축을 위한 최적의 서브밴드 양자화 필터 설계

Abstract

본 논문은 다차원 서브밴드 필터 뱅크에서 양자화 효과에 대한 분석과 그에 따른 최적의 필터 설계 방법에 대한 이론을 제안한다. 기존의 서브밴드 필터뱅크에 대한 연구에서 양자화 과정에 대한 고려는 매우 미미하였다. 본 연구에서는 확률 밀도에 최적화된 양자화기가 이득에 무상관성 잡음이 더하여진 비선형 형태로 모델링 되어 서브밴드 구조에 결합된다. 분석/합성 필터 뱅크에 다위상 분리 방법을 적용하여 양자화 과정에 의한 출력에서의 MSE가 유도되며 이 에러의 최소화 과정을 통하여 최적의 필터 설계 방법이 개발된다. 또한 5점형 구조의 표본화 격자를 이용한 최적의 비분리 파라유니터리와 이중직교 필터의 설계와 이를 이용한 영상 데이터의 압축 및 복원 과정을 통하여 성능 분석을 한다. 시뮬레이션 결과 제안한 설계방법에 따른 필터가 기존의 단순한 PR 서브밴드 필터보다 영상의 압축 및 복원에서 10에서 20퍼센트 정도의 MSE 감소를 보여주었고 낮은 비트율에서 특히 우수한 성능을 나타내었다. This paper provides a rigorous theory for analysis of quantization effects and optimum filter bank design in quantized multidimensional subband filter banks. Even though subband filter design has been a hot topic for last decades, a few results have been reported on the subband filter with a quantizer. Each pdf-optimized quantizer is modeled by a nonlinear gain-plus-additive uncorrelated noise and embedded into the subband structure. Using polyphase decomposition of the analysis/synthesis filter banks, we derive the exact expression for the output mean square quantization error. Based on the minimization of the output mean square error, the technique for optimal filter design methodology is developed. Numerical design examples for optimum nonseparable paraunitary and biorthogonal filter banks are presented with a quincunx subsampling lattice. Through the simulation, <TEX>$10\~20\;\%$</TEX> decreases in MSE have been observed compared with subband filter with no quantizers especially for low bit rate cases.