The KIPS Transactions:PartB (정보처리학회논문지B)

Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

Optimum Subband Quantization Filter Design for Image Compression

영상압축을 위한 최적의 서브밴드 양자화 필터 설계

  • Published : 2005.08.01
Download PDF
⟨ Previous Next ⟩

Abstract

This paper provides a rigorous theory for analysis of quantization effects and optimum filter bank design in quantized multidimensional subband filter banks. Even though subband filter design has been a hot topic for last decades, a few results have been reported on the subband filter with a quantizer. Each pdf-optimized quantizer is modeled by a nonlinear gain-plus-additive uncorrelated noise and embedded into the subband structure. Using polyphase decomposition of the analysis/synthesis filter banks, we derive the exact expression for the output mean square quantization error. Based on the minimization of the output mean square error, the technique for optimal filter design methodology is developed. Numerical design examples for optimum nonseparable paraunitary and biorthogonal filter banks are presented with a quincunx subsampling lattice. Through the simulation, $10\~20\;\%$ decreases in MSE have been observed compared with subband filter with no quantizers especially for low bit rate cases.

본 논문은 다차원 서브밴드 필터 뱅크에서 양자화 효과에 대한 분석과 그에 따른 최적의 필터 설계 방법에 대한 이론을 제안한다. 기존의 서브밴드 필터뱅크에 대한 연구에서 양자화 과정에 대한 고려는 매우 미미하였다. 본 연구에서는 확률 밀도에 최적화된 양자화기가 이득에 무상관성 잡음이 더하여진 비선형 형태로 모델링 되어 서브밴드 구조에 결합된다. 분석/합성 필터 뱅크에 다위상 분리 방법을 적용하여 양자화 과정에 의한 출력에서의 MSE가 유도되며 이 에러의 최소화 과정을 통하여 최적의 필터 설계 방법이 개발된다. 또한 5점형 구조의 표본화 격자를 이용한 최적의 비분리 파라유니터리와 이중직교 필터의 설계와 이를 이용한 영상 데이터의 압축 및 복원 과정을 통하여 성능 분석을 한다. 시뮬레이션 결과 제안한 설계방법에 따른 필터가 기존의 단순한 PR 서브밴드 필터보다 영상의 압축 및 복원에서 10에서 20퍼센트 정도의 MSE 감소를 보여주었고 낮은 비트율에서 특히 우수한 성능을 나타내었다.

Keywords

References

  1. A. Tabatabai, 'Optimum analysis/synthesis filter bank structures with application to sub-band coding systems,' IEEE Proc. ISCAS'88, pp.823-826, 1988 https://doi.org/10.1109/ISCAS.1988.15051
  2. N. Uzun and R. A. Haddad, 'Modeling and analysis of quantization errors in two channel subband filter structures,' Proc. SPIE'92, pp. 1446-1457, Nov., 1992 https://doi.org/10.1117/12.131416
  3. K. Park and R. A. Haddad, 'Optimum subband filter bank design and compensation in presence of quantizers,' Proc. 27th Asilomar Conf. Sign., Syst., Comp., Pacific Grove, CA, Nov., 1993 https://doi.org/10.1109/ACSSC.1993.342474
  4. R. A. Haddad and K. Park, 'Modeling, analysis, and optimum design of quantized M-band filter bank,' IEEE Trans. on Signal Proc., Vol.43, No.11, pp.2540-2549, Nov., 1995 https://doi.org/10.1109/78.482105
  5. R. Gandhi and S. K. Mitra, 'Quantization to maximize SNR in non-orthogonal subband coders,' Proc. Int. Conf. Acoustics, Speech and Signal Processing, Vol.6, pp.3689-3692, May, 2001 https://doi.org/10.1109/ICASSP.2001.940643
  6. G. Calvagno, G. A. Mian, and R. Rinaldo, 'Synthesis filter bank optimization in two-dimensional separable subband coding systems,' IEEE Trans. Image Proc., Vol.9, No.9, pp.1497-1508, Sep., 2000 https://doi.org/10.1109/83.862626
  7. G. Karlsson and M. Vetterli, 'Theory of two-dimensional multirate filter banks,' IEEE Trans. Acousicstics, Speech, Signal Processing., Vol.38, No.6, pp.925-937, June, 1990 https://doi.org/10.1109/29.56054
  8. E. Viscito and J. P. Allebach, 'The analysis and design of multidimensional FIR perfect reconstruction filter banks for arbitrary sampling lattices,' IEEE Trans. Circuits Syst., VoI.CAS-38, No.1, pp.29-41, Jan., 1991
  9. S. P Lloyd, 'Least squares quantization in PCM,' Inst. Mathematical Sciences meeting, Atlantic City, NJ, Sept., 1957
  10. N. S. Jayant and P. Noll, 'Digital Coding of Waveforms', Englewood Cliffs, NJ:Prentice-Hall, 1984
  11. J. Kovacevic and M. Vetterli, 'Nonseparable multidimensional perfect reconstruction filter banks and wavelet bases for R,' IEEE Trans. Information Theory, Vol.32, No.2, pp.533-555, Mar., 1992 https://doi.org/10.1109/18.119722
  12. P. P. Vaidyanathan, 'Multirate System and Filter Banks', Englewood Cliffs, NJ: Prentice-Hall, 1993
  13. A. K. Soman and P. P. Vaidyanathan, 'Coding gain in paraunitary analysis/synthesis systems,' IEEE Trans. Signal Processing, Vol.41, No.6, pp.1824-1835, May, 1993 https://doi.org/10.1109/78.215302
  14. M. Vetterli and C. Herley, 'Wavelets and filter banks: Relationships and new results,' Proc. ICASSP'90, pp.1723-1726, 1990 https://doi.org/10.1109/ICASSP.1990.115812
  15. A. N. Akansu, R. A. Haddad and H. Calgar, 'Perfect reconstruction binomial QMF-wavelet transform,' SPIE'90, Vol. 1360, pp.609-618, Oct., 1990.3 https://doi.org/10.1117/12.24246