The KIPS Transactions:PartB (정보처리학회논문지B)

Korea Information Processing Society (한국정보처리학회)
권호 표지

An Efficient Extraction of Data Feature By Using Neural Networks of Hybrid Learning Algorithm

조합형 학습알고리즘의 신경망을 이용한 데이터의 효율적인 특징추출

  • Published : 2001.04.01
Download PDF
⟨ Previous Next ⟩

Abstract

본 논문에서는 새로운 학습알고리즘의 비선형 주요성분분석 신경망을 이용한 영상데이터의 효율적인 특징추출에 대하여 제안한다. 제안된 학습알고리즘에서는 최적해로 수렴하는 과정에서 발생할 수도 있는 진동을 억제하여 빠른 속도의 수렴이 가능하도록 하기 위해 모멘트를 이용하였고, 국소최적해를 만났을 때 이를 벗어난 전역최적해로의 수렴을 위한 새로운 연결가중치의 설정을 위하여 동적터널링을 이용함으로써 빠른 수렴속도로 전역최적해에 수렴되도록 학습시킬 수 있다. 제안된 학습알고리즘을 이용한 신경망을 256$\times$256 픽셀의 간암영상과 128$\times$128 픽셀의 얼굴영상을 대상으로 실험한 결과, 기울기하강의 학습알고리즘을 이용한 기존 비선형 주요성분분석 신경망보다 우수한 수렴성능과 특징추출성능이 있음을 확인 할 수 있었다.

Keywords

References

  1. S. Y. Kung, 'Digital Neural Networks,' Prentice Hall, Int., Inc., Englewood Cliffs, New Jerey, pp.269-310, 1993
  2. J. Hertz, A. Krogh, and R. G. Palmer, 'Introduction to the Theory of Neural Computation,' Santa Fe Institute, Lecture Notes, Vol.1, pp. 197-250, 1995
  3. S. Haykin, 'Neural Networks : A Comprehensive Foundation,' Prentice-Hall, 2 ed., London, pp.392-442, 1999
  4. M. Arozullah and A. Namphol, 'A Data Compression System Using Neural Network Based Architecture,' International Joint Conference on Neural Networks, San Diego, Vol.1, pp.531-536, June 1990 https://doi.org/10.1109/IJCNN.1990.137619
  5. J. A. Freeman and D. M. Skapura, 'Neural Networks : Algorithms, Applications, and Programming Techniques,' Addison Wesley, London, pp.89-125, 1991
  6. Mark A. Kramer, 'Nonlinear Principal Component Analysis Using Autoassociative Neural Networks,' AIChE Journal, Vol.37, No.2, pp.233-243, Feb. 1991 https://doi.org/10.1002/aic.690370209
  7. E.C.Malthouse, 'Limitations of Nonlinear PCA as Performed with Generic Neural Networks,' IEEE Transactions on Neural Networks, Vol.9, No.1, pp.165-173, Jan. 1998 https://doi.org/10.1109/72.655038
  8. D. Tzovaras and M. G. Strintzis, 'Use of Nolinear Principal Component Analysis and Vector Quantization for Image Coding,' IEEE Transactions on Image Processing, Vol.7, No.8, pp.1218-1223, Aug. 1998 https://doi.org/10.1109/83.704312
  9. F. D. Frate and G. Schiavon, 'Nonlinear Principal Component Analysis for the Radiometric Inversion of Atmospheric Profiles by Using Neural Networks,' IEEE Transactions on Geoscience and Remote Sensing, Vol.37, No.5, pp.2335-2342, Sep. 1999 https://doi.org/10.1109/36.789630
  10. N. Qian, 'On the momentum term in gradient descent learning algorithms,' Elsevier Science Ltd.., Neural Networks, pp.145-151, Dec. 1999 https://doi.org/10.1016/S0893-6080(98)00116-6
  11. Y. Yao, 'Dynamic Tunneling Algorithm for Global Optimization,' IEEE Trans. On Systems, Man and Cybernetics, vol.19, No.5, pp.1222-1230, Sept/Oct. 1989 https://doi.org/10.1109/21.44040