Feature Extraction on High Dimensional Data Using Incremental PCA

점진적인 주성분분석기법을 이용한 고차원 자료의 특징 추출

  • 김병주 (영산대학교 네트워크정보공학부)
  • Published : 2004.11.01

Abstract

High dimensional data requires efficient feature extraction techliques. Though PCA(Principal Component Analysis) is a famous feature extraction method it requires huge memory space and computational cost is high. In this paper we use incremental PCA for feature extraction on high dimensional data. Through experiment we show that proposed method is superior to APEX model.

고차원 자료를 효율적으로 처리하기 위해서는 특징 추출 기법이 필요하다. 주성분분석 방법은 대표적인 특징추출 방법이지만 학습 자료의 차원이 큰 경우에는 고유공간을 계산하기 위해 많은 기억공간과 계산량을 필요로 한다. 본 논문에서는 고차원 자료의 특징 추출을 위해 점진적인 주성분분석 방법을 사용한다. 제안한 방법에 대해 신경망에서 점진적인 주성분분석을 하는 대표적인 방법인 APEX모델과 실험을 통해 비교해 본 결과 제안된 방법이 APEX 모델 보다 성능이 우수함을 나타내었다.

Keywords

References

  1. Jolliffe, I.T., Principal component analysis,Springer-Veilag, New York, 1986
  2. Diamantaras, K.I. and Kung, S.Y, Principal Component Neural Networks: Theory and Applications, New York John Wiley&Sons,Inc. 1996
  3. Winkeler, J. Manjunath, B.S. and Chandrasekaran, S., 'Subset selection foractive object recognition,' In CVPR, IEEEComputer Society Press, vol. 2, pp.511-516 June 1999
  4. Chandrasekaran, S., Manjunath, B.S., Wang,Y.F., Winkler, J. and Zhang, H., 'Aneigenspace update algorithm for imageanalysis,' Graphical Models and ImageProcessing, Vo1.59(5), : pp. 321-332, 1997 https://doi.org/10.1006/gmip.1997.0425
  5. Diamantaras, K.I. and Kung, S.Y, PrindpalComponent Neural Networks: Theory andApplications, New York John Wiley&Sons,Inc. 1996
  6. Scholkopf, B., Smola, A. and Muller, K.R :Nonlinear component analysis as a kerneleigenvalue problem. Neural Computation10(5), (1998) 1299-1319 https://doi.org/10.1162/089976698300017467
  7. http://yann.lecun.com/exdb/mnist/