DOI QR코드

DOI QR Code

얼굴 깊이 추정을 이용한 3차원 얼굴 생성 및 추적 방법

A 3D Face Reconstruction and Tracking Method using the Estimated Depth Information

  • 주명호 (가톨릭대학교 컴퓨터공학과) ;
  • 강행봉 (가톨릭대학교 디지털미디어학부)
  • 투고 : 2010.09.06
  • 심사 : 2010.11.16
  • 발행 : 2011.02.28

초록

얼굴의 3차원 정보는 얼굴 인식이나 얼굴 합성, Human Computer Interaction (HCI) 등 다양한 분야에서 유용하게 이용될 수 있다. 그러나 일반적으로 3차원 정보는 3D 스캐너와 같은 고가의 장비를 이용하여 획득되기 때문에 얼굴의 3차원 정보를 얻기 위해서는 많은 비용이 요구된다. 본 논문에서는 일반적으로 손쉽게 얻을 수 있는 2차원의 얼굴 영상 시퀀스로부터 효과적으로 3차월 얼굴 형태를 추적하고 재구성하기 위한 3차원 Active Appearance Model (3D-AAM) 방법을 제안한다. 얼굴의 3차원 변화 정보를 추정하기 위해 학습 영상은 정면 얼굴 포즈로 다양한 얼굴 표정 변화를 포함한 영상과 표정 변화를 갖지 않으면서 서로 크게 다른 얼굴 포즈를 갖는 영상으로 구성한다. 입력 영상의 3차원 얼굴 변화를 추정하기 위해 먼저 서로 다른 포즈를 갖는 학습 영상으로부터 얼굴의 각 특징점(Land-mark)의 기하학적 변화를 이용하여 깊이 정보를 추정하고 추정된 특징점의 깊이 정보를 입력 영상의 2차원 얼굴 변화에 추가하여 최종적으로 입력 얼굴의 3차원 변화를 추정한다. 본 논문에서 제안된 방법은 얼굴의 다양한 표정 변화와 함께 3차원의 얼굴 포즈 변화를 포함한 실험 영상을 이용하여 기존의 AAM에 비해 효과적이면서 빠르게 입력 얼굴을 추적(Fitting)할 수 있으며 입력 영상의 정확한 3차원 얼굴 형태를 생성할 수 있음을 보였다.

A 3D face shape derived from 2D images may be useful in many applications, such as face recognition, face synthesis and human computer interaction. To do this, we develop a fast 3D Active Appearance Model (3D-AAM) method using depth estimation. The training images include specific 3D face poses which are extremely different from one another. The landmark's depth information of landmarks is estimated from the training image sequence by using the approximated Jacobian matrix. It is added at the test phase to deal with the 3D pose variations of the input face. Our experimental results show that the proposed method can efficiently fit the face shape, including the variations of facial expressions and 3D pose variations, better than the typical AAM, and can estimate accurate 3D face shape from images.

키워드

참고문헌

  1. N. Faggian, A. P. Paplinski, and J. Sherrah. "Active Appearance Models for Automatic Fitting of 3D Morphable Models". IEEE International Conference on Video and Signal Based Surveillance, 90, 2006.
  2. Skoglund. “Three-dimensional face modeling and analysis”, M.S. thesis, Informatics and Mathematical Modelling, Tech. Univ. Denmark, Lyngby, Denmark, 2003.
  3. K.-J. Yoon, and I. S. Kweon. “Adaptive Support-Weight Approach for Correspondence Search”, IEEE Transactions on Pattern Analysis and Machine Intelligence, 28(4):650-656, 2006. https://doi.org/10.1109/TPAMI.2006.70
  4. J. Sung, and D. Kim. “Pose-Robust Facial Expression Recognition Using View-Based 2D+3D AAM”, IEEE Transactions On Systems, Man and Cybernetics, Part A: SYSTEMS AND HUMANS, 38(4):852-866, 2008. https://doi.org/10.1109/TSMCA.2008.923047
  5. T. F. Cootes, G. J. Edwards, and C. J. Taylor. “Active Appearance Models”, IEEE Transactionis on Pattern Analysis and Machine Intelligence, 23(6):681-685, 2001. https://doi.org/10.1109/34.927467
  6. C.-W. Chen, and C.-C. Wang. “3D Active Appearance Model for Aligning Faces in 2D Images”, Proceedings of the IEEE/RS International Conference on Intelligent Robots and Systems, 3133-3139, 2008.
  7. J. Xiao, S. Baker, I. Matthews, and T. Kanade. “Real-Time Combined 2D+3D Active Appearance Models”, Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 535-542, 2004.
  8. J. Heo, and M. Savvides. “In Between 3D Active Appearance Models and 3D Morphable Models”, Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops, 20-26, 2009.
  9. M. Brown, and D. G. Lowe. “Automatic Panoramic Image Stitching using Invariant Features”, International Journal of Computer Vision, 74(1):59-73, 2007. https://doi.org/10.1007/s11263-006-0002-3
  10. M. D. Cordea, and E. M. Petriu. “A 3-D Anthropometric-Muscle-Based Active Appearance Model,” IEEE Transactions on Instrumentation and Measurement, 55(1):91-98, 2006. https://doi.org/10.1109/TIM.2005.860861
  11. R. Hartley, and A. Zisserman. “Multiple View Geometry in Computer Vision,” Cambridge University Press, ISBN:0521540518, second edition, 2004.