DOI QR코드

DOI QR Code

A Neuro-Fuzzy System Modeling using Gaussian Mixture Model and Clustering Method

GMM과 클러스터링 기법에 의한 뉴로-퍼지 시스템 모델링

  • Kim, Sung-Suk (Chungbuk National University School of Electrical and Electronic Engineering) ;
  • Kwak, Keun-Chang (Chungbuk National University School of Electrical and Electronic Engineering) ;
  • Ryu, Jeong-Woong (Chungbuk National University School of Electrical and Electronic Engineering) ;
  • Chun, Myung-Geun (Chungbuk National University School of Electrical and Electronic Engineering)
  • 김승석 (충북대학교 전기전자공학부 컴퓨터 정보통신 연구소) ;
  • 곽근창 (충북대학교 전기전자공학부 컴퓨터 정보통신 연구소) ;
  • 유정웅 (충북대학교 전기전자공학부 컴퓨터 정보통신 연구소) ;
  • 전명근 (충북대학교 전기전자공학부 컴퓨터 정보통신 연구소)
  • Published : 2002.12.01

Abstract

There have been a lot of considerations dealing with improving the performance of neuro-fuzzy system. The studies on the neuro-fuzzy modeling have largely been devoted to two approaches. First is to improve performance index of system. The other is to reduce the structure size. In spite of its satisfactory result, it should be noted that these are difficult to extend to high dimensional input or to increase the membership functions. We propose a novel neuro-fuzzy system based on the efficient clustering method for initializing the parameters of the premise part. It is a very useful method that maintains a few number of rules and improves the performance. It combine the various algorithms to improve the performance. The Expectation-Maximization algorithm of Gaussian mixture model is an efficient estimation method for unknown parameter estimation of mirture model. The obtained parameters are used for fuzzy clustering method. The proposed method satisfies these two requirements using the Gaussian mixture model and neuro-fuzzy modeling. Experimental results indicate that the proposed method is capable of giving reliable performance.

본 논문에서는 여러 분야에서 널리 응용되고 있는 적응 뉴로-퍼지 시스템(ANFIS)의 성능 개선에 있어서 전제부 파라미터를 효과적으로 초기화 시키는 방법을 제안한다. 기존의 그리드 분할을 이용한 입력공간 선택 방법은 ANFIS의 규칙 생성에 있어서 얻어진 규칙의 수가 지수적으로 증가하는 단점이 있다. 이에, 본 연구에서는 GMM에서의 최대우도추정을 이용한 EM 알고리즘을 통하여 초기치에 의하여 성능의 영향이 좌우되는 ANFIS의 입력으로 주어 제안된 클러스터링 기법에 의하여 모델의 성능을 개선하고자 한다. 제안된 방법의 클러스터링 방법은 통계적 방법에 근거하여 좋은 성능의 파라미터를 획득할 수 있어 주어진 모델에 대한 ANFIS의 성능을 개선할 수 있다. 이들 방법의 유용함을 전형적인 다변수 비선형 데이터인 자동차 연료 예측 문제와 정수장 응집제 주입 문제에 적용하여 제안된 방법이 이전의 연구보다 성능이 개선되는 것을 통하여 보였다.

Keywords

References

  1. Neural fuzzy Systems : A Neuro-Fuzzy Synergism to Intelligent Systems C. T. Lin;C. S. G. Lee
  2. Neuro-Fuzzy and Soft Computing : A Computational Approach to Learning and Machine Intelligence J. S. R. Jang;C. T. Sun;E. Mizutani
  3. IEEE Trans. Computer v.21 no.Issue. 9 Fuzzy Concepts in Expert Systems K. S. Leung;W. Lam
  4. IEEE Trans. on System, Man, and Cybern. v.23 no.3 ANFIS : Adaptive-Networks-based Fuzzy Inference System J. S. R. Jang https://doi.org/10.1109/21.256541
  5. Pattern Recognition Letter v.17 Conditional fuzzy c-means W. Pedrycz https://doi.org/10.1016/0167-8655(96)00027-X
  6. IEEE Signal Processing v.13 The Expectation-Maximization Algorithm Todd K. Moon https://doi.org/10.1109/79.543975
  7. Pattern Classification Richard O. Duda;Peter E. Hart;David G. Stork
  8. IEEE Trans. Pattern Analysis and Machine Intelligencer v.24 no.3 Unsupervised Learning of Finite Mixture Models Mario A. T. Figureiredo;Anil K. Jain https://doi.org/10.1109/34.990138
  9. Pattern Recognition Letters v.23 no.Issue 5 Unsupervised Learning of Finite Mixture Models Xiangyu Yang;Jun Liu https://doi.org/10.1016/S0167-8655(01)00131-3
  10. Image Processing, Proceedings, International Conference on v.1 EM algorithm of Gaussian Mixture Model and Hidden Harkov Model Guorong Xuan;Wei Zhang;Peiqi Chai
  11. IEEE Trans. on Neural Networks v.9 no.4 Conditional fuzzy clustering in the design of radial basis function neural networks W. Pedrycz https://doi.org/10.1109/72.701174
  12. 대한전기학회논문지 v.46 no.9 정수장의 응집제 주입공정 자동화를 위한 신경회로망의 응용과 구현 한태환;전명근;유정웅
  13. Neural Networks v.11 no.Issue 3 Soft vector quantization and the EM algorithm Ethem Alpayd https://doi.org/10.1016/S0893-6080(97)00147-0
  14. IEEE Trans on Neural Networks v.5 no.5 Maximum Likelihood training of Probabilitic Neural Networks Roy L. Streit;Tod E. Luginbuhl https://doi.org/10.1109/72.317728
  15. Thomas' Calculus Ross L. Finney;Maurice D. Weir;Frank R. Giordano