The KIPS Transactions:PartB (정보처리학회논문지B)

Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

HMM-based Korean Named Entity Recognition

HMM에 기반한 한국어 개체명 인식

  • 황이규 (한국전자통신연구원) ;
  • 윤보현 (목원대학교 컴퓨터교육과)
  • Published : 2003.04.01
Download PDF
⟨ Previous Next ⟩

Abstract

Named entity recognition is the process indispensable to question answering and information extraction systems. This paper presents an HMM based named entity (m) recognition method using the construction principles of compound words. In Korean, many named entities can be decomposed into more than one word. Moreover, there are contextual relationships among nouns in an NE, and among an NE and its surrounding words. In this paper, we classify words into a word as an NE in itself, a word in an NE, and/or a word adjacent to an n, and train an HMM based on NE-related word types and parts of speech. Proposed named entity recognition (NER) system uses trigram model of HMM for considering variable length of NEs. However, the trigram model of HMM has a serious data sparseness problem. In order to solve the problem, we use multi-level back-offs. Experimental results show that our NER system can achieve an F-measure of 87.6% in the economic articles.

개체명 인식은 질의응답 시스템이나 정보 추출 시스템에서 필수 불가결한 과정이다. 이 논문에서는 HMM 기반의 복합 명사 구성 원리를 이용한 한국어 개체명 인식 방법에 대해 설명한다. 한국어에서 많은 개체명들이 하나 이상의 단어로 구성되어 있다. 또한, 하나의 개체명을 구성하는 단어들 사이와 개체명과 개체명 주위의 단어 사이에도 문맥적 관계를 가지고 있다. 본 논문에서는 단어들을 개체명 독립 단어, 개체명 구성 단어, 개체명 인접 단어로 분류하고, 개체명 관련 단어 유형과 품사를 기반으로 HMM을 학습하였다. 본 논문에서 제안하는 개체명 인식 시스템은 가변길이의 개체명을 인식하기 위해 트라이그램 모델을 사용하였다. 트라이그램 모델을 이용한 HMM은 데이터 부족 문제를 가지고 있으며, 이를 해결하기 위해 다단계 백-오프를 이용하였다. 경제 분야 신문기사를 이용한 실험 결과 F-measure 97.6%의 결과를 얻었다.

Keywords

References

  1. D. M. Bikel, S. Miller, R. Schwartz, R. Weischedel, 'Nymble : A High-Performance Learning Named-finder,' In Proceedings of the Fifth Conference on Applied Natural Language Proceesing, pp.194-201, 1997 https://doi.org/10.3115/974557.974586
  2. M. Collins and Y. Singer, 'Unsupervised Models for Named Entity Classification,' EMNLP/VLC-99, pp.189-196, 1999
  3. K. Fukuda, T. Tsunoda, A. Tamura and T. Takagi, 'Toward Information Extraction : Identifying protein names from biological papers,' In Proc. of the Pacific Symposium on Biocomputing '98 (PSB '98), 1998
  4. J. Fukumoto, M. Shimohata, F. Masui and M. Saski, 'Description of the Oki System as Used for MET-2,' In Proceedings of 7th Message Understanding Conference, 1998
  5. A. Mikheev, C. Grover, M. Moens, 'Description of the LTG System Used for MUC-7,' In Proceedings of 7th Message Understanding Conference, 1998
  6. L .R. Rabiner, 'A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition,' Proceedings of the IEEE, Vol.77, No.2, pp.257-286, 1989 https://doi.org/10.1109/5.18626
  7. M. Sassano and T. Utsuro, 'Named Entity Chunking Techniques in Supervised Learning for Japanese Named Entity Recognition,' Proceedings of the 18th International Conference on Computational Linguistics, pp.705-711, 2000 https://doi.org/10.3115/992730.992748
  8. S. Sekine, R. Grishman and H. Shinnou, 'A Decision Tree Method for Finding And Classifying Names in Japanese Texts,' Proceedings of the Sixth Workshop on Very Large Corpora, 1998
  9. C. N. Seon, Y. Ko, J. S. Kim and J. Seo, 'Named Entity Recognition using Machine Learning Methods and Pattern Selection Rules,' pp.229-236, NLPRS 2001
  10. K. Uchimoto, Q. Ma, M. Murata, H. Ozakum and H. Isahara, 'Named Entity Extraction Based on A ME Model and Transformation Rules,' In Processing of the ACL 2000 https://doi.org/10.3115/1075218.1075260
  11. S. Yu, S. Bai and P. Wu, 'Description of the Kent Ridge Digital Labs System Used for MUC-7,' In Proceedings of 7th Message Understanding Conference, 1998
  12. G. D. Zhou, J. Su, 'Named Entity Recognition using an HMM-based Chunk Tagger,' In Processing of the ACL 2002 https://doi.org/10.3115/1073083.1073163
  13. 김태현, 이현숙, 하유선, 이만호, 맹성현, '데이터 집합을 이용한 고유명사 추출,' 제 12회 한글 및 한국어 정보처리 학술대회, pp.11-18, 2000
  14. 노태길, 이상조, '규칙 기반의 기계학습을 통한 고유 명사의 추출과 분류,' 한국정보과학회 가을 학술발표논문집, Vol.27, No.2, pp.170-172, 2000
  15. 이경희, 이주호, '한국어 문서에서 개체명 인식에 관한 연구,' 한글 및 한국어 정보처리 학술대회, pp.292-299, 2000
  16. S. Katz, 'Estimation of Probabilities from Sparse Data for the Language Model Component of a Speech Recognizer,' IEEE Transaction on Acoustic, Speech, and Signal Processing, Vol.ASSp-35, No.3, pp.400-401, 1987

Cited by

  1. Building Domain Ontology Based on Linguistic Patterns vol.16, pp.6, 2006, https://doi.org/10.5391/JKIIS.2006.16.6.766
  2. Named Entity Recognition and Dictionary Construction for Korean Title: Books, Movies, Music and TV Programs vol.3, pp.7, 2014, https://doi.org/10.3745/KTSDE.2014.3.7.285