한국어정보학회:학술대회논문집
- 2017.10a
- /
- Pages.159-162
- /
- 2017
Korean Semantic Role Labeling with Highway BiLSTM-CRFs
Highway BiLSTM-CRFs 모델을 이용한 한국어 의미역 결정
- Bae, Jangseong (Kangwon National University) ;
- Lee, Changki (Kangwon National University) ;
- Kim, Hyunki (ETRI)
- Published : 2017.10.13
Abstract
Long Short-Term Memory Recurrent Neural Network(LSTM RNN)는 순차 데이터 모델링에 적합한 딥러닝 모델이다. Bidirectional LSTM RNN(BiLSTM RNN)은 RNN의 그래디언트 소멸 문제(vanishing gradient problem)를 해결한 LSTM RNN을 입력 데이터의 양 방향에 적용시킨 것으로 입력 열의 모든 정보를 볼 수 있는 장점이 있어 자연어처리를 비롯한 다양한 분야에서 많이 사용되고 있다. Highway Network는 비선형 변환을 거치지 않은 입력 정보를 히든레이어에서 직접 사용할 수 있게 LSTM 유닛에 게이트를 추가한 딥러닝 모델이다. 본 논문에서는 Highway Network를 한국어 의미역 결정에 적용하여 기존 연구 보다 더 높은 성능을 얻을 수 있음을 보인다.