KIISE Transactions on Computing Practices (정보과학회 컴퓨팅의 실제 논문지)

Korean Institute of Information Scientists and Engineers (한국정보과학회)
권호 표지
DOI QR코드

DOI QR Code

Implementation of a Spam Message Filtering System using Sentence Similarity Measurements

문장유사도 측정 기법을 통한 스팸 필터링 시스템 구현

  • 우수빈 (숙명여자대학교 IT공학과) ;
  • 이종우 (숙명여자대학교 IT공학과)
  • Received : 2016.09.22
  • Accepted : 2016.11.18
  • Published : 2017.01.15
⟨ Previous Next ⟩

Abstract

Short message service (SMS) is one of the most important communication methods for people who use mobile phones. However, illegal advertising spam messages exploit people because they can be used without the need for friend registration. Recently, spam message filtering systems that use machine learning have been developed, but they have some disadvantages such as requiring many calculations. In this paper, we implemented a spam message filtering system using the set-based POI search algorithm and sentence similarity without servers. This algorithm can judge whether the input query is a spam message or not using only letter composition without any server computing. Therefore, we can filter the spam message although the input text message has been intentionally modified. We added a specific preprocessing option which aims to enable spam filtering. Based on the experimental results, we observe that our spam message filtering system shows better performance than the original set-based POI search algorithm. We evaluate the proposed system through extensive simulation. According to the simulation results, the proposed system can filter the text message and show high accuracy performance against the text message which cannot be filtered by the 3 major telecom companies.

문자 메시지는 휴대폰을 사용하는 사람들에게 중요한 의사소통의 방법 중 하나이다. 또한 친구맺기 방식이 필요 없이 사용이 가능하기 때문에 이를 악용한 불법 광고 스팸메시지가 기승을 부리고 있다. 최근 스팸 필터링을 위해 기계 학습을 이용한 시스템들이 등장 하였지만 많은 계산을 필요로 하는 단점이 있다. 본 논문에서는 검색할 쿼리를 입력할 때 부정확한 쿼리를 입력하더라도 저장된 데이터베이스와 비교하여 가장 비슷한 단어를 차수 개념을 적용하여 유추하는 집합 기반 POI(Point of Interest) 검색 알고리즘을 이용하여 스팸 필터링 시스템을 구현하였다. 이 알고리즘을 적용하면 서버 컴퓨팅 없이 문자의 조합만을 이용해 쿼리를 유추할 수 있기 때문에 스팸 필터링에 적용하여 입력된 문자메시지가 교묘하게 변형되더라도 스팸이라고 필터링이 가능하다. 또한 문장 유사도 측정 기법을 활용하여 스팸 필터링 성능을 향상시켰으며, 스팸 필터링에 취약한 특정 유형도 걸러내기 위해 특정 전처리 과정을 지원함으로써 대부분의 스팸메세지를 필터링 가능하도록 하였다. 기존 집합기반 POI 검색 알고리즘과 이를 확장 시킨 문장 유사도 측정 기법, 특정 전처리 과정을 추가한 시스템으로 필터링 시스템의 성능평가를 진행하였다. 그 결과 본 논문에서 구현한 시스템이 기존 집합기반 POI 알고리즘과 비교하여 향상된 스팸 필터링 성능을 보여주는 것을 확인하였다. 또한 이동통신사 3사에서 필터링에 취약한 유형이 본 논문에서 구현한 시스템으로 높은 성능으로 필터링이 가능하다는 것을 확인하였다.

Keywords

References

  1. The second half of 2015 spam message and spam mail present state of distribution by KISA, [Online]. Available: http://www.spamcop.or.kr/kor/notice/data-View.jsp?p_No=49&b_No=49&d_No=57&cgubun=&cPage=1&searchType=ALL&searchKeyword=
  2. G. F. Cooper and E. Herskovits, "A Bayesian Method for the Induction of Probabilistic Networks from Data," Journal of Machine Learning, Vol. 9, No. 4, pp. 309-347, Oct. 1992.
  3. C. Cortes and V. Vapnik, "Support-Vector Networks," Journal of Machine Learning, Vol. 20, No. 3, pp. 273-297, Sep. 1995.
  4. E. B. Go, J. W. Lee and J. W. Lee, "An Efficient Set-besed POI Data Search Algorithm," Journal of KIISE : Computing Practices and Letters, Vol. 19, No. 5, pp. 242-251, May. 2013. (in Korean)
  5. E. B. Ko and J. W. Lee, "Sentence Similarity Measurement Method using a Set-based POI Data Search," Journal of KIISE : Transactions on Computing Practices, Vol. 20, No. 12, pp. 711-716, Dec. 2014. (in Korean) https://doi.org/10.5626/KTCP.2014.20.12.711
  6. M. Y. Sun, Y. S. Lee and S. E. Yoon, "Relation Based Baysian Network for NBNN," Journal of Computing Science and Engineering, Vol. 9, No. 4, pp. 204-213, Dec. 2015. https://doi.org/10.5626/JCSE.2015.9.4.204
  7. M. Sahami, S. Dumais, D. Heckerman and E. Horvitz, "A Bayesian Approach to Filtering Junk E-Mail," Learning for Text Categorization: Papers from the 1998 workshop, AAAI Technical Report, May. 1998.
  8. V. P. Deshpande, R. F. Erbacher and C, Harris, "An Evaluation of Naive Bayesian Anti-Spam Filtering Techniques," Proc. of the 2007 IEEE Workshop on Information Assurance and Security, pp. 333-340, 2007.
  9. H. J. Kim, J. J. Jung and G. S. Jo, "Spam-Mail Filtering System Using Weighted Bayesian Classifier," Journal of KIISE : Softowre and Applications, Vol. 31, No. 8, pp. 1092-1100, Aug, 2004. (in Korean)
  10. T. S. Guzella, W and M. Caminhas, "A Review of Machine Learning Approaches to Spam Filtering," Journal of Expert Systems with Applications, Vol. 36, No. 7, pp. 10206-10222, Sep. 2009. https://doi.org/10.1016/j.eswa.2009.02.037
  11. I. H. Joe and H. T. Shim, "A SVM-based Spam Filtering System for Short Message Service(SMS)," Journal of the Korean Institute of Communication Sciences, Vol. 34, No. 9, pp. 908-913, Sep. 2009. (in Korean)
  12. I. H. Joe and H. T. Shim, "An SMS Spam Filtering System Using Support Vector Machine," Proc. of Future Generation Information Technology (FGIT 2010), pp. 577-584, Dec. 2010. (in Korean)
  13. H. Y. Ahn, W. Z. Cho and J. W. Lee, "Implementation of A Mobile Application for Spam SMS Filtering Using Set-Based POI Search Algorithm," Journal of Digital Contents Society, Vol. 16, No. 5, pp. 815-822, Oct. 2015. (in Korean) https://doi.org/10.9728/dcs.2015.16.5.815
  14. J. I. Kim, "Efficient Edit Similarity Search Technique Using Prefix Element Selection," Journal of KIISE : Computing Practices and Letters, Vol. 18, No. 9, pp. 654-659, Sep. 2012. (in Korean)
  15. H. S. Ji, J. H. Joh and H. S. Lim, "A Detection Method of Similar Sentences Considering Plagiarism Patterns of Korean Sentence," Journal of the Korean Association of Computer Education, Vol. 13, No. 6, pp. 79-89, Nov. 2010. (in Korean)