Recruitment collector using multiple processes based on Python

Python 언어 기반의 다중 프로세스를 이용한 채용공고 수집기

  • Hur, Tai-Sung (Dept. of Computer Information, Inha Technical College) ;
  • Kim, Jun-Ho (Dept. of Computer Information, Inha Technical College) ;
  • Baek, Sang-Heong (Dept. of Computer Information, Inha Technical College)
  • 허태성 (인하공업전문대학 컴퓨터정보과) ;
  • 김준호 (인하공업전문대학 컴퓨터정보과) ;
  • 백상헌 (인하공업전문대학 컴퓨터정보과)
  • Published : 2019.07.10

Abstract

평생직장이 사라지면서 중년층은 재취업을 희망하고, 매년 실업률이 높아지면서 취업 포털 사이트를 이용하는 이용자들이 증가하고 있다. 이러한 이용자들에게 채용공고 정보를 제공해 주기위해서 보편적으로 Python 언어를 이용하여 데이터를 처리하고 수집한다. 하지만, Python은 다중 프로세스 기반을 갖춘 PC가 보급됨에도 불구하고 단일 프로세스로 처리하는 한계를 보이며, 나머지 프로세스에서는 데이터 처리를 하지 못하는 한계가 있다. 이러한 문제를 해결하기 위해 개선된 Python에서는 다중 프로세스로 처리 가능함에 따라 이를 이용한 채용 공고 수집기를 개발을 제안한다. 제안한 다중 프로세스를 사용한 수집기는 단일 프로세스보다 처리성능이 최대 3.42배 향상되었음을 확인하였다. 따라서, 다중 프로세스를 이용하여 채용 공고를 수집한다면 기존보다 더 빠른 데이터 처리와 데이터 수집 능력을 갖췄음을 확인하였다.

Keywords