College Admissions Counseling ChatBot based on a Large Language Models

대규모 언어 모델 기반 대학 입시상담 챗봇

  • Se-Hoon Lee (Dept. of Computer Systems & Engineering, Inha Technical College) ;
  • Ung-Hoe Lee (Dept. of Computer Systems & Engineering, Inha Technical College) ;
  • Ji-Woong Kim (Dept. of Computer Systems & Engineering, Inha Technical College) ;
  • Yeon-Su Noh (Dept. of Computer Systems & Engineering, Inha Technical College)
  • 이세훈 (인하공업전문대학 컴퓨터시스템과) ;
  • 이웅회 (인하공업전문대학 컴퓨터시스템과) ;
  • 김지웅 (인하공업전문대학 컴퓨터시스템과) ;
  • 노연수 (인하공업전문대학 컴퓨터시스템과)
  • Published : 2023.07.12

Abstract

본 논문에서는 대규모 언어 모델(Large Language Models)을 기반으로 한 입학 상담용 챗봇을 설계하였다. 입시 전문 LLM은 Polyglot-ko 5.8B을 베이스 모델로 대학의 입시 관련 데이터를 수집, 가공한 후 데이터 증강을 하여 파인튜닝 하였다. 또한, 모델 성능 향상을 위해 RLHF의 후 공정을 진행하였다. 제안 챗봇은 생성한 입시 LLM을 기반으로 웹브라우저를 통해 접근하여 입시 상담 자동 응답 서비스를 활용할 수 있다.

Keywords