Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)

  • 2017.11a
  • /
  • Pages.386-388
  • /
  • 2017
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

A Study on High Performance GPU based Container Cloud System supporting TensorFlow Serving Deployment Service

TensorFlow Serving 서비스를 지원하는 고성능 GPU 기반 컨테이너 클라우드 시스템

  • Published : 2017.11.01
Download PDF
⟨ Previous Next ⟩

Abstract

TensorFlow와 알파고의 등장으로 인공지능의 높은 성능과 다양한 활용 가능성을 보이면서, 폭 넓은 산업 분야에서 머신러닝 기술에 대한 수요가 증가하고 있다. 반면, 머신러닝 기술은 GPU 기반 고속 병렬처리 기술과 인프라 기술을 기반으로 하고 있기 때문에, 머신러닝 기반 서비스 개발 및 제공에 어려움을 겪고 있다. 본 논문에서는 이와 같은 문제를 개선하기 위해서 개발한 고성능 GPU 기반 컨테이너 클라우드 시스템을 소개한다. 해당 시스템은 GPU 기반 고속 병렬처리를 지원하고, Kubernetes 클러스터에서 컨테이너를 기반으로 TensorFlow Serving을 손쉽게 배포할 수 있는 기능을 제공한다.

Keywords

Acknowledgement

Grant : Giga Media 기반 Tele-Experience 서비스 SW플랫폼 기술 개발

Supported by : 과학기술정보통신부