Acknowledgement
Grant : Giga Media 기반 Tele-Experience 서비스 SW플랫폼 기술 개발
Supported by : 과학기술정보통신부
Annual Conference of KIPS (한국정보처리학회:학술대회논문집)
- 2017.11a
- /
- Pages.386-388
- /
- 2017
- /
- 2005-0011(pISSN)
- /
- 2671-7298(eISSN)
DOI QR Code
A Study on High Performance GPU based Container Cloud System supporting TensorFlow Serving Deployment Service
TensorFlow Serving 서비스를 지원하는 고성능 GPU 기반 컨테이너 클라우드 시스템
- Jang, Kyung-Soo (Cloud Technical Group, KINX Inc.) ;
-
Kim, Jung-Hwan
(Cloud Technical Group, KINX Inc.)
- Published : 2017.11.01
Abstract
TensorFlow와 알파고의 등장으로 인공지능의 높은 성능과 다양한 활용 가능성을 보이면서, 폭 넓은 산업 분야에서 머신러닝 기술에 대한 수요가 증가하고 있다. 반면, 머신러닝 기술은 GPU 기반 고속 병렬처리 기술과 인프라 기술을 기반으로 하고 있기 때문에, 머신러닝 기반 서비스 개발 및 제공에 어려움을 겪고 있다. 본 논문에서는 이와 같은 문제를 개선하기 위해서 개발한 고성능 GPU 기반 컨테이너 클라우드 시스템을 소개한다. 해당 시스템은 GPU 기반 고속 병렬처리를 지원하고, Kubernetes 클러스터에서 컨테이너를 기반으로 TensorFlow Serving을 손쉽게 배포할 수 있는 기능을 제공한다.
Keywords