• 제목/요약/키워드: Docker container

검색결과 38건 처리시간 0.021초

Empirical Performance Evaluation of Communication Libraries for Multi-GPU based Distributed Deep Learning in a Container Environment

  • Choi, HyeonSeong;Kim, Youngrang;Lee, Jaehwan;Kim, Yoonhee
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제15권3호
    • /
    • pp.911-931
    • /
    • 2021
  • Recently, most cloud services use Docker container environment to provide their services. However, there are no researches to evaluate the performance of communication libraries for multi-GPU based distributed deep learning in a Docker container environment. In this paper, we propose an efficient communication architecture for multi-GPU based deep learning in a Docker container environment by evaluating the performances of various communication libraries. We compare the performances of the parameter server architecture and the All-reduce architecture, which are typical distributed deep learning architectures. Further, we analyze the performances of two separate multi-GPU resource allocation policies - allocating a single GPU to each Docker container and allocating multiple GPUs to each Docker container. We also experiment with the scalability of collective communication by increasing the number of GPUs from one to four. Through experiments, we compare OpenMPI and MPICH, which are representative open source MPI libraries, and NCCL, which is NVIDIA's collective communication library for the multi-GPU setting. In the parameter server architecture, we show that using CUDA-aware OpenMPI with multi-GPU per Docker container environment reduces communication latency by up to 75%. Also, we show that using NCCL in All-reduce architecture reduces communication latency by up to 93% compared to other libraries.

컨테이너를 이용한 HA 구현 (Implement HA using Container)

  • 김동환;권지섭;한성화
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2022년도 추계학술대회
    • /
    • pp.341-343
    • /
    • 2022
  • 정보 서비스는 서비스 운영에 있어 안정성이 보장되어야 한다. 이를 위하여 HA(High-Availability)와 관련된 많은 기술이 제공되고 있다. 한편 최근에는 컨테이너를 이용한 정보 서비스 구현이 많이 진행되고 있다. 그러므로 컨테이너를 활용한 정보 서비스에서도 HA 구현이 가능해야 한다. 가장 대표적인 컨테이너 플랫폼인 Docker에서는 HA와 관련된 기능을 제공하고 있다. 본 연구에서는 Docker를 이용하여 HA를 구현하는 방법을 확인하고, 필요한 설정 내용을 확인한다. 그리고 확인된 설정 사항을 바탕으로 컨테이너를 이용한 HA 서비스를 구현한다.

  • PDF

Comparative Analysis of Container for High Performance Computing

  • Lee, Jaeryun;Chae, Yunchang;Tak, Byungchul
    • 한국컴퓨터정보학회논문지
    • /
    • 제25권9호
    • /
    • pp.11-20
    • /
    • 2020
  • 이 논문에서는 HPC 환경에서 컨테이너의 사용 가능성을 탐구하고 적절한 PMI 라이브러리를 선택하는 기준을 실험을 통해 제안한다. HPC 환경에서 컨테이너 기술의 필요성이 대두되고 있지만 Docker 컨테이너 경우 잠재적인 보안 문제가 있어 HPC 환경에 적합하지 않다는 문제가 있다. 이러한 문제를 해결하기 위해 여러 HPC 컨테이너들이 등장하였지만, 서로 다른 특징들 따른 성능 차이가 발생할 수 있다. 그리하여 본 논문에서는 각 HPC 컨테이너 및 Docker 컨테이너 사이의 성능 차이를 NAS Parallel Benchmark 실험을 통해 측정하고 PMI 라이브러리의 종류에 따른 성능 변화를 확인해보았다. 그 결과 HPC 컨테이너와 Docker 컨테이너는 거의 네이티브와 유사한 성능을 보이거나 경우에 따라 오히려 나은 성능이 관측되었다. 또한 PMI 라이브러리 간의 비교에서는 PMIx가 PMI-2에 비해 모든 조건에서 뛰어난 것은 아닌 것으로 관측된 것을 확인할 수 있었다.

Design of Testbed for Agile Computing of MapReduce Applications by using Docker

  • Kang, Yunhee
    • International Journal of Contents
    • /
    • 제12권3호
    • /
    • pp.29-33
    • /
    • 2016
  • Cloud computing makes extensive use of virtual machines that permit for workloads, as well as resource usage, to be isolated from one another, and a hypervisor can be used by a virtual machine to construct cloud computing infrastructure. However, the hypervisor has high resource usage when constructing virtual machines, which results in a waste of allocated resources when not activated. Docker provides a more light-weight method to obtain agile computing resources based on a container technique that handles this problem. In this study, we have chosen this specific tool due to the increasing popularity of MapReduce and cloud container technologies such as Docker. This study aims to automatically configure Twister workloads for container-driven clouds. Basically, this is the first attempt towards automatic configuration of Twister jobs on a container-based cloud platform VM for many workloads.

도커 기반 호스트에 대한 디지털 포렌식 조사 기법 (Method of Digital Forensic Investigation of Docker-Based Host)

  • 김현승;이상진
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제6권2호
    • /
    • pp.75-86
    • /
    • 2017
  • 오늘날 다양한 서버 내 가상화 기술 중 도커(Docker)는 기존의 방식보다 경량화된 서비스 운영 환경을 제공함으로써 많은 기업 환경에 도입되고 있다. 도커는 이미지, 컨테이너 개념을 통해 서버 환경 구축, 업데이트, 이동을 효율적으로 할 수 있게 지원한다. 도커가 많이 보급될수록 도커 이미지를 배포하는 서버나 도커 기반의 호스트에 대한 공격 유인이 증가할 것이다. 이에 본 논문에서 도커 데몬이 비활성화 된 상태에서도 컨테이너의 파일 시스템을 추출할 수 있는 방안을 포함하여 도커를 사용하는 호스트에 대한 포렌식 조사 기법과 그 절차를 제시하였다.

컨테이너 기술을 활용한 엣지 컴퓨팅 환경 어플리케이션 무결성 보호에 대한 연구 (A Study on Integrity Protection of Edge Computing Application Based on Container Technology)

  • 이창훈;신영주
    • 정보보호학회논문지
    • /
    • 제31권6호
    • /
    • pp.1205-1214
    • /
    • 2021
  • 엣지 컴퓨팅(Edge Computing)은 인공지능(AI)을 데이터 소스와 근접한 환경에서 수행함으로써 IoT/CPS 기기를 클라우드에 통합하는데 발생하는 네트워크 대역폭 소모로 인한 비용 문제와 전송 지연 등의 문제 해결의 방안으로 주목받고 있다. 엣지 컴퓨팅 기기는 실 세계에 위치하여 인공지능 구현 기술을 구동 가능한 수준의 향상된 연산과 네트워크 연결을 제공하므로, 인적/물적 피해를 발생할 수 있는 사이버 테러에 악용되지 않도록 어플리케이션 무결성에 대한 고려가 필요하다. 본 논문에서는 인공지능 구현 시 활용되는 파이썬(python) 과 같이 변조에 취약한 스크립트 언어로 구현된 엣지 컴퓨팅 어플리케이션을 컨테이너 이미지로 구성 후 전자서명을 하여 무결성을 보호하는 기법을 제안한다. 제안하는 기법은 오픈소스 컨테이너 기술에서 제공하는 무결성 보호기술 (Docker Contents Trust)를 기반으로하며, 엣지 컴퓨팅 기기에서 허용된 컨테이너만 구동 가능하도록 컨테이너 서명 정보에 대한 화이트리스트와 Docker Client를 개선하여 적용하는 기법을 제시한다.

웹 서버 구성을 통한 가상머신과 컨테이너 방식 비교 분석 (Comparative Analysis of the Virtual Machine and Containers Methods through the Web Server Configuration)

  • 배유미;정성재;소우영
    • 한국정보통신학회논문지
    • /
    • 제18권11호
    • /
    • pp.2670-2677
    • /
    • 2014
  • Xen, KVM 등과 같은 하이퍼바이저를 이용한 가상 머신 생성 기술이 클라우드 인프라 구성에 주로 사용되고 있다. 이 기술은 기존의 운영 방식에 비해 자원을 할당하고 관리하는 측면에서는 효율적이다. 그러나, 이 기술은 가상머신 생성시에 높은 자원의 사용량이 요구되고 할당된 자원을 사용하지 않는 경우에는 또 다른 자원의 낭비를 초래한다. 이러한 문제점을 해결하기 위한 방법이 컨테이너 기반의 Docker이다. 본 논문은 가상 머신 방식과 컨테이너 방식을 비교하여 웹 서버 구축 기술로 Docker와 같은 컨테이너 방식이 효율적임을 보여준다. 특히, 웹 서버나 프로그램 개발 환경과 같이 데이터를 데이터베이스나 스토리지 등에 저장하는 경우에는 유용한 것으로 분석되었다. 앞으로의 클라우드 환경에서 Docker와 같은 컨테이너 방식이 자원의 효율성과 관리의 편의성을 더욱 높일 수 있을 것으로 기대된다.

Database PasS web service system using Docker

  • Hur, Tai-Sung
    • 한국컴퓨터정보학회논문지
    • /
    • 제25권11호
    • /
    • pp.51-58
    • /
    • 2020
  • 컴퓨터 관련학과의 학생들은 대부분 프로젝트를 수행하며, 프로젝트 수행에 있어 데이터베이스 사용은 필수적이다. 이런 데이터베이스를 사용하기 위해서는 데이터베이스 관리 시스템(DataBase Management System)의 설치가 필요하다. 그러나 DBMS를 설치의 경우 수분(시간)이 소요되며, 까다로운 설치 과정을 요구하는 DBMS도 있다. 따라서 이러한 문제를 해결하기 위해 본 연구에서는 Docker를 이용해 DBMS를 쉽게 설치할 수 있는 시스템을 제안하였다. Docker는 리눅스의 응용 프로그램들을 소프트웨어 Container안에 배치하는 일을 자동화하는 오픈소스 프로젝트이다. Docker Container는 소프트웨어의 실행에 필요한 모든 것을 포함하는 완전한 파일 시스템 안에 감싸며, 안에는 코드, 런타임, 시스템 도구, 시스템 라이브러리 등 서버에 설치되는 무엇이든 포함된다. 이는 실행 중인 환경과 관계없이 언제나 동일하게 실행될 것을 보증한다. 본 제안 시스템을 이용하여 데이터베이스를 생성한 후 웹에서 데이터베이스 접속 정보를 확인할 수 있으며, 서버 상태를 분 단위로 확인할 수 있도록 하였다. 본 제안 시스템을 구현하여 10팀의 프로젝트에 적용한 결과 개별 설치보다 Maria DBMS의 경우 94.5%, Oracle DBMS의 경우 98.3%의 설치 시간이 감소하여 향상된 효율을 확인하였다.

클라우드 네이티브 환경을 위한 오픈소스 기반 모니터링 서비스 간편 배포 및 이미지 서명 검사기 구현 (Implementation of Opensource-Based Automatic Monitoring Service Deployment and Image Integrity Checkers for Cloud-Native Environment)

  • 곽송이;응 웬 부 렁;정수환
    • 정보보호학회논문지
    • /
    • 제32권4호
    • /
    • pp.637-645
    • /
    • 2022
  • 클라우드 컴퓨팅은 수십 년을 걸쳐 인기를 얻고 있으며, 그에 따라 클라우드 네이티브 애플리케이션에 주요하게 사용되는 기술인 컨테이너 또한 주목을 받고 있다. 이러한 컨테이너 기술은 기존 VM보다 가볍고 성능이 뛰어나지만, 호스트 시스템과 커널을 공유하거나 이미지 레지스트리에서 이미지를 업/다운로드 하는 등의 문제로 여러 가지 보안상의 위협이 존재한다. 컨테이너의 보안 위협 중 하나로 컨테이너 생성의 소스가 되는 컨테이너 이미지의 무결성을 언급할 수 있다. 또한, 컨테이너 애플리케이션이 동작하는 동안의 런타임 보안이 매우 중요하며, 런타임에서 컨테이너 애플리케이션의 동작을 모니터링함으로써 컨테이너에서 발생하는 이상 행위를 탐지하는 데에 도움을 줄 수 있다. 따라서 본 논문에서는 첫째로, 컨테이너 이미지의 무결성을 보장하기 위해 기존의 Docker Content Trust(DCT) 기술을 기반으로 자동으로 이미지의 서명을 검사하는 서명 검사기를 구현한다. 다음으로 Cloud Native Computing Foundation (CNCF)의 오픈소스 프로젝트인 falco를 기반으로 falco 이미지의 배포 간편성을 위해 새로 생성한 이미지를 소개하고, 간편하게 모니터링 시스템을 구축할 수 있도록 돕는 docker-compose를 구현 및 패키지 구성을 제안한다.

Proposal of Container-Based HPC Structures and Performance Analysis

  • Yong, Chanho;Lee, Ga-Won;Huh, Eui-Nam
    • Journal of Information Processing Systems
    • /
    • 제14권6호
    • /
    • pp.1398-1404
    • /
    • 2018
  • High-performance computing (HPC) provides to researchers a powerful ability to resolve problems with intensive computations, such as those in the math and medical fields. When an HPC platform is provided as a service, users may suffer from unexpected obstacles in developing and running applications due to restricted development environments and dependencies. In this context, operating system level virtualization can be a solution for HPC service to ensure lightweight virtualization and consistency in Dev-Ops environments. Therefore, this paper proposes three types of typical HPC structure for container environments built with HPC container and Docker. The three structures focus on smooth integration with existing HPC job framework, message passing interface (MPI). Lastly, the performance of the structures is analyzed with High Performance Linpack benchmark from the aspect of performance degradation in network communications under Docker.