• Title/Summary/Keyword: 실행 지연시간

Search Result 181, Processing Time 0.027 seconds

Study on Runtime Interface for Mitigating Cold Start in Serverless based Workflow (Serverless 기반 워크플로 실행에서 Cold Start 완화를 위한 런타임 인터페이스에 관한 연구)

  • Hwang, Seunghyun;Kang, Jihun;Yu, Heonchang
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2019.10a
    • /
    • pp.649-652
    • /
    • 2019
  • Serverless 플랫폼은 작업이 요청되었을 때 인스턴스를 생성하였다가 작업이 끝난 후 제거되기 때문에 실제 작업을 처리할 때만 요금이 부과되어 경제적이다. 하지만 작업이 요청될 경우 인스턴스가 생성되고 작업에 필요한 리소스를 가져오는 지연시간 즉, Cold Start 가 발생한다. 특히 워크플로 실행에서 각 작업이 개별적으로 처리되기 때문에 워크플로의 각 단계마다 Cold Start 가 발생하는데, 워크플로는 사전에 정의되기 때문에 이러한 Cold Start 의 누적은 회피 될 수 있다. 본 논문은 Serverless 환경에서 워크플로를 실행할 때 누적되는 Cold Start 를 완화하기 위해 앞의 단계에서 다음 단계를 미리 준비시키는 런타임 인터페이스들에 대하여 제안한다. 이미지 프로세싱 워크플로에 제안한 런타임 인터페이스를 적용시켜 Cold Start 를 제외한 워크플로의 실행시간을 최대 21%까지 줄였다.

Mitigating Cold Start Chain by Pre-Warming Containers in Serverless Platform (서버리스 플랫폼에서 연속된 콜드 스타트 완화를 위한 Pre-Warming 기법)

  • Kim, Sejin;Yhu, Moonsang;Yu, Heonchang
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2022.05a
    • /
    • pp.71-73
    • /
    • 2022
  • 최근 인프라를 관리할 필요가 없고 폭발적으로 늘어나는 요청을 유연하게 대처할 수 있는 장점 때문에 서버리스 컴퓨팅 사용이 늘어나고 있다. 하지만 서버리스 컴퓨팅은 사용자 코드의 실행 환경을 준비하기 위한 콜드 스타트 과정이 필요하고, 서비스가 복잡해짐에 따라 전체 실행 시간 중 콜드 스타트로 인한 지연시간이 늘어나는 문제가 발생한다. 본 논문에서는 서버리스 컴퓨팅 기반의 워크플로우에 대해 콜드 스타트로 인한 지연 시간을 완화하는 아키텍처 및 기법을 제안한다.

EIS Processor Architecture for Enhanced Instruction Processing (빠른 명령어 처리가 가능한 EIS 프로세서 구조)

  • 지승현;전중남;김석일
    • The Journal of Korean Institute of Communications and Information Sciences
    • /
    • v.25 no.12B
    • /
    • pp.1967-1978
    • /
    • 2000
  • 본 논문에서는 실행 시에 긴명령어를 구성하는 각 단위 명령어를 독립적으로 스케줄링할 수 있는 EIS 프로세서 구조를 제안하였다. 단위 명령어별 독립적인 수행을 위해서, EIS 프로세서 구조는 여러 개의 연산처리기와 스케줄러의 쌍으로 구성된다. EIS 프로세서 구조내의 모든 스케줄러는 독립적으로 자료종속성이나 자원충돌 여부를 검사하여 단위 명령어를 실행할지 혹은 다음 파이프라인 사이클동안 실행을 지연시킬지를 결정한다. 또한 EIS프로세서용 목적코드는 단위 명령어들간 동기화를 위해서 모든 단위 명령어에 종속성정보를 삽입하는 특징을 지닌다. 즉, EIS 프로세서 구조는 긴명령어내의 각 단위 명령어를 독립적으로 실행시킬 수 있으므로 기존의 VLIW 프로세서 구조나 SVLIW 프로세서 구조에서의 실행지연 시간을 제거할 수 있다. 시뮬레이션을 통해서도 EIS 프로세서 구조의 실행사이클이 VLIW 프로세서 구조나 SVLIW 프로세서 구조에서의 경우보다 더 빠름을 입증할 수 있었다. 특히 실수 명령어 분포가 높은 프로그램에서 EIS 프로세서에서의 실행사이클이 다른 프로세서 구조의 경우에 비하여 현저하게 줄어드는 것을 확인할 수 있었다.

  • PDF

A deferring strategy to improve schedulability for the imprecise convergence on-line tasks (부정확한 융복합 온라인 태스크들의 스케쥴가능성을 향상시키기 위한 지연 전략)

  • Song, Gi-Hyeon
    • Journal of the Korea Convergence Society
    • /
    • v.12 no.2
    • /
    • pp.15-20
    • /
    • 2021
  • The imprecise real-time scheduling can be used for minimizing the bad effects of timing faults by leaving less important tasks unfinished if necessary when a transient overload occured. In the imprecise scheduling, every time-critical task can be logically decomposed into two tasks : a mandatory task and an optional task. Recently, some studies in this field showed good schedulability performance and minimum total error by deferring the optional tasks. But the schedulability performance of the studies can be shown only when the execution time of each optional task was less than or equal to the execution time of its corresponding mandatory task. Therefore, in this paper, a new deferring strategy is proposed under the reverse execution time restriction to the previous studies. Nevertheless, the strategy produces comparable or superior schedulability performance to the previous studies and can minimize the total error also.

Event Routing Scheme to Improve I/O Latency of SMP VM (SMP 가상 머신의 I/O 지연 시간 감소를 위한 이벤트 라우팅 기법)

  • Shin, Jungsub;Kim, Hagyoung
    • Journal of KIISE
    • /
    • v.42 no.11
    • /
    • pp.1322-1331
    • /
    • 2015
  • According to the hypervisor scheduler, the vCPU (virtual CPU) operates under two states: the running state and the stop state. When the vCPU is in the stop state, incoming events are delayed until that vCPU's state changes to the running state. The latency in handling such events that are sent to the vCPU is regarded as the I/O latency. Since a SMP (symmetric multiprocessing) VM (virtual machine) incorporates multiple vCPUs, the event latency on a SMP VM can vary according to specific vCPU that receives the event. In this paper, we propose a new scheme named event routing that sends events according to the operation state of each vCPU to reduce the event latency on an SMP VM. We implemented the proposed event routing scheme in Xen ARM hypervisor and confirmed the reduction of I/O latency from measuring the network RTT (round trip time) and the TCP bandwidth under a variety of testing conditions. The network RTT decreases by up to 94% and the TCP bandwidth increases up to 35% when compare to native Xen ARM.

A Multirate Cyclic Loop Scheduling based on The Information of Video Frame in 3G-324M Environment (3G-324M 환경에서 화상 프레임 정보에 기반한 다중비율 통신 스케줄링 기법)

  • Lee, Ho-Cheol;Yun, Hyun-Jun;Park, Sung-Yong
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2007.06b
    • /
    • pp.344-349
    • /
    • 2007
  • 무선 통신 환경에서 실시간 화상 통신을 위해 제안된 3G-324M 프로토콜은 회선 교환 통신을 사용함으로 인해 제한된 대역폭을 이용해야만 하므로 전송 시 여러 가지 제약이 발생하게 된다. 특히 송수신의 스케줄링을 효율적으로 하지 못할 경우 H.223 프로토콜에서 매 타임 슬롯마다 전송 가능한 최대 크기의 데이터를 전송 버퍼에 채워주지 못해 전송 지연 시간이 발생하게 된다. 본 논문에서는 이러한 문제들을 해결하기 위한 통신 스케줄링 기법을 제시한다. 이 통신 스케줄링 기법은 화상 프레임의 종류에 따라 크기가 크게 변한다는 사실에 기초해 H.223 프로토콜의 실행 비율을 임시적으로 증가시켜 지연시간이 늘어나는 것을 최소화하고 이로 인해 내부 버퍼 사용량을 줄일 수 있도록 한다. 또 수신 버퍼에 처리해야 할 데이터가 많은 경우, 임시로 H.223 프로토콜의 실행 비율을 증가시켜 불필요한 수신 지연 시간이 발생하지 않도록 한다. 실험은 내부 버퍼의 사용량은 제안한 통신 스케줄링 기법이 다른 통신 스케줄링 기법들에 비해 효율적으로 관리 되며 패킷의 손실률, 수신 단말기에서의 지연이 줄어드는 것을 보여준다.

  • PDF

Estimation of scheduling algorithm's performance for the synthesis of pipelined data path (파이프라인 데이터패스 합성을 위한 스케쥴링 알고리즘의 성능평가)

  • 오주영;박도순
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 1999.10c
    • /
    • pp.30-32
    • /
    • 1999
  • 본 논문에서는 자원제약을 목적함수로 하여 파이프라인 실행이 가능하게 하는 데이터패스 합성을 위해 개발되어진 스케쥴링 알고리즘들의 실행시간과 실행결과를 도표를 기준으로 정렬한다. 평가의 대상이 되는 알고리즘들은 스케쥴을 위해 제안되는 함수의 계산시점, 함수의 역할과 적용방법에 의해 구분되어지는 논문 [1],[2],[3]에 대하여 수행되어지며, 충돌을 발생시키는 파티션 내에 위치하는 모빌리티를 가지는 각각의 연산에 대해 다음 파티션으로의 지연시 충돌수 변이와 각 연산의 모빌리티를 요소로 계산되는 우선 순위 함수를 정의하여 스케쥴 순열을 정렬하는 결정하는 논문[1]과 자원 할당 가능성 판단함수를 제안하고 이를 기준으로 배정가능 범위를 축소해 나가며 연산을 스케쥴하는 논문[2]와, 논문[2]의 자원할당 가능성 판단시 부과되는 시간감소를 위해 현재의 스케쥴 상황 값들을 정량화 하여 연산이 선택되도록하여 결과적 실행 시간을 감소시키는 논문[3]에 대하여 벤치마크 성능평가와 알고리즘 실행시간 결과 비교를 수행하고 향후 연구 진행 방향을 제시한다.

  • PDF

Scalable scheduling techniques for distributed real-time multimedia database systems (분산 실시간 멀티미디어 데이터베이스 시스템을 위한 신축성있는 스케줄링 기법)

  • Kim, Jin-Hwan
    • The KIPS Transactions:PartA
    • /
    • v.9A no.1
    • /
    • pp.9-18
    • /
    • 2002
  • In this paper, we propose scalable scheduling techniques based on EDF to efficiently integrate hard real-time and multimedia soft real-time tasks in the distributed real-time multimedia database system. Hard tasks are guarangteed based on worst case execution times, whereas multimedia soft tasks are served based on mean execution times. This paper describes a served-based scheme for partitioning the CPU bandwidth among different task classes that coexist in the same system. To handle the problem of class overloads characterized by varying number of tasks and varying task arrival rates, thus scheme shows how to adjust the fraction of the CPU bandwidth assigned to each class. This scheme fixes the maximum time that each hard task can execute in the period of the server, whereas it can dynamically change the bandwidth reserved to each multimedia task. The proposed method is capable of minimizing the mean tardiness of multimedia tasks, without jeopardizing the schedulability of the hard tasks. The performance of this scheduling method is compared with that of similar mechanisms through simulation experiments.

Dynamic Scheduling Method for MPEG-based Multimedia Tasks in Hard Real-Time System (경성 실시간 시스템에서 MPEG 기반 멀티미디어 태스크를 위한 동적 스케쥴링 기법)

  • Kim, Jinhwan;Jung, Inhwan
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2004.05a
    • /
    • pp.127-130
    • /
    • 2004
  • 본 논문에서는 경성 실시간 환경에서 MPEG 비디오 스트림을 디코딩하는 멀티미디어 태스크와 경성 실시간 태스크를 효율적으로 스케쥴링하는 기법이 제시된다. 연성 실시간 특성을 갖는 멀티미디어 태스크는 평균 실행 시간을 기반으로 처리되는 반면 경성 실시간 태스크는 최악의 경우에 대한 실행 시간을 기반으로 실행이 보장된다. 서버를 기반으로 하는 본 논문의 스케쥴링 기법은 CPU 대역폭을 두 태스크들에 대하여 분할하며 멀티미디어 태스크들에 대하여는 할당된 대역폭이 다시 동적으로 조정한다. 제시된 기법의 목적은 시스템에 존재하는 경성 실시간 태스크들의 시간적 제약성을 모두 보장하면서 멀티미디어 태스크들의 종료시한이후 실행이 지연되는 시간을 최소화하는 것이다.

  • PDF

Performance Comparison of Deep Reinforcement Learning based Computation Offloading in MEC (MEC 환경에서 심층 강화학습을 이용한 오프로딩 기법의 성능비교)

  • Moon, Sungwon;Lim, Yujin
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2022.05a
    • /
    • pp.52-55
    • /
    • 2022
  • 5G 시대에 스마트 모바일 기기가 기하급수적으로 증가하면서 멀티 액세스 엣지 컴퓨팅(MEC)이 유망한 기술로 부상했다. 낮은 지연시간 안에 계산 집약적인 서비스를 제공하기 위해 MEC 서버로 오프로딩하는 특히, 태스크 도착률과 무선 채널의 상태가 확률적인 MEC 시스템 환경에서의 오프로딩 연구가 주목받고 있다. 본 논문에서는 차량의 전력과 지연시간을 최소화하기 위해 로컬 실행을 위한 연산 자원과 오프로딩을 위한 전송 전력을 할당하는 심층 강화학습 기반의 오프로딩 기법을 제안하였다. Deep Deterministic Policy Gradient (DDPG) 기반 기법과 Deep Q-network (DQN) 기반 기법을 차량의 전력 소비량과 큐잉 지연시간 측면에서 성능을 비교 분석하였다.