• 제목/요약/키워드: 메모리 워크로드

검색결과 51건 처리시간 0.02초

쿠버네티스에서 ML 워크로드를 위한 분산 인-메모리 캐싱 방법 (Distributed In-Memory Caching Method for ML Workload in Kubernetes)

  • 윤동현;송석일
    • Journal of Platform Technology
    • /
    • 제11권4호
    • /
    • pp.71-79
    • /
    • 2023
  • 이 논문에서는 기계학습 워크로드의 특징을 분석하고 이를 기반으로 기계학습 워크로드의 성능 향상을 위한 분산 인-메모리 캐싱 기법을 제안한다. 기계학습 워크로드의 핵심은 모델 학습이며 모델 학습은 컴퓨팅 집약적 (Computation Intensive)인 작업이다. 쿠버네티스 기반 클라우드 환경에서 컴퓨팅 프레임워크와 스토리지를 분리한 구조에서 기계학습 워크로드를 수행하는 것은 자원을 효과적으로 할당할 수 있지만, 네트워크 통신을 통해 IO가 수행되야 하므로 지연이 발생할 수 있다. 이 논문에서는 이런 환경에서 수행되는 머신러닝 워크로드의 성능을 향상하기 위한 분산 인-메모리 캐싱 기법을 제안한다. 특히, 제안하는 방법은 쿠버네티스 기반의 머신러닝 파이프라인 관리 도구인 쿠브플로우를 고려하여 머신러닝 워크로드에 필요한 데이터를 분산 인-메모리 캐시에 미리 로드하는 새로운 방법을 제안한다.

  • PDF

메모리 워크로드 분석을 위한 고속 커널 데이터 수집 기법 (High Speed Kernel Data Collection method for Analysis of Memory Workload)

  • 윤준영;정승완;박종우;김정준;서대화
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제2권11호
    • /
    • pp.461-470
    • /
    • 2013
  • 본 논문은 정밀한 메모리 워크로드 분석을 위해 리눅스 기반의 커널 수준에서 프로세스의 메모리 관리 구조체에 직접 접근하는 방법을 이용하여 고속으로 커널 데이터를 수집하는 기법을 제안한다. 기존의 분석기들은 데이터 수집 속도가 느리고 제공되는 데이터의 제한으로 인하여 확장성이 부족하다. 제안 기법은 메모리 관리 구조체 내의 프로세스 메모리정보, 페이지 테이블, 페이지 구조체를 직접 수집하는 방법을 이용하여 기존의 기법 보다 빠르게 커널 데이터를 수집하며, 사용자가 원하는 데이터를 선택하여 수집할 수 있다. 제안 기법을 통해 실제 실행 중인 프로세스의 메모리 관리 데이터를 수집하고 메모리 워크로드에 대한 분석을 수행하였다.

멀티쓰레드 워크로드를 위한 DVFS 기반 메모리 경합 인지 스케줄링 기법 (DVFS based Memory-Contention Aware Scheduling Method for Multi-threaded Workloads)

  • 남윤성;강민규;염헌영;엄현상
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제24권1호
    • /
    • pp.10-16
    • /
    • 2018
  • 비용절감을 위해 제한된 서버 워크로드를 통합하는 것은 데이터센터의 효율성에 중요하다. 하지만 더 많은 워크로드가 하나의 서버에 통합되면서, 워크로드들의 성능이 제한된 공유 자원에 대한 경합으로 인해 감소될 수 있다. 이러한 성능감소를 줄이기 위해서 공유자원에 대한 경합을 줄이는 스케줄이 필요하다. 본 논문에서는 이러한 공유자원, 특히 메모리 서브시스템에 대해서 경합을 줄일 수 있는 DVFS(Dynamic Voltage Frequency Scaling) 기반의 메모리 인지 쓰레드 스케줄링 방법을 제안한다. 제안한 알고리즘은 메모리 자원에 대한 경합을 줄이기 위해서, 메모리 자원에 대한 접근을 제한하는 방식으로 두 가지 방법을 사용한다. 메모리 인텐시브 쓰레드를 제한된 코어에서 수행하고, 메모리 인텐시브 쓰레드가 수행되는 코어의 주파수를 낮추어 경합을 완화한다. 제안한 알고리즘을 적용하여 쓰레드 스케줄링 시, 리눅스의 CFS(Completely Fair Scheduler) 대비 최대 43%의 성능향상을 이루고 파워소모를 38% 줄일 수 있었다.

개인용 모바일 환경의 AI 워크로드 수행을 위한 메모리 참조 분석 및 시스템 설계 방안 (Implications for Memory Reference Analysis and System Design to Execute AI Workloads in Personal Mobile Environments)

  • 권석민;반효경
    • 한국인터넷방송통신학회논문지
    • /
    • 제24권1호
    • /
    • pp.31-36
    • /
    • 2024
  • 최근 AI 기술을 활용하는 모바일 앱이 늘고 있다. 개인용 모바일 환경에서는 메모리 용량의 제약으로 인해 대용량 데이터로 구성된 워크로드의 학습 시 극심한 성능 저하가 발생할 수 있다. 본 논문에서는 이러한 현상을 규명하기 위해 AI 워크로드의 메모리 참조 트레이스를 추출하고 그 특성을 분석하였다. 그 결과 AI 워크로드는 메모리 쓰기 연산시 약한 시간지역성과 불규칙한 인기편향성 등으로 인해 잦은 스토리지 접근을 발생시켜 모바일 기기의 성능을 저하시킬 수 있음을 확인하였다. 이러한 분석을 토대로 본 논문에서는 AI 워크로드의 메모리 쓰기 연산을 영속 메모리 기반의 스왑 장치를 이용해서 효율적으로 관리할 수 있는 방안에 대해 논의하였다. 시뮬레이션을 통해 본 연구에서 제안한 구조가 기존의 모바일 시스템 대비 80% 이상 입출력 시간을 개선할 수 있음을 보였다.

안드로이드 입출력 부하의 꼬리분포 특성분석 (Characterizing the Tail Distribution of Android IO Workload)

  • 박창현;원유집;박영준
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제8권10호
    • /
    • pp.245-250
    • /
    • 2019
  • 모바일 분야의 발전으로 인해 낸드 플래시 메모리의 사용이 급증하였다. 그러나 낸드 플래시 메모리는 수명에 제한이 있어서 수명을 예측하기 위한 연구가 진행되고 있다. 낸드 플래시 메모리의 수명에 큰 영향을 주는 요소 중 하나가 워크로드인데, 모바일 환경에서의 워크로드 분석 연구는 미비하다. 이에 본 논문에서는 안드로이드 기반의 스마트폰을 사용하면서 발생하는 트레이스를 수집하고, 모바일 환경에서의 워크로드 분포를 분석하였다. 수집한 트레이스는 hotness 그룹을 3개로 분류할 수 있다. 또한 트레이스의 분포는 무거운 꼬리를 가지는 형태이다. 본 논문은 이를 Pareto, Lognormal, Weibull 분포에 피팅하였고, 그 결과 Pareto 분포에 가장 가까운 것을 확인하였다.

가상화 환경에서 고속 스토리지를 위한 워크로드 맞춤형 페이지 크기 모델링 (Workload-Aware Page Size Modeling for Fast Storage in Virtualized Environments)

  • 반효경;박윤주
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권3호
    • /
    • pp.93-98
    • /
    • 2022
  • 최근 옵테인 등 고속 스토리지의 출현으로 하드디스크에 적합하게 설계된 메모리 시스템 설정에 대한 재고가 필요한 시점에 이르렀다. 본 논문에서는 고속 스토리지의 탑재에 따라 페이지 크기가 메모리 시스템의 성능에 어떠한 영향을 미치는지를 분석하고, 가상화 환경에서 워크로드 상황에 맞게 페이지 크기를 설정할 수 있는 모델을 설계하였다. 전통적인 시스템의 경우 워크로드 별로 페이지 크기를 설정하는 것이 쉬운 일이 아니지만 최근 클라우드 환경의 활성화로 개별 워크로드 수행을 위해 별도의 가상머신이 생성되므로 가상머신이 시작될 때 해당 가상머신의 페이지 크기를 결정할 수 있어 제안한 모델의 효용이 높을 것으로 기대된다. 다양한 가상머신 시나리오에 대한 시뮬레이션 실험을 통해 제안한 모델이 워크로드 상황에 맞게 페이지 크기를 설정하여 메모리 접근 시간을 크게 개선함을 보인다.

데이타베이스 워크로드 분석 : 실험적 연구 (Database Workload Analysis : An Empirical Study)

  • 오정석;이상호
    • 정보처리학회논문지D
    • /
    • 제11D권4호
    • /
    • pp.747-754
    • /
    • 2004
  • 데이타베이스 시스템을 효율적으로 사용하기 위해 데이타베이스 관리자는 데이타베이스 시스템의 성능 특징들을 알아야 한다 데이터베이스 시스템에서 자원 사용은 워크로드에 따라 다르게 나타난다. 본 논문의 목적은 상이할 워크로드에서 데이타베이스 튜닝에 도움이 될 수 있도록 데이타베이스 시스템의 성능 특징 분석하고 식별하는 것이다. 이를 위해, OLTP 환경을 나타내는 TPC-C 워크로드와 웹기반의 전자상거래 환경을 나타내는 TPC-W워크로드에서 14개의 성능 지표에 의해 결정되는 자원 사용 형태를 분석하고 4개(데이타 버퍼, 개인 메모리, I/O 프로세스, 공유 메모리)의 자원 할당 변경에 따른 자원 사용 형태의 변화를 분석한다. 분석에 대한 결과로서 14개 중 8개의 성능 지표는 워크로드에서 성능차이를 보이고, 데이타 버퍼 자원의 변경은 데이타베이스 시스템에 영향을 준다. 본 논문의 결과는 데이타베이스 시스템 자동 튜닝의 기초 자료로서 사용될 수 있다.

동시에 실행되는 워크로드 조합에 따른 GPGPU 성능 분석 (Analysis of the GPGPU Performance for Various Combinations of Workloads Executed Concurrently)

  • 김동환;엄현상
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제23권3호
    • /
    • pp.165-170
    • /
    • 2017
  • GPGPU의 높은 연산 처리 능력을 활용하여 길고 복잡한 계산을 하려는 시도가 많이 있다. GPGPU 프로그램의 특성상 host와 device 사이에 메모리 복사가 필요하다. 해당 메모리 복사 latency가 길 경우 프로그램의 성능에 많은 영향을 준다. 그래서 GPGPU를 활용한 프로그래밍은 최적화에 따른 성능 차이가 크다. 여러 개의 GPGPU 프로그램을 동시에 실행시키면 메모리 복사와 GPGPU 컴퓨팅이 중첩이 되어 메모리 복사 latency hiding 효과를 기대할 수 있다. 이 논문에서는 메모리 복사 latency hiding을 분석한다. 또 메모리 복사의 성능을 높이기 위해 pinned memory를 사용했을 경우의 제약 조건에 따른 성능 예측 모델링 및 알고리즘을 제안하고 이를 바탕으로 실행할 워크로드를 선택하면 41%의 성능 향상을 보인다.

고속 스토리지 탑재에 따른 데스크탑과 스마트폰 환경의 페이지 크기 영향력 분석 (Impact Analysis for Page Size of Desktop and Smartphone Environments under Fast Storage Media)

  • 박윤주;반효경
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권2호
    • /
    • pp.77-82
    • /
    • 2022
  • 최근 고속 스토리지의 출현으로 메모리 시스템의 관리 단위인 페이지의 설정에 대한 재고가 필요한 시점에 이르렀다. 본 논문에서는 고속 스토리지의 탑재에 따라 페이지의 크기가 메모리 성능에 어떠한 영향을 미치는지를 분석하였다. 구체적으로는 데스크탑과 스마트폰 환경에서 페이지 크기에 따른 워크로드별 TLB 적중률 및 페이지 부재율을 분석하였다. 본 논문의 분석 결과 데스크탑 시스템에서는 페이지 크기의 영향력이 시스템 및 워크로드 상황에 의존적임을 확인하였다. 반면, 스마트폰 시스템의 경우 고속 스토리지가 탑재되더라도 페이지 크기가 메모리 성능에 미치는 영향이 크지 않으며, 워크로드에 따라서도 민감하지 않은 것을 확인하였다. 본 논문의 분석은 고속 스토리지 환경에서 페이지 크기를 시스템 및 워크로드 환경에 맞게 최적 설정하는 데에 도움을 줄 수 있을 것으로 기대된다.

효율적 플래시 메모리 관리를 위한 워크로드 기반의 적응적 로그 블록 할당 기법 (Workload-Driven Adaptive Log Block Allocation for Efficient Flash Memory Management)

  • 구덕회;신동군
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제37권2호
    • /
    • pp.90-102
    • /
    • 2010
  • 플래시 메모리는 저전력, 비휘발성, 충격 내구성의 특성 때문에 임베디드 시스템에서 가장 중요한 저장 장치로 사용되고 있다. 하지만, 플래시 메모리는 덮어쓰기가 안 되는 제약 때문에 FTL이라고 하는 주소 변환을 위한 소프트웨어를 사용하며, 효율적인 주소변환을 위해서 로그 버퍼 기반의 FTL이 많이 사용되고 있다. 로그 버퍼 기반 FTL의 설계시에 중요한 사항으로서 데이터 블록과 로그 블록의 연관구조를 결정하는 문제가 있다. 기존의 기법들은 설계시에 결정된 정적인 구조를 사용하지만, 본 논문에서 는 어플리케이션의 시간적 공간적 워크로드의 변화를 고려한 적응적 로그 블록 연관 구조를 제안한다. 제안하는 FTL은 실행시간에 어플리케이션의 워크로드의 변화에 최적화된 로그 블록 연관 구조를 사용함으로써 정적으로 최적의 연관 구조를 선택하는 기존의 기법 대비 5~16%의 성능 향상을 가져왔다.