• Title/Summary/Keyword: 제한 메모리

Search Result 564, Processing Time 0.027 seconds

Analyzing the performance of training tasks based on GPU memory use manner of TensorFlow in Container environments (컨테이너 환경에서 텐서플로의 GPU 메모리 사용방식에 따른 학습 작업의 성능 분석)

  • Jihun Kang;Joon-Min Gil
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2023.05a
    • /
    • pp.60-62
    • /
    • 2023
  • 인공지능의 학습 작업은 연산량이 많아 고성능 연산 장치인 GPU(Graphics Processing Unit)를 필요로 하며, GPU 장치의 성능은 학습 작업의 실행 성능에 직접적으로 영향을 미치는 요소 중 하나로 작용한다. 인공지능 작업을 처리하기 위해 많이 사용되는 텐서플로의 경우 GPU를 사용해 연산을 수행할 때 기본적으로 거의 모든 GPU 메모리 영역을 단일 학습 작업이 점유하도록 GPU 메모리를 관리한다. 이 방법은 컴퓨팅 자원 중 확장성이 가장 낮은 GPU 메모리의 단편화를 방지하기 위해 사용되는 방법이지만, 하나의 학습 작업이 GPU를 점유하게 되면, 실제 GPU 메모리 사용량과 상관없이 다른 프로세스는 GPU를 사용할 수 없는 문제를 유발한다. 특히, 전이학습, 소규모 학습과 같이 상대적으로 작업 규모가 작은 경우에는 전체 GPU 메모리 용량 중 대부분의 영역이 낭비된다. 본 논문에서는 컨테이너 환경에서 텐서플로의 기본 GPU 메모리 사용 방식으로 인해 다수의 학습 작업을 동시 실행하는 것이 불가능한 문제를 확인하고 GPU 메모리 사용량을 제한한 경우와 하지 않은 경우에 실제 GPU 메모리 사용량과 학습 작업의 실행 시간에 대한 성능 비교를 통해 GPU 메모리의 단편화 방지가 성능에 유의미한 요소인지 검증한다.

Design of an Automated Testing Tool to Detect Dynamic Memory Access Errors in C Programs (C언어 기반 프로그램의 동적 메모리 접근 오류 테스트 자동화 도구 설계)

  • Cho, Dae-Wan;Oh, Seung-Uk;Kim, Hyeon-Soo
    • Journal of KIISE:Software and Applications
    • /
    • v.34 no.8
    • /
    • pp.708-720
    • /
    • 2007
  • Memory access errors are frequently occurred in computer programs written in C programming language [1,2]. Accordingly, a number of research works have suggested a wide variety of methods to detect such errors automatically. However, they have one or more of the following problems: inability to detect all memory errors, changing the memory allocation mechanism, and excessive performance overhead. To cope with these problems, in this paper we suggest a new and automated tool to detect dynamic memory access errors in C programs.

Reusing Local Regions in Memory-limited Java Virtual Machines (메모리가 제한적인 자바가상기계에서의 지역 재사용)

  • Kim, Tae-In;Kim, Seong-Gun;Han, Hwan-Soo
    • Journal of KIISE:Software and Applications
    • /
    • v.34 no.6
    • /
    • pp.562-571
    • /
    • 2007
  • Various researches had been devoted in purpose of improving memory management in terms of performance, efficiency, ease of use, and safety. One of these approaches is a region-based memory management. Each allocation site selects a specific region, after that allocated objects are placed in this region. Memory is reclaimed by destroying the region, freeing all the objects allocated therein. In this paper, we propose reusing of local regions to reduce heap memory usage in memory-limited environments. The basic idea of this proposal is reusing of upper local regions where objects that are allocated to these regions are not accessed until the current method is finished. We believe our method of reusing local regions is able to overcome memory constraints in memory-limited environments.

K Partition-Based Even Wear-Leveling Policy for Flash Memory (K 분할 기반 플래시 메모리 균등소거 방법론)

  • Park Je-Ho
    • The KIPS Transactions:PartD
    • /
    • v.13D no.3 s.106
    • /
    • pp.377-382
    • /
    • 2006
  • Advantageous features of flash memory are stimulating its exploitation in mobile and ubiquitous related devices. The hardware characteristics of flash memory however place restrictions upon this current trend. In this paper, a cleaning policy for flash memory is proposed in order to decrease the necessary penally for recycling of memory minimizing the degradation of performance at the same time. The proposed cleaning algorithm is based on partitioning of candidate memory regions, to be reclaimed as free, into a number of groups. In addition, in order to improve the balanced utilization of the entire flash memory space in terms of 'wearing-out', a free segment selection algorithm is discussed. The impact of the proposed algorithms is evaluated through a number of experiments. Moreover, the composition of the optimal configuration featuring the proposed methods is tested through experiments.

유비쿼터스 환경과 보안

  • 김형중
    • Information and Communications Magazine
    • /
    • v.20 no.5
    • /
    • pp.635-644
    • /
    • 2003
  • 유비쿼터스 컴퓨팅 환경에서만 볼 수 있는 보안문제를 가용성, 인증성, 익명성 관점에서 살펴보았다. 이 분야의 보안기술은 기존의 방법과 여러 면에서 다르다. 무선 애드학 네트워크 또는 센서 네트워크의 예에서 보는 것처럼 제한된 계산 성능과 메모리, 전력소모를 최소화히기 위한 통달거리 제한 및 아이들 상태 유지, 온라인 서버가 존재하지 않으므로 인해 발생하는 집중형 기술 구현이 불가능한 한계로 인해 새로운 이슈들이 등장하고 있다. 이런 문제들과 해결책 일부를 소개한다.

A Design of Double Cache Policy for File System Based on NAND Flash Memory (NAND 플래시 메모리 기반 파일시스템을 위한 더블 캐시 정책 설계)

  • Park, Myung-Kyu;Kim, Sung-Jo
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2008.06b
    • /
    • pp.366-370
    • /
    • 2008
  • NAND 플래시 메모리는 특성상 쓰기 횟수가 제한적이라는 단점을 가지고 있어 쓰기 연산이 빈번히 발생하게 되면 NAND 플래시 메모리의 수명이 줄어든다. 이러한 문제점을 해결하기 위해 NAND 플래시 메모리의 특성을 고려한 지연 쓰기 기법이 연구되고 있다. 하지만 지연 쓰기를 하기 때문에 쓰기 횟수는 줄어들지만 캐시 적중률이 낮아진다. 이러한 문제해결을 위해 본 논문에서는 NAND 플래시 메모리 기반 파일 시스템을 위한 더블 캐시 정책을 제안한다. 더블 캐시는 실질적인 캐시인 Real Cache와 요구 페이지의 패턴을 관찰하기 위한 Ghost Cache로 구성된다. 이 정책은 Real Cache에서의 지연 쓰기를 하지 않고, Ghost Cache 공간에서 dirty페이지와 clean페이지를 활용하여 효율적인 지연 쓰기가 가능하도록 설계함으로써 쓰기 횟수를 줄이고, 적중률을 높인다.

  • PDF

Android FTP Client using the Smart phone (스마트폰을 이용한 Android FTP Client)

  • Jeong, Kil-Hyun;Lee, Jong-Jin;Lee, Jung-Min;Park, Gu-Sung
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2011.01a
    • /
    • pp.167-169
    • /
    • 2011
  • 정보화 시대는 파일관리가 매우 중요하다. 제한된 메모리에서 많은 업무를 함에 따라 사용자들은 메모리 부족현상을 늘 겪는다. 이런 메모리 부족환경으로 인하여 사용자들은 보다 효율적이고 사용하기 편한 관리방법을 찾는다. 본 논문에서는 스마트 폰(smart phone)을 이용하여서 FTP Server에 접속하여 메모리를 효율적으로 관리할 수 있는 프로그램을 구현한다. 구현된 프로그램은 고정 IP를 통해 서버에 접속하고 사용자 아이디와 비밀번호를 지정하므로써, 지정된 사용자만 사용 할 수 있게 하였다. 이 FTP Client 프로그램은 체크된 파일을 전송 할 수 있게 해주고 이름변경, 삭제, 경로 변경 같은 세부기능을 가지고 있다. 구현된 프로그램 사용은 사용자들에게 스마트 폰의 메모리를 보다 효율적으로 관리할 수 있도록 하는 기능이 가능하도록 서비스를 제공한다.

  • PDF

A study on the efficient system call interface supporting minimum memory copy (메모리 복사를 최소화 하는 효율적인 시스템 호출 인터페이스에 관한 연구)

  • Song, Chang-Yong;Kim, Eun-Gi
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2003.11b
    • /
    • pp.1097-1100
    • /
    • 2003
  • UNIX/LINUX 시스템에서 로컬 파일 시스템의 파일 데이터가 네트워크를 통해서 원격지 시스템에 전송되는 경우, 사용자와 커널(Kernel) 공간 사이에서의 메모리 복사가 적어도 2 회에 걸쳐 수행된다. 이러한 사용자와 리눅스(Linux) 커널 공간 사이에서 이루어지는 메모리 복사는 데이터 전송에 소요되는 시간을 증가시키고, 잦은 시스템 호출의 호출은 응용 프로세스와 리눅스 커널 간 문맥 교환(context switching)의 발생을 빈번하게 야기한다. 본 연구에서는 이러한 문제점들을 해결하기 위하여 필요한 경우 사용자와 리눅스 커널 사이에서의 메모리 복사를 수행하지 않고, 커널 공간 내에서의 메모리 복사를 최대한 제한할 수 있는 새로운 알고리즘을 제시한다.

  • PDF

Flash Memory Management Policy To Improve Wear-Leveling using Hot-and-Cold Flag (Hot-and-Cold 플래그를 이용한 플래시 메모리 균등 사용을 위한 관리 정책)

  • Jung, Phil-Young;Lee, Sung-Joon;Ahn, Kwang-Seon
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2003.05a
    • /
    • pp.479-482
    • /
    • 2003
  • 비휘발성 메모리인 플래시 메모리는 가볍고, 전력 소비가 적으며, 충격에 대한 저항이 강한 특징이 있다. 그러나 플래시 메모리는 세그먼트당 삭제 횟수가 최악의 경우 10만 번 정도로 제한된다는 단점이 있어서, 만약 삭제가 특정 세그먼트에 집중된다면 전체 수명이 단축되게 된다. 하지만, 플래시 메모리의 모든 세그먼트가 골고루 사용된다면 수명을 연장시킬 수 있다. 이를 위해 저장되는 자료의 유형을 파악하여 Hot, Cold 그리고 Lukewarm 이라는 그룹별로 분리해서 관리한다. 단순한 분리는 사용 횟수의 양극화를 가져오지만, 양극화된 세그먼트에 반대 유형의 자료를 할당하고 관리하면 전체 세그먼트의 사용률을 균등하게 할 수 있다. 이를 위해, 쓰기와 클리닝 작업 외에 양극화의 패턴을 통해 유형을 결정해주는 루틴을 포함하였다.

  • PDF

A Design of KVM Heap Memory Management for Effective Power Management in Banked Memory System (Banked Memory System에서 효율적일 전력관리를 위한 KVM의 힙 메모리 관리체계 설계)

  • Choi In-Bum;kang Hui-Sung;Jeong Myung-Jo;Lee Cheol-Hoon
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2005.07a
    • /
    • pp.868-870
    • /
    • 2005
  • 최근에는 자원이 제한적인 시스템을 위한 embedded JVM 환경에서 자바 응용 프로그램을 수행할 때 embedded JVM 의 성능에 따른 performance 뿐만 아니라 에너지 소비를 줄이는 일이 크게 대두되고 있다. 메모리에서 사용되는 에너지는 메모리에 접근할 때마다 소비되는 dynamic energy와 메모리에 파워가 들어와 있을 때 항상 소비되는 leakage energy 로 구분할 수 있다. embedded 환경을 고려하지 않았던 이전에는 leakage energy 가 중요한 부분으로 인식되지 않았지만, 현재는 dynamic energy 못지 않게 중요한 부분으로 인식되고 있다. 본 논문에서는 Banked Memory System을 사용하는 임베디드 JVM의 환경하에서 leakage energy를 효과적으로 줄일 수 있는 KVM의 힙 메모리 관리체계를 설계하였다.

  • PDF