• 제목/요약/키워드: in-memory data management

검색결과 428건 처리시간 0.025초

실시간 검색을 위한 다중 사용자용 주기억장치 자료저장 시스템 개발 (Design and Implementation of a Main-memory Storage System for Real-time Retrievals)

  • 권오수;홍동권
    • 정보처리학회논문지D
    • /
    • 제10D권2호
    • /
    • pp.187-194
    • /
    • 2003
  • 주기억장치 자료저장 시스템은 실시간 트랜젝션에 충분한 여유 시간을 부여하여 실시간 트랜잭션의 성능을 높혀준다. 이런 특성으로 인하여 주기억장치를 이용한 데이터관리 시스템들이 이동 통신 관리 시스템의 가입자 위치 관리와 같은 여유시간의 급박한 실시간 트랜잭션에 많이 활용되고 있다. 본 논문에서는 다중 사용자용 멀티쓰레드 방식의 실시간 검색시스템 개발의 일환으로 대량의 실시간 검색 트랜잭션과 자료 변경 트랜잭션이 주기억장치 자료저장 시스템의 자료를 검색, 변경하는 환경에서 주기억장치 자료저장 시스템을 설계 구현하였다. 구현된 시스템은 기존의 디스크 데이터베이스 시스템과 상호 보완적인 형태로 사용되는 내장형 방식으로 다중 쓰레드 방식으로 동작되며, 동시성 제어는 주기억장치의 특성을 살려 복잡한 잠금방식이 아닌 래치를 사용한다. 주기억장치 자료저장 시스템에는 가장 최근의 데이터만을 저장하며, 동기화 기법으로는 디스크 데이터베이스 시스템에서 변경 트랜잭션이 발생하는 경우에 구현 시스템의 데이터를 갱신하는 방법을 사용한다. 시스템은 검색 및 변경 쓰레드의 비율을 제한하여 실시간 검색의 최소성능을 보장할 수 있게 하였다.

그래프 프로세싱을 위한 GRU 기반 프리페칭 (Gated Recurrent Unit based Prefetching for Graph Processing)

  • 시바니 자드하브;파만 울라;나정은;윤수경
    • 반도체디스플레이기술학회지
    • /
    • 제22권2호
    • /
    • pp.6-10
    • /
    • 2023
  • High-potential data can be predicted and stored in the cache to prevent cache misses, thus reducing the processor's request and wait times. As a result, the processor can work non-stop, hiding memory latency. By utilizing the temporal/spatial locality of memory access, the prefetcher introduced to improve the performance of these computers predicts the following memory address will be accessed. We propose a prefetcher that applies the GRU model, which is advantageous for handling time series data. Display the currently accessed address in binary and use it as training data to train the Gated Recurrent Unit model based on the difference (delta) between consecutive memory accesses. Finally, using a GRU model with learned memory access patterns, the proposed data prefetcher predicts the memory address to be accessed next. We have compared the model with the multi-layer perceptron, but our prefetcher showed better results than the Multi-Layer Perceptron.

  • PDF

데이터 망각을 활용한 비휘발성 메모리 기반 파일 캐시 관리 기법 (Forgetting based File Cache Management Scheme for Non-Volatile Memory)

  • 강동우;최종무
    • 정보과학회 논문지
    • /
    • 제42권8호
    • /
    • pp.972-978
    • /
    • 2015
  • 비휘발성 메모리는 바이트 단위 접근과 비휘발성을 지원한다. 이러한 특성들은 비휘발성 메모리를 캐시, 메모리, 디스크와 같은 메모리 계층 구조 가운데 하나의 영역으로 사용을 가능케 한다. 비휘발성 메모리의 흥미로운 특성은 데이터 보존 기간이 실제로는 제한적인 기간을 가지고 있다는 것이다. 게다가 데이터 보존 기간과 쓰기 지연간의 트레이드오프가 존재 한다. 본 논문에서는 이를 활용하여 비휘발성 메모리를 파일 캐시로 사용하는 새로운 관리 기법을 제안한다. 제안하는 기법은 기존의 캐시 관리 기법과는 반대로 짧은 데이터 보존 시간으로 데이터를 저장하고 쓰기 성능을 개선한다. 제안하는 기법은 LRU 대비 평균 접근 지연 시간을 최대 31%, 평균 24.4%로 감소시킴을 보인다.

점진적 맵 업데이트를 위한 모바일 DBMS의 플래시메모리 페이지 관리 기법 (Flash-aware Page Management Policy of the Mobile DBMS for Incremental Map Update)

  • 민경욱;최정단;김주완
    • Spatial Information Research
    • /
    • 제20권5호
    • /
    • pp.67-76
    • /
    • 2012
  • 최근 모바일 디바이스에서 대용량 데이터 저장/관리를 위해 모바일 DBMS를 사용하려는 추세이며 특히 내비게이션 응용과 같이 대용량 맵 데이터의 저장/관리를 위한 모바일 DBMS의 저장구조 및 질의처리 방법에 대한 연구가 수행되었다. 무작위 데이터 접근(읽기/쓰기/변경) 질의가 대부분인 DBMS의 저장매체로 플래시메모리를 사용할 경우 성능이 저하된다. 그 이유는 플래시메모리는 특성상 순차적인 데이터 기록에는 성능이 좋지만 무작위 데이터 기록에는 성능이 나쁘다. 따라서 플래시메모리를 저장매체로 사용하는 모바일 DBMS의 경우 기존과 다른 저장 및 질의처리 기법이 필요하다. 이에 본 논문에서는 무작위 데이터 업데이트의 성능을 향상시키기 위한 DBMS의 페이지 관리 기법을 연구하였고 이를 점진적 맵 업데이트를 지원하는 내비게이션용 모바일 DBMS에 적용하여 실험하였고 성능을 검증하였다.

플래시 메모리기반 저장장치에서 효율적 메타데이터 관리 기법 (Efficient Metadata Management Scheme in NAND Flash based Storage Device)

  • 김동욱;강수용
    • 디지털콘텐츠학회 논문지
    • /
    • 제16권4호
    • /
    • pp.535-543
    • /
    • 2015
  • 현재 NAND 플래시 메모리기반 저장장치는 NAND 플래시 메모리의 단점을 감추고 장점을 극대화해 나가며 그 활용 영역을 지속적으로 넓혀왔다. 특히, 이러한 저장장치는 NAND 플래시 메모리의 고유한 특성인 "쓰기 전 지우기" 특성을 감추기 위하여 내부적으로 플래시 변환 계층(Flash Translation Layer)이라 불리는 소프트웨어 계층을 포함하고 있다. 플래시 변환 계층은 호스트로부터 요청된 데이터를 관리하기 위한 메타데이터를 포함하며, 메타데이터는 호스트의 요청들을 처리하기 위해 자주 접근되는 데이터이므로 내부 메모리에 저장되어 관리된다. 따라서 메모리에 저장된 메타데이터는 전원손실이 발생하게 되는 경우 모두 소멸되므로, 메타데이터를 주기적으로 저장하고 초기화 과정을 통해 메타데이터를 메모리에 적재할 수 있는 메타데이터 관리 정책이 필요하다. 따라서 우리는 메타데이터 관리의 핵심 요구사항을 모두 만족하면서 효율적으로 동작하는 메타데이터 관리 정책을 제안하며, 실험을 통해 제안하는 기법의 효율성을 증명하였다.

플래시메모리 DBMS를 위한 블록의 비고정적 로그 영역 관리 기법 (A Non-fixed Log Area Management Technique in Block for Flash Memory DBMS)

  • 조혜원;한용구;이영구
    • 한국정보과학회논문지:데이타베이스
    • /
    • 제37권5호
    • /
    • pp.238-249
    • /
    • 2010
  • 빈번한 데이터 접근이 요구되는 DBMS 분야에서 플래시메모리의 빠른 연산 속도를 이용하여 시스템 성능을 향상시키기 위한 연구가 활발히 이루어지고 있다. 플래시메모리를 DBMS의 저장매체로 사용하는데 가장 큰 문제점 중에 하나는 비효율적인 덮어쓰기 연산으로 인한 성능 저하와 수명 단축이다. 페이지 보다 작은 크기의 쓰기 연산이 빈번히 발생하는 특성을 가진 DBMS 환경에서 비효율적인 덮어 쓰기 문제를 해결하기 위하여 업데이트 내용을 로그 형태로 저장하는 기법들이 연구되었다. 그러나 기존의 연구들은 로그 저장 영역을 고정적으로 관리하여 쓰기 성능 저하의 주요 원인인 합병이 빈번히 발생한다는 문제가 있다. 본 논문에서는 블록의 로그 영역을 비고정적으로 관리하여 로그 저장 공간의 부족으로 인한 합병의 발생을 최소화시키는 기법을 제안한다. 또한 블록 내에서 최소의 비용으로 로그 저장 공간을 사용할 수 있도록 하는 기준을 제시하여 블록의 비고정적인 로그 영역 관리 기법에 적용한다. 실험을 통하여 제안하는 비고정적인 로그 영역 관리 기법이 기존의 고정적으로 관리하는 기법들과의 비교하여 성능 향상을 가져올 수 있는 것을 입증하였다.

플래시 메모리 기반의 가상 메모리 시스템을 위한 중복성을 고려한 GC 기법 (Duplication-Aware Garbage Collection for Flash Memory-Based Virtual Memory Systems)

  • 지승구;신동군
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제37권3호
    • /
    • pp.161-171
    • /
    • 2010
  • 임베디드 시스템이 모놀리식(monolithic) 커널을 사용하면서, NAND 플래시 메모리는 가상 메모리 시스템의 스왑(swap) 공간을 위해 사용되고 있다. 플래시 메모리는 저전력 소비, 충격 내구성, 비 휘발성의 장점을 가지지만, '쓰기 전 삭제'의 특징 때문에 가비지 컬렉션(GC) 작업이 필요하다. GC 기법의 효율성은 플래시 메모리 성능에 큰 영향을 미친다. 본 논문에서는 플래시 메모리를 기반으로 하는 가상 메모리 시스템에서 메인 메모리와 플래시 메모리 사이에 중복된 데이터를 활용한 새로운 GC 기법을 제안한다. 제안된 기법은 GC 부하를 최소화하기 위해 데이터의 지역성을 고려한다. 실험 결과는 제안된 GC 기법이 이전의 기법과 비교하여 평균적으로 37%의 성능을 향상시킴을 보여준다.

플래시 메모리 환경을 위한 컨테이너 기반 레코드 관리 방법 (Container-Based Record Management in Flash Memory Environment)

  • 배덕호;김상욱;장지웅
    • 한국정보과학회논문지:데이타베이스
    • /
    • 제36권1호
    • /
    • pp.1-7
    • /
    • 2009
  • 플래시 메모리는 기존 저장 매체와는 달리 읽기 연산에 비해 쓰기 연산의 수행비용이 매우 크고, 저장된 데이타에 대한 갱신이 제한적인 고유의 특성이 있다. 본 논문에서는 플래시 메모리 환경이 기존의 레코드 관리 방법에 미치는 영향을 분석하고, 기존의 레코드 관리 방법을 그대로 플래시 메모리에 적용하였을 때의 문제점을 지적한다. 이를 기반으로 플래시 메모리 환경을 위한 효율적인 레코드 관리 방법을 제안한다. 제안하는 방법은 컨테이너 구조를 이용하여 레코드 삽입, 삭제, 수정 연산을 수행함으로써 덮어쓰기 연산을 효율적으로 수행할 수 있으며, 이로 인해 소거 연산을 크게 줄일 수 있다. 실험 결과에 의하면, 제안하는 방법은 기존 방법의 성능을 최대 34%까지 향상시키는 것으로 나타났다.

Comparison of Traditional Workloads and Deep Learning Workloads in Memory Read and Write Operations

  • Jeongha Lee;Hyokyung Bahn
    • International journal of advanced smart convergence
    • /
    • 제12권4호
    • /
    • pp.164-170
    • /
    • 2023
  • With the recent advances in AI (artificial intelligence) and HPC (high-performance computing) technologies, deep learning is proliferated in various domains of the 4th industrial revolution. As the workload volume of deep learning increasingly grows, analyzing the memory reference characteristics becomes important. In this article, we analyze the memory reference traces of deep learning workloads in comparison with traditional workloads specially focusing on read and write operations. Based on our analysis, we observe some unique characteristics of deep learning memory references that are quite different from traditional workloads. First, when comparing instruction and data references, instruction reference accounts for a little portion in deep learning workloads. Second, when comparing read and write, write reference accounts for a majority of memory references, which is also different from traditional workloads. Third, although write references are dominant, it exhibits low reference skewness compared to traditional workloads. Specifically, the skew factor of write references is small compared to traditional workloads. We expect that the analysis performed in this article will be helpful in efficiently designing memory management systems for deep learning workloads.

모바일 게임 서버를 위한 고정크기 메모리 풀 관리 방법 (Fixed Size Memory Pool Management Method for Mobile Game Servers)

  • 박세영;최종선;최재영;김은회
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제4권9호
    • /
    • pp.327-336
    • /
    • 2015
  • 모바일 환경에서의 게임 서버는 클라이언트의 요청을 처리하는 버퍼를 생성하기 위해 일반적으로 동적 메모리 할당을 빈번하게 수행한다. 이는 시스템에 부하를 가중시키고 메모리 단편화를 발생시키게 되어 게임 서버의 성능을 저하시킨다. 본 논문에서는 이러한 문제를 해결하기 위해 고정크기 메모리 풀 관리 방법을 제안한다. 제안하는 방법에서의 메모리 풀은 원형 연결 리스트 형태의 순차적 메모리 구조를 가지며, 이를 통해 게임 서버에서의 메모리 단편화 문제를 해결하고, 메모리 할당과 해제를 위해 필요한 메모리 블록의 탐색 시간 비용을 줄일 수 있다. 실험에서는 제안하는 방법과 잘 알려진 오픈소스 메모리 풀 라이브러리(boost) 기반의 메모리 풀 관리방법을 이용하여, 동적 할당을 수행할 때의 성능평가를 통해 해당 기법의 효율성을 보이도록 한다.