• 제목/요약/키워드: 대용량 메모리

검색결과 373건 처리시간 0.023초

SPQUSAR : Apache Spark를 이용한 대용량의 정성적 공간 추론기 (SPQUSAR : A Large-Scale Qualitative Spatial Reasoner Using Apache Spark)

  • 김종환;김종훈;김인철
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제21권12호
    • /
    • pp.774-779
    • /
    • 2015
  • 본 논문에서는 단위 추론 작업들 간의 순차 처리와 반복 처리에 효과적인 인-메모리 방식의 고속 클러스터 컴퓨팅 환경인 Apache Spark을 이용한 대용량의 정성적 공간 추론기의 설계와 구현에 관해 소개한다. 본 논문에서 제안하는 공간 추론기는 매우 효율적인 방법으로, 공간 객체들 간의 위상 관계와 방향 관계를 나타내는 대규모 공간 지식베이스의 무결성을 검사할 수 있을 뿐만 아니라, 주어진 공간 지식베이스로부터 새로운 사실들을 유도해냄으로써 지식베이스를 확장할 수도 있다. 일반적으로 공간 객체들 간의 위상 관계와 방향 관계에 관한 정성적 추론은 이접 관계들 간의 많은 조합 연산들을 포함한다. 본 추론기에서는 공간 추론에 필요한 최소한의 이접 관계 집합을 찾아내고 이들만을 포함하도록 조합 표를 축소함으로써, 추론의 효율성을 크게 개선시켰다. 또한, 본 추론기에서는 추론 성능 향상을 위해 Hadoop 클러스터 시스템에서 분산 추론 작업이 진행되는 동안 디스크 입출력을 최소화하도록 설계하였다. 대용량의 가상 및 실제 공간 지식베이스를 이용한 실험들에서, 본 논문에서 제안하는 Apache Spark 기반의 정성적 공간 추론기가 MapReduce 기반의 기존 추론기보다 더 높은 성능을 보여주었다.

신뢰값 기반 대용량 트리플 처리를 위한 스파크 환경에서의 RDFS 온톨로지 추론 (Spark based Scalable RDFS Ontology Reasoning over Big Triples with Confidence Values)

  • 박현규;이완곤;바트셀렘;박영택
    • 정보과학회 논문지
    • /
    • 제43권1호
    • /
    • pp.87-95
    • /
    • 2016
  • 최근 인터넷과 디바이스의 발전으로 지식 정보의 양이 방대해 지면서 대용량 온톨로지를 이용한 추론 연구가 활발히 진행되고 있다. 일반적으로 트리플로 표현되는 빅데이터는 기계학습 프로그램이나 지식 공학자가 각 트리플의 신뢰도를 측정하여 제공한다. 하지만 수집된 데이터는 불확실한 데이터를 포함하고 있으며, 이러한 데이터를 추론하는 것은 불확실성을 내포한 추론 결과를 초래할 수 있다. 본 논문에서는 불확실성 문제를 해결하기 위해 수집된 데이터에 대한 신뢰의 정도를 나타내는 신뢰값(Confidence Value)를 이용한 RDFS 규칙 추론 방법에 대하여 설명하고, 메모리 기반의 분산 클러스터 프레임워크인 스파크(Spark)를 기반으로 데이터의 불확실성에 대한 고려를 하지 않는 기존의 추론 방법과 달리 신뢰값 계산에 대한 방법을 응용하여 RDFS 규칙을 통해 추론되는 새로운 데이터의 신뢰값을 계산하며, 계산된 신뢰값은 추론된 데이터에 대한 불확실성을 나타낸다. 제안하는 추론 방법의 성능을 검증하기 위해 온톨로지 추론과 검색 속도를 평가할 때 활용되는 공식 데이터인 LUBM을 대상으로 신뢰값을 추가하여 실험을 수행하였으며, 가장 큰 데이터인 LUBM3000을 수행하였을 때 1179초의 추론시간이 소요되었고, 초당 350K 트리플을 처리할 수 있는 성능을 보였다.

인메모리 기반 병렬 컴퓨팅 그래프 구조를 이용한 대용량 RDFS 추론 (Scalable RDFS Reasoning Using the Graph Structure of In-Memory based Parallel Computing)

  • 전명중;소치승;바트셀렘;김강필;김진;홍진영;박영택
    • 정보과학회 논문지
    • /
    • 제42권8호
    • /
    • pp.998-1009
    • /
    • 2015
  • 근래에 들어 풍부한 지식베이스를 구축하기 위한 대용량 RDFS 추론에 대한 관심이 높아지면서 기존의 단일 머신으로는 대용량 데이터의 추론 성능을 향상시키기에 한계가 있다. 그래서 분산 환경에서 의 RDFS 추론 엔진 개발이 활발히 연구되고 있다. 하지만 기존의 분산 환경 엔진은 실시간 처리가 불가능 하며 구현이 어렵고 반복 작업에 취약하다. 본 논문에서는 이러한 문제를 극복하기 위해 병렬 그래프 구조 를 사용한 인-메모리 분산 추론 엔진 구축 방법을 제안한다. 트리플 형태의 온톨로지는 기본적으로 그래프 구조를 가지고 있으므로 그래프 구조 기반의 추론 엔진을 설계하는 것이 직관적이다. 또한 그래프 구조를 활용하는 오퍼레이터를 활용하여 RDFS 추론 규칙을 구현함으로써 기존의 데이터 관점과 달리 그래프 구조의 관점에서 설계할 수 있다. 본 논문에서 제안한 추론 엔진을 평가하기 위해 LUBM1000(1억 3천 3백만 트리플, 17.9GB), LUBM3000(4억 1천 3백만 트리플, 54.3GB)에 대해 추론 속도를 실험을 하였으며 실 험결과, 비-인메모리 분산 추론 엔진보다 약 10배 정도 빠른 추론 성능을 보였다.

실시간 시각화를 위한 계층 구조 구축 기법 개발 (Real-Time Terrain Visualization with Hierarchical Structure)

  • 박찬수;서용철
    • 대한토목학회논문집
    • /
    • 제29권2D호
    • /
    • pp.311-318
    • /
    • 2009
  • 최근 지형 정보의 시각화 기술은 GIS 응용분야는 물론 게임, 가상현실, 항공 시뮬레이션 및 군사적인 목적 등을 실현하기 위한 중요한 기술로 부각되고 있다(유병현 2002). 그러나 대용량 지형 데이터를 실시간으로 처리하여 시각화를 구현하기 위한 메모리 한계성의 극복은 아직도 과제로 남아있다. 본 연구에서는 대규모 지형 표현을 위해 파일 기반의 효율적인 실시간 LOD (level-of-detail) 알고리즘 개발을 수행하였다. 실시간 LOD 알고리즘은 대규모 지형 데이터를 가시화하는데 필요한 기하학적 연산 처리를 가능하게 한다. 본 연구에서는 수치지도의 등고선이나 LiDAR, DTM, DSM 등으로부터 취득된 대용량 DEM의 가시화를 위해 계층적인 $4{\times}4$ 또는 $2{\times}2$ 타일 구조를 선택하였다. 또한 정규화된 Giga Byte급 고도데이터는 사용자 중심적 지형 정보의 원활하고 사실감 있는 표현이 될 수 있도록 고도데이터를 활용한 음영기복도를 생성하여 비메모리 방식의 계층적 타일 구조로 생성된 지형 블록에 Texture Mapping 하여 지형 가시화를 수행하였다. 대용량 데이터는 실시간 가시화를 위해 지형 데이터를 다양한 상세도를 가지는 데이터로 변형하여 이를 계층적으로 상호 연결함으로서 데이터의 손실이 최소화되며, 프레임 속도를 극대화하였고, 또한 사용자 시점에 따라 상세도 변화가 끊김없이(seamless) 고품질로 표현되도록 하였다.

퓨전 플래시 메모리의 다중 블록 삭제를 위한 Erase Croup Flash Translation Layer (Erase Group Flash Translation Layer for Multi Block Erase of Fusion Flash Memory)

  • 이동환;조원희;김덕환
    • 전자공학회논문지CI
    • /
    • 제46권4호
    • /
    • pp.21-30
    • /
    • 2009
  • OneNAND$^{TM}$와 같이 NAND와 NOR 플래시 메모리의 장점을 혼합한 퓨전 플래시 메모리는 대용량과 빠른 읽기/쓰기 및 XIP(eXecute-In-Place)를 지원하여 고성능 휴대용 임베디드 시스템을 위한 유비쿼터스 저장장치로 각광받고 있다. 또한 OneNAND$^{TM}$는 혼합형 구조의 장점뿐만 아니라 다수의 블록을 한 번에 삭제할 수 있는 다중 블록 삭제 기능을 제공하여 플래시 메모리의 느린 삭제 성능을 향상시켰다. 하지만 기존의 플래시 메모리 주소 변환 계층에서는 다수의 블록을 한 번에 삭제할 수 있다는 점을 고려하지 않고, 소수의 블록들을 가비지 컬렉션의 희생 블록으로 선택하여 삭제하므로 다중 블록 삭제 기능의 효율적인 사용이 어렵다. 본 논문에서는 다중 블록 삭제의 사용을 개선할 수 있는 EGFTL(Erase Group Flash Translation Layer)를 제안한다. EGFTL은 가비지 컬렉션 성능이 뛰어난 Superblock scheme과 다수의 무효 블록들을 관리하는 무효 블록 관리자를 통하여 다수의 블록들을 한 번에 삭제할 수 있도록 한다. 또한 군집형 해시 테이블을 적용하여 Superblock scheme의 주소 변환 성능을 개선하였다. 실험 결과 본 논문에서 제안한 EGFTL이 다른 주소 변환 계층 보다 가비지 컬렉션 성능을 30% 이상 향상시켰으며, Superblock scheme의 주소 변환 성능을 5%이상 향상시켰다.

컬럼-지향 데이터베이스를 위한 컬럼-인지 트랜잭션 관리 기법 (Column-aware Transaction Management Scheme for Column-Oriented Databases)

  • 변시우
    • 인터넷정보학회논문지
    • /
    • 제15권4호
    • /
    • pp.125-133
    • /
    • 2014
  • 컬럼-지향 데이터베이스 저장소는 우수한 입출력 성능으로 대용량 데이터 분석 시스템을 위한 매우 진보적인 모델이다. 전통적인 데이터 저장소는 빠른 쓰기 연산을 위하여 한 레코드의 속성들을 하드디스크에 연속적으로 배치되어 있는 가로-지향 저장 모델을 활용하였다. 하지만 검색이 대부분인 데이터웨어하우스 시스템을 위해서는 월등한 판독 성능 때문에 컬럼-지향 저장소가 더 적합한 모델이 되고 있다. 또한 최근에는 플래시 메모리를 사용한 SSD가 고속 데이터 분석 시스템을 위한 적합한 저장 매체로 인식되고 있다. 이제 플래시 메모리는 비휘발성, 낮은 전력소모, 빠른 데이터 접근 속도 등의 특징으로 최신 데이터베이스 서버의 핵심 저장 요소로 충분한 기반이 되었다. 하지만 컬럼 압축의 느린 특성과 일반 RAM 메모리에 비하여 상대적으로 느린 플래시 메모리 연산 특성을 고려하여 기존의 트랜잭션 처리 기법을 개선할 필요가 있다. 본 연구에서는 효율적인 트랜잭션 처리를 위하여 컬럼-인지 다중 버전로킹(CaMVL) 기법을 제안한다. CaMVL은 로크 관리 과정에서 플래시의 느린 쓰기 연산과 지우기 연산을 효과적으로 제어하기 위하여 멀티 버전 읽기를 허용하고 압축 로크를 허용하여 트랜잭션 처리 성능을 높인다. 또한 성능 검증을 위하여 시뮬레이션 모델을 제안하였으며 실험 결과 분석을 통하여 CaMVL이 기존의 트랜잭션 처리 기법보다 우수함을 확인하였다.

리눅스 커널에서 네트워크 멀티미디어 서비스를 위한 메모리 복사 감소 기법 구현 (Implementation of Memory Copy Reduction Scheme for Networked Multimedia Service in Linux)

  • 김정원
    • 한국통신학회논문지
    • /
    • 제28권2B호
    • /
    • pp.129-137
    • /
    • 2003
  • MPEG(Motion Picture Expert Group)과 같은 멀티미디어 스트림은 연속적 재생으로 인해 데이터의 지속적인 디스크 검색을 요구한다. 따라서, 커널의 효율적인 지원이 필요한데, 유닉스 계열의 리눅스 버퍼 캐시 시스템은 비정기적이고 비실시간 데이터인 텍스트 데이터용으로 설계되었다. 대용량의 연속 미디어의 경우 커널 주소공간에서 사용자 주소공간으로의 대량의 복사가 이루어지므로 이 과정에서 CPU의 과중한 오버헤드가 발생한다. 이것은 시스템 처리율을 저하시킬 뿐만 아니라 QOS(Quality of Service)도 보장할 수 없다. 본 논문에서 이 메모리 복사 오버헤드를 감소시키기 위한 direct I/O와 one copy 기법을 리눅스 커널에서 설계 및 구현하였다. direct I/O는 디스크의 데이터를 커널 버퍼로 복사하지 않고 사용자 버퍼로 직접 복사하므로 CPU 오버헤드를 획기적으로 감소시킬 수 있다. 그리고, one-copy는 사용자 버퍼로 데이터를 복사하지 않고 직접 네트워크로 전송하는 기법이다. 구현 결과, CPU 오버헤드의 상당한 감소와 시스템의 처리율이 향상됨을 확인하였다.

클러스터링 해쉬 테이블을 이용한 다차원 선박 USN 스트림 데이터의 효율적인 처리 (Efficient Processing of Multidimensional Vessel USN Stream Data using Clustering Hash Table)

  • 송병호;오일환;이성로
    • 대한전자공학회논문지SP
    • /
    • 제47권6호
    • /
    • pp.137-145
    • /
    • 2010
  • 디지털 선박에서는 선박 내의 각종 센서로부터 측정된 디지털 데이터에 대한 정확하고 에너지 효율적인 관리가 필요하다. 그러나, 센서 네트워크에서 대용량 스트림 데이터를 제한된 네트워크, 전력, 프로세서를 이용하여 모든 센서 데이터를 전송하고 분석하는 것은 어렵고 효율적이지 못하다. 그러므로, 연속적으로 입력되는 데이터를 사전에 분류하여 특성에 따라 선택적으로 데이터를 처리하는 데이터 분류 기법이 요구된다. 본 논문에서는 디지털 선박 내에 다수 개의 센서(온도, 습도, 조도, 음성 센서)를 배치하고 효율적인 입력 스트림 처리를 위해서 슬라이딩 윈도우 기반으로 다중 Support Vector Machine(SVM) 알고리즘을 이용하여 사전 분류(pre-clustering)한 후 요약된 정보를 해쉬 테이블로 관리하는 효율적인 처리 기법을 제안한다. 해쉬테이블을 이용하여 다차원 스트림 데이터의 저장될 레코드 순서를 빠르게 찾아 저장 및 검색함으로서 처리 속도가 향상되고 메모리에 해쉬 테이블 만을 유지하면 되므로 메모리 사용량이 감소한다. 35,912개의 데이터 집합을 사용하여 실험한 결과 제안 기법의 정확도와 처리 성능이 향상되었다.

빅데이터 환경에서 스트림 질의 처리를 위한 인메모리 기반 점진적 처리 기법 (In-Memory Based Incremental Processing Method for Stream Query Processing in Big Data Environments)

  • 복경수;육미선;노연우;한지은;김연우;임종태;유재수
    • 한국콘텐츠학회논문지
    • /
    • 제16권2호
    • /
    • pp.163-173
    • /
    • 2016
  • 최근 대용량의 스트림 데이터를 분산 처리하기 위한 연구들이 진행되고 있다. 본 논문에서는 빅데이터 환경에서 실시간 스트림 데이터의 점진적 처리 기법을 제안한다. 제안하는 기법은 처음 스트림 데이터가 입력되면 임시 큐에 데이터를 저장하고 마스터 노드에 저장되어 데이터와 비교과정을 통해 마스터 노드에 동일한 데이터가 있는 경우 마스터 노드에서 가지고 있는 노드의 정보를 이용하여 해당 노드의 메모리에서 기존 처리 결과를 재사용한다. 기존 처리 결과가 없다면 처리하고 처리 결과를 메모리에 저장한다. 분산 환경에서 점진적인 스트리밍 데이터 처리를 위해 노드의 작업 지연을 계산하여 노드의 부하를 파악하고 처리 시간 계산을 통해 각 노드의 성능을 고려한 잡 스케쥴링 기법을 제안한다. 제안하는 기법의 우수성을 보이기 위해 기존 기법과의 질의 수행 시간 비교를 위한 성능평가를 수행한다.

전원 공급이 지속적인 대용량 스마트 카드를 위한 JCVM 시스템 구조 개선 (An Improvement of the JCVM System Architecture for Large Scale Smart Card having Seamless Power Supply)

  • 이동욱;황철준;양윤심;정민수
    • 한국멀티미디어학회논문지
    • /
    • 제10권8호
    • /
    • pp.1029-1038
    • /
    • 2007
  • 기존의 자바카드 플랫폼이 탑재된 스마트 카드는 전원이 잠시 공급될 때 어플리케이션을 설치하고 실행한다. 또한 예기치 않은 전원 차단에 대비하여 어플리케이션의 실행 상태와 실행 시 변경되는 모든 데이터를 비휘발성 메모리(EEPROM/Flash)의 힙(Heap)영역에 저장하고 갱신한다. 이 같은 무절제한 EEPROM의 데이터 갱신은 스마트 카드의 생명을 단축시키는 중요한 원인이 된다. 이는 항상 전원이 공급되는 환경으로 발전할 것임을 고려하지 않는 상태에서 스마트 카드를 개발했고, 또한 그 구조를 계속 유지하고 있기 때문이다. 본 논문에서는 어플리케이션 저장 메커니즘과 메모리 구조를 개선하여, EEPROM은 어플리케이션 다운로드용, RAM은 애플릿 실행용으로 사용하는 일반적인 컴퓨터 시스템 구조로 개선하여 전원이 항상 공급되는 환경에서 운용되는 고성능 자바카드 시스템을 개발한다. 제안된 기법이 적용된 자바카드 시스템을 통해 애플릿의 생성 속도가 58%, 메소드 실행속도가 33% 정도 빨라진다는 것을 알 수 있었다.

  • PDF