• 제목/요약/키워드: data partition

검색결과 413건 처리시간 0.021초

빅데이터 분석을 위한 파티션 기반 시각화 알고리즘 (Partition-based Big Data Analysis and Visualization Algorithm)

  • 홍준기
    • 한국빅데이터학회지
    • /
    • 제5권1호
    • /
    • pp.147-154
    • /
    • 2020
  • 오늘날 빅데이터로부터 유의미한 결과를 도출하는 연구가 활발히 진행되고 있다. 본 논문에선 빅데이터의 데이터의 영역들을 파티션(partition)으로 설정하고 각 파티션들의 대표 값을 계산하여 변수들 사이의 상관관계를 분석 할 수 있는 파티션 기반 빅데이터 분석 알고리즘을 제안한다. 본 논문에선 파티션의 크기조절이 가능한 파티션 기반 빅데이터 분석 알고리즘의 파티션 크기 변화에 따른 시각화 결과를 비교분석하였다. 제안한 파티션 기반 빅데이터 분석 알고리즘을 검증하기 위해 의류 회사 'A'의 빅데이터를 분석하여 온도와 판매 가격 변화에 따른 상품의 판매량 변화를 분석하고 시각화하여 유의미한 결과를 얻을 수 있었다.

Design and Implementation of a Simulation Framework for Wireless Data Broadcasting based on Data ID Space Partition

  • Im, Seokjin
    • International journal of advanced smart convergence
    • /
    • 제7권4호
    • /
    • pp.10-18
    • /
    • 2018
  • For the information services supporting requests of data items from a great number of mobile clients, wireless data broadcasting is an effective way because it can accommodate any number of clients. In the wireless data broadcasting, various air indexing schemes and data scheduling schemes have been developed in order to enable the clients to access their desired data items efficiently. The broadcasting system needs a method to simulate newly designed air indexing and scheduling schemes of the system, and to evaluate the performance parameters of the schemes. In this paper, we design an expandable and efficient simulation framework for the wireless data broadcasting based on the partition of data ID space. The framework can adopt regular and irregular space partition and evaluate various performance parameters of the broadcasting system. We implement a testbed of the broadcasting system using the framework, that adopts IIP, GDI and EXP as its air indexing schemes. We simulate the system using the testbed and evaluate the performance parameters of the system. Thus, we show the efficiency and expandability of the designed and implemented framework.

저장 시스템의 논리 파티션을 이용한 파일 중복 제거 (File Deduplication using Logical Partition of Storage System)

  • 공진산;유혁;고영웅
    • 대한임베디드공학회논문지
    • /
    • 제7권6호
    • /
    • pp.345-351
    • /
    • 2012
  • In traditional target-based data deduplication system, all of the files should be chunked and compared for reducing duplicated data blocks. One of the critical problem of this system arises as the number of files are increasing. The system suffers from computational delay for calculating hash value and processing metadata for handling each file. To overcome this problem, in this paper, we propose a novel data deduplication system using logical partition of storage system. The system applies data deduplication scheme to each logical partition not each file. Experiment result shows that the proposed system is more efficient compared with traditional deduplication scheme where the logical partition is full of files by 50% in terms of deduplication capacity and processing time.

파티션 시스템 적용을 통한 기존 데이터센터 서버실의 냉방 에너지 절감 성능평가 (Evaluation of Cooling Energy Saving through Applying Aisle Partition System on a Data Center Server Room)

  • 박종수
    • 한국산학기술학회논문지
    • /
    • 제17권7호
    • /
    • pp.726-733
    • /
    • 2016
  • 본 연구에서는 기존 데이터센터 서버실에서 공기분배시스템으로 파티션 시스템의 적용성을 평가하기 위해 기존 시스템 그리고 파티션의 설치 높이와 위치를 변수로 하는 파티션 시스템과 컨테인먼트 시스템에 대해 총 21가지 경우의 컴퓨터시뮬레이션을 실시하고 다음과 같은 결론을 얻었다. 공기온도 및 기류 분포 해석결과를 이용하여 평가해 본 공기분배시스템별 냉방 에너지 절감 성능은 컨테인먼트 시스템, 파티션 시스템, 기존 시스템 순서로 우수한 것을 확인할 수 있었다. 기존 시스템과 파티션 설치높이 0.1~0.7m까지의 파티션 시스템은 재순환 공기에 의해 냉복도에서 1.0~1.2m 높이를 기점으로 공기 온도가 급격히 상승하면서 중간 높이의 서버와 상부 서버의 인입구 온도차는 $11{\sim}15^{\circ}C$로 큰 차이를 보여, 재순환 공기가 상부 서버의 과열의 원인을 제공하는 것으로 나타났다. 파티션 시스템에서 냉복도 상부에 파티션을 설치할 경우에 파티션의 적정 높이는 서버 랙 상부에서 천장까지 높이의 90%(0.9m)이상, 열복도 상부에 파티션을 설치하는 경우는 파티션 높이가 80%(0.8m)이상은 되어야 재순환 공기를 충분히 차단하여 서버 인입구 공기온도가 RCI 권장온도 범위를 만족하는 냉방 에너지 절감효과를 볼 수 있는 것으로 나타났다.

순서 바이어스 최소화에 의한 안정적 클러스터링 구축에 관한 연구 (A Study on the Construction of Stable Clustering by Minimizing the Order Bias)

  • 이계성
    • 한국정보처리학회논문지
    • /
    • 제6권6호
    • /
    • pp.1571-1580
    • /
    • 1999
  • 데이터 마이닝 또는 기계학습을 위한 무감독 학습 알고리즘인 개념적 클러스터링을 이용하여 계층적 구조를 유도해낼 때 자료를 처리하는 순서에 따라 서로 다른 결과에 도달하는 양상을 보인다. 이 순서 바이어스 문제를 해결하는 방안으로 먼저 주어진 자료 세트에 분류를 시행하여 초기 분류를 형성한다. 이 분류를 통해 최종 분류의 가능한 클래스 수를 예측하고 이 정보에 기반하여 자료 분석과 중심 정렬을 통해 자료 처리 순서를 새로이 결정한다. 재배열된 자료 세트에 ITERATE 분류 과정을 적용해 새로운 분류를 생성한다. 본 논문에서는 이 과정을 반복하여 안정적이고 최적의 분류 점수를 갖도록 하는 알고리즘 REIT를 제안하였다. 이 알고리즘을 여러 자료 세트에 적용하고 순서 바이어스의 영향을 최소화하는지 여부를 실험을 통해 비교 분석하였다.

  • PDF

Adaptive Partitioning for Efficient Query Support

  • Yun, Hong-Won
    • Journal of information and communication convergence engineering
    • /
    • 제5권4호
    • /
    • pp.369-373
    • /
    • 2007
  • RFID systems large volume of data, it can lead to slower queries. To achieve better query performance, we can partition into active and some nonactive data. In this paper, we propose two approaches of partitioning for efficient query support. The one is average period plus delta partition and the other is adaptive average period partition. We also present the system architecture to manage active data and non-active data and logical database schema. The data manager check the active partition and move all objects from the active store to an archive store associated with an average period plus data and an adaptive average period. Our experiments show the performance of our partitioning methods.

Spatial Statistic Data Release Based on Differential Privacy

  • Cai, Sujin;Lyu, Xin;Ban, Duohan
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제13권10호
    • /
    • pp.5244-5259
    • /
    • 2019
  • With the continuous development of LBS (Location Based Service) applications, privacy protection has become an urgent problem to be solved. Differential privacy technology is based on strict mathematical theory that provides strong privacy guarantees where it supposes that the attacker has the worst-case background knowledge and that knowledge has been applied to different research directions such as data query, release, and mining. The difficulty of this research is how to ensure data availability while protecting privacy. Spatial multidimensional data are usually released by partitioning the domain into disjointed subsets, then generating a hierarchical index. The traditional data-dependent partition methods need to allocate a part of the privacy budgets for the partitioning process and split the budget among all the steps, which is inefficient. To address such issues, a novel two-step partition algorithm is proposed. First, we partition the original dataset into fixed grids, inject noise and synthesize a dataset according to the noisy count. Second, we perform IH-Tree (Improved H-Tree) partition on the synthetic dataset and use the resulting partition keys to split the original dataset. The algorithm can save the privacy budget allocated to the partitioning process and obtain a more accurate release. The algorithm has been tested on three real-world datasets and compares the accuracy with the state-of-the-art algorithms. The experimental results show that the relative errors of the range query are considerably reduced, especially on the large scale dataset.

입력 공간 분할에 따른 뉴로-퍼지 시스템과 응용 (Neuro-Fuzzy System and Its Application by Input Space Partition Methods)

  • 곽근창;유정웅
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 1998년도 추계학술대회 학술발표 논문집
    • /
    • pp.433-439
    • /
    • 1998
  • In this paper, we present an approach to the structure identification based on the input space partition methods and to the parameter identification by hybrid learning method in neuro-fuzzy system. The structure identification can automatically estimate the number of membership function and fuzzy rule using grid partition, tree partition, scatter partition from numerical input-output data. And then the parameter identification is carried out by the hybrid learning scheme using back-propagation and least squares estimate. Finally, we sill show its usefulness for neuro-fuzzy modeling to truck backer-upper control.

  • PDF

클린룸 제조공정에서 공정분할평가법을 이용한 입자오염제어 (Particle Contamination Control in the Cleanroom Production Line using Partition Check Method)

  • 이현철;박정일;이성훈;노광철;오명도
    • 대한기계학회:학술대회논문집
    • /
    • 대한기계학회 2007년도 춘계학술대회B
    • /
    • pp.2338-2343
    • /
    • 2007
  • The practical studies on the method of particle contamination control for yield enhancement in the cleanroom were carried out. The method of the contamination control was proposed, which are composed of data collection, data analysis, improvement action, verification, and implement control. The partition check method for data collection and data analysis was used in the cellular phone module production lines. And this method was evaluated by the variation of yield loss between before and after improvement action. In case that the partition check method was applied, the critical process step was selected and yield loss reduction through improvement actions was observed. From these results, it is concluded that the partition check method is effective solution for particle contamination control in the cleanroom production lines.

  • PDF

데이타 중심 센서 네트워크에서 에너지 효율성을 고려한 비균등 네트워크 분할 기법 (A Non-Uniform Network Split Method for Energy Efficiency in a Data Centric Sensor Network)

  • 강홍구;김정준;한기준
    • 한국공간정보시스템학회 논문지
    • /
    • 제9권3호
    • /
    • pp.35-50
    • /
    • 2007
  • 데이타 중심 센서 네트워크에서는 측정된 데이타의 값에 따라 데이타를 저장하는 센서 노드가 결정되기 때문에 같은 값을 갖는 데이타가 빈번하게 발생하면 이를 저장하는 센서 노드에 부하가 집중되어 에너지가 빠르게 고갈되는 문제가 있다. 또한 센서 네트워크가 확장되면 데이타 저장 및 질의 처리시 목적 센서 노드로의 라우팅 거리가 멀어져 센서 네트워크의 통신비용이 증가되는 문제가 있다. 그러나 기존 연구들은 데이타 저장의 효율적인 관리에만 치우쳐 이와 같은 문제를 효율적으로 해결하지 못하고 있다. 본 논문에서는 데이타 중심 센서 네트워크에서 센서 노드의 부하를 분산시키고 센서 네트워크의 확장에 따른 통신비용을 효율적으로 줄이기 위한 비균등 네트워크 분할(Non-Uniform Network Spilt: NUNS) 기법을 제안한다. NUNS는 센서 네트워크를 센서 노드 개수와 분할된 영역 크기의 차이가 최소가 되도록 비균등 크기의 Partition으로 분할하고 각 Partition에서 발생한 데이타를 각 Partition 내의 센서 노드가 저장함으로써 센서 노드의 데이타 저장 부하를 분산시키고 센서 네트워크의 확장에 따른 통신비용을 줄인다. 또한 NUNS는 각 Partition을 분할된 영역 크기 차이가 최소가 되도록 센서 노드 개수만큼 Zone으로 비균등하게 분할하여 각 센서 노드의 처리 영역으로 할당함으로써 센서 노드에 부하가 집중되는 것을 막고 불필요한 라우팅 비용을 줄인다.

  • PDF