• Title/Summary/Keyword: 비병렬 데이터

Search Result 305, Processing Time 0.031 seconds

Processing large-scale data with Apache Spark (Apache Spark를 활용한 대용량 데이터의 처리)

  • Ko, Seyoon;Won, Joong-Ho
    • The Korean Journal of Applied Statistics
    • /
    • v.29 no.6
    • /
    • pp.1077-1094
    • /
    • 2016
  • Apache Spark is a fast and general-purpose cluster computing package. It provides a new abstraction named resilient distributed dataset, which is capable of support for fault tolerance while keeping data in memory. This type of abstraction results in a significant speedup compared to legacy large-scale data framework, MapReduce. In particular, Spark framework is suitable for iterative machine learning applications such as logistic regression and K-means clustering, and interactive data querying. Spark also supports high level libraries for various applications such as machine learning, streaming data processing, database querying and graph data mining thanks to its versatility. In this work, we introduce the concept and programming model of Spark as well as show some implementations of simple statistical computing applications. We also review the machine learning package MLlib, and the R language interface SparkR.

Disk Load Balancing Scheme for High Speed Playback of Continuous Media in VOD Server (VOD서버에서 연속 매체의 고속 재생을 위한 디스크 부하 균형 정책)

  • Lee, Seung-Yong;Lee, Ho-Seok;Hong, Seong-Su
    • The Transactions of the Korea Information Processing Society
    • /
    • v.4 no.5
    • /
    • pp.1172-1181
    • /
    • 1997
  • A militimedia data is a data mixed of formatted data like an audio and video. Multimedia data has characteristics that it need large amount of storage,wide network bandwith andreal time responsibolity. Because of these characteristocs, the VOD server and continous media storage server have a disk stripe structure or disk stripe sructure or disk array structure(RAID).In the parallel disk access system,high-speed play-back of continous media using segment interleavung may not ensure Qos pf other cioents because of the concentrated load within some disks. The load concentration of disks is related to both the number of disks in the system and playback rate of contimous media.In this paper. we describe that high-speed playback scheme,which is independent of the number of disk and plyback rate can be achieved by technique of changing the in-teval of access to segnent location.We show the experimental result of this technique in this pater.

  • PDF

Fully-Parallel Architecture for 1.4 Gbps Non-Binary LDPC Codes Decoder (1.4 Gbps 비이진 LDPC 코드 복호기를 위한 Fully-Parallel 아키텍처)

  • Choi, Injun;Kim, Ji-Hoon
    • Journal of the Institute of Electronics and Information Engineers
    • /
    • v.53 no.4
    • /
    • pp.48-58
    • /
    • 2016
  • This paper presents the high-throughput fully-parallel architecture for GF(64) (160,80) regular (2,4) non-binary LDPC (NB-LDPC) codes decoder based on the extended min sum algorithm. We exploit the NB-LDPC code that features a very low check node and variable node degree to reduce the complexity of decoder. This paper designs the fully-parallel architecture and allows the interleaving check node and variable node to increase the throughput of the decoder. We further improve the throughput by the proposed early sorting to reduce the latency of the check node operation. The proposed decoder has the latency of 37 cycles in the one decoding iteration and achieves a high throughput of 1402Mbps at 625MHz.

Design and Implementation of a Swearing Remover Program on Web board (웹 게시판 비속어 처리 프로그램의 설계 및 구현)

  • 조아영
    • Journal of the Korea Computer Industry Society
    • /
    • v.2 no.10
    • /
    • pp.1317-1328
    • /
    • 2001
  • The existing swearing remover programs could not have blocked even slightly transformed swearings because of their input blocking properties. To overcome these defects, this paper implemented a supervising program which analysize and remove/replace swearings on web board. For this purpose this paper first classified the patterns of swearings on web board and then implemented a tokenizer which can analysize those patterns. The module tokenizing and removing/replacing swearings on each web board was implemented as a thread so that it could be parallely controlled. As a result of running this Program on some web boards , we found out it had detected almost of the swearings as 91.9% of recall but it could not meet our purpose sufficiently on morphological transformed swearings and swearings in context. So the studies will be continued about processing on morphological ambiguous words, ambiguous words in meaning and sweaings in context by extracting this program's manual mode. We expect this program could induce the users to proper usage of words and replace the manual works of web board managers in schools, public bodies, broadcasting stations etc.

  • PDF

Task Duplication Scheduling to improve Communication Time in Distributed Real-Time Systems (분산 실시간 시스템에서 통신시간 개선을 위한 타스크 중복 스케줄링)

  • 박미경;김창수
    • Proceedings of the Korea Multimedia Society Conference
    • /
    • 1998.04a
    • /
    • pp.376-381
    • /
    • 1998
  • 다른 지역에 존재하는 자원이나 데이터들을 이용가능하게 하고, 지정된 마감시간내에 결과를 제공해야 하는 시간적 특성을 가진 분산 실시간 시스템의 성능과 신뢰성을 향상시킬 수 있는 장점을 가진다. 이러한 시스템에서 수행되는 타스크는 크게 주기적 타스크와 비주기적 타스크로 나누어지는데, 빠른 수행시간을 위해 대부분의 타스크들은 병렬로 처리되기 위해 여러 개의 서브 타스크들로 분할되어 실행된다. 본 연구에서는 분산 실시간 환경에서 임의의 시간에 마감시간을 가지고 도착한 주기적 타스크에 서브 타스크의 유형에 따라 서브 타스크간의 통신시간과 수행시간을 고려한 EST(Earliest Start Time)기법을 이용하여 서브 타스크들의 효율적인 마감시간 할당 알고리즘과 ITC(Inter Task Communication)시간을 개선하기 위한 처리기 중복 할당 알고리즘을 제시하고 있다. 수행된 결과는 기존의 방법과 비교하여 타스크 전체의 마감시간 위반 최소화와 처리기의 이용률 개선 및 처리기간의 통신시간과 수행 완료시간을 개선하고 있다.

  • PDF

Comparison of the Output Current THDi of Single-Phase Embedded Typical Z-Source Inverter and Embedded Quasi Z-Source Inverter (단상 임베디드 Typical Z-소스 인버터와 임베디드 Quasi Z-소스 인버터의 출력전류 THDi 비교)

  • Oh, Seung-Yeol;Kim, Se-Jin;Jung, Young-Gook;Park, Hee-Jae;Lim, Young-Cheol
    • Proceedings of the KIPE Conference
    • /
    • 2012.11a
    • /
    • pp.207-208
    • /
    • 2012
  • 본 논문에서는 임베디드 Z-소스 컨버터 2대를 병렬 연결하여 승압 및 강압 기능을 가지는 단상 인버터의 THDi를 비교 분석하였다. 임베디드 Z-소스 인버터는 임베디드 Typical Z-소스 인버터와 임베디 Quasi Z-소스 인버터로 구분되며 각 인버터의 단락비에 따른 출력전류 THDi를 비교하였다. THDi의 비교를 위해 실험 세트를 구성하고 실험 데이터 이용해 비교 분석 하였다.

  • PDF

Efficient Schemes for Enhancing Performance of Disk I/O in Ring based NUMA Systems (링 구조 NUMA 시스템에서 디스크 입출력의 성능 향상을 위한 효율적인 방안)

  • Kim, Cheol-Hong;Kim, Myeong-Ju;Jang, Seong-Tae;Eom, Seong-Yong;Jeon, Ju-Sik
    • Journal of KIISE:Computer Systems and Theory
    • /
    • v.28 no.3
    • /
    • pp.134-143
    • /
    • 2001
  • NUMA 구조 다중 프로세서 시스템에서는 상호 연결망으로서의 버스의 제약을 극복하기 위해 지점간 링크를 이용한 링 구조가 제안되었다. 링 구조 NUMA 시스템에서, 전송이 페이지 단위(2K 바이트 이상)로 이루어지는 디스크 입출력 요구는 지점간 링크에 대한 오랜 접근을 요구하여 지점간 링크의 트래픽을 증가시키는 원인으로 작용한다. 본 논문에서는 지점간 링크의 트래픽을 줄이기 위한 방안으로 입출력 전용 채널을 사용하는 세 가지 디스크 입출력 구조를 제시한다. 제시되는 디스크 입출력 구조를 사용하는 시스템은 디스크 입출력 요구로 인한 지점간 링크의 접근을 없앰으로써 기존 시스템에 비해 트랜잭션의 수행시간을 줄일 수 있다는 장점이 있다. 중앙집중형, 병렬형, 분산형의 세 가지 디스크 입출력 구조를 설계하기 위한 고려 사항과 구현 비용 등을 생각해 본 후, 노드수, 원격 디스크 접근 확률, 디스크 입출력 전송 데이터 크기 등을 달리한 여러 시스템 환경에서의 각 구조의 성능을 비교, 분석해 본다.

  • PDF

A Performance Evaluation of a Fully Asynchronous Disk Array System Using Simulation (시뮬레이션을 이용한 완전 비동기 디스크 어레이 시스템의 성능 평가)

  • 오유영;김성수
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 1999.10c
    • /
    • pp.18-20
    • /
    • 1999
  • 대용량 데이터의 실시간 처리를 요구하는 멀티미디어 시대에 고성능 입출력을 제공할 수 있는 저장 시스템으로서 디스크 어레이가 보편적으로 사용되고 있다. 비용 효율적인 디스크 어레이가 설계될 수 있도록 디스크 어레이의 성능을 분석할 수 있는 성능 모델의 개발은 중요하다. 큐잉 모델링을 통해서 성능 평가를 할 수 있는 방법으로는 큐잉 이론이나 시뮬레이션을 이용할 수 있다. 디스크 어레이의 병렬 및 병행 처리 특성상 큐잉 이론의 분석적인 방법의 한계성을 인식하고, 본 논문에서는 낮은 수준에서 디스크 어레이 시스템을 추상화한 시뮬레이션 기법을 이요하여 디스크 어레이의 성능 평가를 수행한다. 시뮬레이션을 통해서 산출된 디스크 어레이 요구에 대한 평균 응답 시간, 평균 큐잉 지연, 평균 서비스 시간, 평균 길이 및 디스크 어레이 시스템의 이용률, 처리율 등은 최적화된 디스크 어레이 설계를 위한 시스템의 용량 산정에 활용될 수 있다.

  • PDF

FPGA-based High Performance Hardware Design for Generating Digital Hologram (디지털 홀로그램 생성을 위한 FPGA 기반의 고성능 하드웨어 설계)

  • Lee, Yoon-Hyuk;Seo, Young-Ho;Kim, Dong-Wook
    • Proceedings of the Korean Society of Broadcast Engineers Conference
    • /
    • 2011.11a
    • /
    • pp.297-298
    • /
    • 2011
  • 본 논문에서는 기존의 CGH수식을 이용하여 병렬화된 고성능의 CGH 생성 시 발생하는 다량의 데이터를 효율적으로 처리하기 위해 병목현상을 제거하는 하드웨어 구조를 제안한다. 하나의 가로줄에 해당하는 공통항을 연산한 후 이 값으로 임의의 가로줄에 대한 홀로그램 화소 값을 구하며 공통항과 가로줄에 해당하는 모든 업데이트 항은 객체의 모든 광원에 대하여 계산을 한다. 이 구조는 최종 홀로그램이 한 가로줄에 연산이 끝날 때 마다 생성되기 때문에 이전 연구에서 최종 홀로그램이 한번에 생성되는 구조에 비하여 병목 현상을 줄여서 동영상 홀로그램 생성에 효율적이다.

  • PDF

지형참조항법시스템의 발전 동향

  • Yu, Yeong-Min;Yu, Myeong-Jong;Park, Chan-Guk
    • ICROS
    • /
    • v.19 no.1
    • /
    • pp.19-31
    • /
    • 2013
  • 본 고는 국내외의 지형참조항법시스템 관련 기술의 발전 동향을 살펴보고자 한다. 지형참조항법은 국외에서 1940년대부터 그 필요성이 대두된 학문으로 잠수정, 군용 전투기 등 다양한 분야에서 주로 군사목적으로 연구가 진행되었다. 1950년 ATRAN의 개발을 시작으로 1990년대 PTAN 지형참조항법기술까지 발전되어 무인기뿐만 아닌 Tomahawk 같은 유도무기에도 그 활용 범위를 넓혀가고 있다. 하지만 하드웨어적인 제약과 GPS의 발달로 관련 연구가 주춤하였으나 컴퓨터 기술의 발달, 지형측정센서의 정확도 향상과 더불어 GPS 교란 가능성 등이 부각되면서 최근 다시 관성항법시스템(INS)을 보조하는 대체 항법으로서 주목받고 있다. 주로 다중 측정치를 이용하는 방법과 비선형 필터를 이용하여 항법해 성능을 향상시키거나 병렬 다중필터를 이용하여 항법해의 신뢰성을 향상시키는 방향으로 연구가 진행 중이다. 그리고 다양한 지구물리데이터와 통합한 데이터베이스기반 복합항법 기술로 발전하고 있다.