• 제목/요약/키워드: Distributed Processing Platform

검색결과 130건 처리시간 0.03초

RHadoop 플랫폼기반 CAWFP-Tree를 이용한 적응 빈발 패턴 알고리즘 (Adaptive Frequent Pattern Algorithm using CAWFP-Tree based on RHadoop Platform)

  • 박인규
    • 디지털융복합연구
    • /
    • 제15권6호
    • /
    • pp.229-236
    • /
    • 2017
  • 효율적인 빈발 패턴 알고리즘은 연관 규칙 마이닝이나 융복합을 위한 마이닝 과정에서 필수적인 요소이며 많은 활용성을 가지고 있다. 패턴 마이닝을 위한 많은 모델들이 빈발 패턴에 관한 정보를 추출하여 FP-트리를 이용하여 저장하고 있다. 본 논문에서는 항목들의 무게중심을 이용한 새로운 빈발 패턴 알고리즘(CAWFP-Growth)을 제안하여 항목들이 가지는 가중치와 빈도수를 같이 고려하여 항목간의 중심을 계산하여 기존의 FP-Growth 알고리즘의 효율성을 향상시킨다. 제안한 방법은 하향 폐쇄의 성질을 유지하기 위한 기존의 전역적 최대치 가중치 지지도를 필요로 하지 않기 때문에 자연히 빈발 패턴의 탐색시간이 줄어들고 정보의 손실을 줄일 수 있다. 실험결과를 통하여 제안된 알고리즘이 기존의 동적가중치를 이용하는 다른 방법과 비교해볼 때, 항목들의 무게중심이 빈발패턴의 정확한 정보를 유지하고 FP-트리의 처리시간을 줄여주기 때문에 제안한 방법의 중요성을 보이고 있다 또한 가상 분산모드에서 맵리듀스 프레임을 기반으로 빅데이터를 모델링하고 향후 완전분산 모드에서 제안한 알고리즘의 모델링이 필요하다.

자원 신뢰성 측정을 통한 효율적인 그리드 자원 스케줄링 모델 (Efficient Grid Resource Scheduling Model with Resource Reliability Measurement)

  • 박다혜;이종식
    • 한국시뮬레이션학회논문지
    • /
    • 제15권4호
    • /
    • pp.129-136
    • /
    • 2006
  • 그리드 컴퓨팅은 단일 컴퓨터로는 해결할 수 없는 대용량의 작업을 처리하기 위해 제안되었다. 그리드 컴퓨팅은 지리적으로 분산된 이기종 자원들을 상호 연결하여 대용량의 작업들을 처리하는 새로운 차세대 컴퓨팅이다. 그런데, 분산된 이기종의 자원들을 모을 때에 많은 어려운 문제들이 발생한다. 특히, 자원들의 신뢰성을 보장하는 것은 가장 심각한 문제 중에 하나이다. 그래서 우리는 그리드 자원의 신뢰성을 측정하여 자원을 할당하는 그리드 자원 신뢰성 측정 스케줄링 모델을 제안한다. 우리는 자원의 상태 정보를 기반으로 하여 자원 신뢰성을 측정하고, DEVSJAVA 모델링과 시뮬레이션 환경에서 그리드 시뮬레이션 모델에 그리드 자원 신뢰성 측정 방법을 적용하였다. 그리고, 이 논문은 스케줄링 모델들의 Utilization, Job loss, Throughput 그리고 Average Turn-around Time 같은 파라미터들을 측정하였고, 자원 신뢰성 측정을 이용한 그리드 자원 신뢰성 측정 스케줄링 모델의 실험 결과들을 기존의 스케줄링 모델들(랜덤 스케줄링 모델, 라운드 로빈 스케줄링 모델)과 비교하였다. 이 실험 결과들은 자원 신뢰성 측정 스케줄링 모델이 랜덤 스케줄링 모델과 라운드 로빈 스케줄링 모델에 비해 효율적인 자원 할당과 안정적인 작업 처리를 제공한다는 것을 보여준다.

  • PDF

Privacy-Preserving Aggregation of IoT Data with Distributed Differential Privacy

  • Lim, Jong-Hyun;Kim, Jong-Wook
    • 한국컴퓨터정보학회논문지
    • /
    • 제25권6호
    • /
    • pp.65-72
    • /
    • 2020
  • 오늘날 사물 인터넷은 우리에게 편의를 제공하기 위해 가정, 산업 현장 및 병원을 포함한 많은 장소에서 사용된다. 다양한 장치가 네트워크에 연결됨에 따라 많은 서비스들이 실시간 데이터 수집, 저장 및 분석을 통해 새로운 가치를 창출하고 있다. 이처럼 많은 분야에서 IoT 장치 내의 센서 및 통신 기능을 활용하는 서비스 및 애플리케이션을 개발하고 있다. 예시로 산업 분야에서 Samsung과 LG는 자사의 IoT 애플리케이션을 통해 가전과 IoT 기기를 연결하여 스마트 홈을 구축하는 서비스를 제공하며, 의료 및 건강 분야에서 Samsung과 Xioami와 같은 기업들은 피트니스 워치 및 앱을 통해 심전도를 확인하거나 운동량을 기록, 관리한다. 위 같은 사례에서 스마트 홈을 구축하는 서비스의 경우에 수집한 데이터를 통해 해당 가정의 생활 패턴이나 출퇴근 여부 등의 민감정보를 유출할 수 있다. 또한 의료 데이터로 사용하기 위해 측정한 데이터를 통해 개인 정보와 질병의 존재와 같은 민감정보를 유출할 수 있다. 따라서 이를 보호하기 위해 해당 논문이 제안하는 방법에 따라 데이터를 수집, 배포한다면 데이터를 제공하는 사용자의 개인 정보 보호에 위협을 막을 수 있다. 이를 해결하기 위해 최근에는 프라이버시 보호 데이터 처리에 차분 프라이버시(DP)가 채택되어왔다. 따라서 DP를 기반으로 스마트워치 플랫폼에서 건강 데이터를 안전하게 수집할 수 있는 방법을 제안하며, 이를 통해 위와 같이 다양한 분야에서 프라이버시를 보호하는 환경에서의 데이터 수집 및 배포를 가능케 할 수 있다.

SNS상의 비정형 빅데이터로부터 감성정보 추출 기법 (An Extraction Method of Sentiment Infromation from Unstructed Big Data on SNS)

  • 백봉현;하일규;안병철
    • 한국멀티미디어학회논문지
    • /
    • 제17권6호
    • /
    • pp.671-680
    • /
    • 2014
  • Recently, with the remarkable increase of social network services, it is necessary to extract interesting information from lots of data about various individual opinions and preferences on SNS(Social Network Service). The sentiment information can be applied to various fields of society such as politics, public opinions, economics, personal services and entertainments. To extract sentiment information, it is necessary to use processing techniques that store a large amount of SNS data, extract meaningful data from them, and search the sentiment information. This paper proposes an efficient method to extract sentiment information from various unstructured big data on social networks using HDFS(Hadoop Distributed File System) platform and MapReduce functions. In experiments, the proposed method collects and stacks data steadily as the number of data is increased. When the proposed functions are applied to sentiment analysis, the system keeps load balancing and the analysis results are very close to the results of manual work.

MyData Personal Data Store Model(PDS) to Enhance Information Security for Guarantee the Self-determination rights

  • Min, Seong-hyun;Son, Kyung-ho
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제16권2호
    • /
    • pp.587-608
    • /
    • 2022
  • The European Union recently established the General Data Protection Regulation (GDPR) for secure data use and personal information protection. Inspired by this, South Korea revised their Personal Information Protection Act, the Act on Promotion of Information and Communications Network Utilization and Information Protection, and the Credit Information Use and Protection Act, collectively known as the "Three Data Bills," which prescribe safe personal information use based on pseudonymous data processing. Based on these bills, the personal data store (PDS) has received attention because it utilizes the MyData service, which actively manages and controls personal information based on the approval of individuals, and it practically ensures their rights to informational self-determination. Various types of PDS models have been developed by several countries (e.g., the US, Europe, and Japan) and global platform firms. The South Korean government has now initiated MyData service projects for personal information use in the financial field, focusing on personal credit information management. There is also a need to verify the efficacy of this service in diverse fields (e.g., medical). However, despite the increased attention, existing MyData models and frameworks do not satisfy security requirements of ensured traceability, transparency, and distributed authentication for personal information use. This study analyzes primary PDS models and compares them to an internationally standardized framework for personal information security with guidelines on MyData so that a proper PDS model can be proposed for South Korea.

Access efficiency of small sized files in Big Data using various Techniques on Hadoop Distributed File System platform

  • Alange, Neeta;Mathur, Anjali
    • International Journal of Computer Science & Network Security
    • /
    • 제21권7호
    • /
    • pp.359-364
    • /
    • 2021
  • In recent years Hadoop usage has been increasing day by day. The need of development of the technology and its specified outcomes are eagerly waiting across globe to adopt speedy access of data. Need of computers and its dependency is increasing day by day. Big data is exponentially growing as the entire world is working in online mode. Large amount of data has been produced which is very difficult to handle and process within a short time. In present situation industries are widely using the Hadoop framework to store, process and produce at the specified time with huge amount of data that has been put on the server. Processing of this huge amount of data having small files & its storage optimization is a big problem. HDFS, Sequence files, HAR, NHAR various techniques have been already proposed. In this paper we have discussed about various existing techniques which are developed for accessing and storing small files efficiently. Out of the various techniques we have specifically tried to implement the HDFS- HAR, NHAR techniques.

IoT 환경에서 센서 데이터 처리율 향상을 위한 Apriori 기반 빅데이터 처리 시스템 (Apriori Based Big Data Processing System for Improve Sensor Data Throughput in IoT Environments)

  • 송진수;김수진;신용태
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제10권10호
    • /
    • pp.277-284
    • /
    • 2021
  • 최근 스마트 홈 환경은 무선 정보통신 기술과 융합을 통해서 다양한 데이터를 수집·통합·활용하는 플랫폼이 될 것으로 전망되고 있으며 실제로 스마트 홈 내부에는 다양한 센서를 탑재한 스마트 디바이스 수가 점점 증가하고 있다. 증가된 스마트 디바이스 수만큼 처리해야하는 데이터의 양도 증가하고 있으며 이를 효과적으로 처리하기 위해 빅데이터 처리 시스템이 활발하게 도입되고 있다. 그러나 기존 빅데이터 처리 시스템은 분산 노드에 할당되기 전 모든 요청이 클러스터 드라이버로 향하기 때문에 동시에 많은 요청이 발생하는 경우 분할 작업을 관리하는 클러스터 드라이버에 병목현상이 발생하고, 이는 네트워크를 공유하는 클러스터 전체의 성능감소로 이어진다. 특히 작은 데이터 처리를 지속해서 요청하는 스마트 홈 디바이스에서 지연율이 더 크게 나타난다. 이에 본 논문에서는 동시에 다수의 센서에서 요청이 발생하는 스마트 홈 환경에서 효과적인 데이터 처리를 위한 Apriori 기반 빅데이터 시스템을 설계하였다. 제안하는 시스템의 성능평가 결과에 따르면, 데이터 처리 시간은 기존 시스템에 비해 최소 19.2%에서 최대 38.6% 단축됐다. 이러한 결과가 발생한 이유는 측정되는 데이터의 형태와 관련이 있다. 스마트 홈 환경은 수집되는 데이터의 양은 방대하나 각 데이터의 용량은 작기 때문에 캐시 서버의 사용이 데이터 처리에 큰 역할을 하며, Apriori 알고리즘을 통한 연관도 분석으로 사용자의 행동 습관과 연관도가 높은 센서 데이터를 캐시에 저장하기 때문에 캐시 서버의 활용률이 매우 높다.

Addressing Mobile Agent Security through Agent Collaboration

  • Jean, Evens;Jiao, Yu;Hurson, Ali-R.
    • Journal of Information Processing Systems
    • /
    • 제3권2호
    • /
    • pp.43-53
    • /
    • 2007
  • The use of agent paradigm in today's applications is hampered by the security concerns of agents and hosts alike. The agents require the presence of a secure and trusted execution environment; while hosts aim at preventing the execution of potentially malicious code. In general, hosts support the migration of agents through the provision of an agent server and managing the activities of arriving agents on the host. Numerous studies have been conducted to address the security concerns present in the mobile agent paradigm with a strong focus on the theoretical aspect of the problem. Various proposals in Intrusion Detection Systems aim at securing hosts in traditional client-server execution environments. The use of such proposals to address the security of agent hosts is not desirable since migrating agents typically execute on hosts as a separate thread of the agent server process. Agent servers are open to the execution of virtually any migrating agent; thus the intent or tasks of such agents cannot be known a priori. It is also conceivable that migrating agents may wish to hide their intentions from agent servers. In light of these observations, this work attempts to bridge the gap from theory to practice by analyzing the security mechanisms available in Aglet. We lay the foundation for implementation of application specific protocols dotted with access control, secured communication and ability to detect tampering of agent data. As agents exists in a distributed environment, our proposal also introduces a novel security framework to address the security concerns of hosts through collaboration and pattern matching even in the presence of differing views of the system. The introduced framework has been implemented on the Aglet platform and evaluated in terms of accuracy, false positive, and false negative rates along with its performance strain on the system.

CORBA/SNMP 게이트웨이 설계 및 구현 (Design and Implementation of a CORBA/SNMP Gateway)

  • 이길행;허정석;김명균
    • 한국정보처리학회논문지
    • /
    • 제7권8호
    • /
    • pp.2505-2513
    • /
    • 2000
  • 본 논문은 CORBA/SNMP 게이트웨이의 설계 및 구현에 대해 기술한다. 게이트웨이는 기존의 망관리 시스템들을 CORBA를 이용하여 통합하는데 이용된다. 본 논문의 통합 망관리 시스템은 웹과 CORBA 기술을 이용하여 구현된다. 웹은 분산 응용프로그램들에 플랫폼에 독립적이고 사용하기 쉬운 사용자 인터페이스를 제공하고, CORBA는 서로 다른 망관리 모델들을 효과적으로 통합하기 위해 사용된다. 기존의 피관리 객체들을 그대로 수용하기 위해, 제안된 통합 망관리 시스템은 서로 다른 망관리 모델 사이에 변환 게이트웨이를 사용한다. 통합 망관리 서버는 망관리 연산을 위해 기능이 확장된 웹 서버와 변환 게이트웨이들로 구성되는데, 본 논문에서는 CORBA/SNMP 게이트웨이의 설계 및 구현에 대해 기술한다. CORBA/SNMP 게이트웨이는 CORBA와 SNMP관리 모델 사이의 관리정보 및 관리연산 변환을 위한 정적, 동적 변환 기능을 수행한다. CORBA/SNMP 게이트웨이는 SNMP MIB에 대한 CORBA뷰를 제공하여, CORBA 관리자들로 하여금 SNMP에이전트들을 CORBA 연산들을 통해 접근할 수 있도록 하여준다. 또한 CORBA/SNMP게이트웨이는 SNMP 에이전트에서 발생한 통지(trap)를 받아, 그 통지를 받기를 원하는 CORBA 관리자들에 전달하는 역할을 수행한다.

  • PDF

RHadoop 기반 보건의료 빅데이터 분석의 성능 평가 (Performance Evaluation of Medical Big Data Analysis based on RHadoop)

  • 류우석
    • 한국전자통신학회논문지
    • /
    • 제13권1호
    • /
    • pp.207-212
    • /
    • 2018
  • 빅데이터 시대에 각광받고 있는 데이터 분석 도구인 R은 강력한 통계 분석 기능과 데이터 가시화 기능을 제공함으로 인해 그 사용자를 급속히 넓혀 가고 있다. 오픈소스 기반으로서의 다양한 기능 확장성이 R의 강점인데 반해 규모 확장성이 미흡함으로 인해 대용량 데이터 처리에서의 성능 제약이 발생한다. 이를 보완하기 위한 확장 패키지 중 하나인 RHadoop은 R로 작성된 코드에 대해 하둡 플랫폼 기반 병렬 분산 처리를 지원하므로 데이터 분석 성능을 높일 수 있다. 본 논문에서는 인터넷을 통해 공개되는 실제 보건의료 빅데이터를 이용한 데이터 분석에서 RHadoop을 활용할 때 얻을 수 있는 성능 개선을 평가함으로써 RHadoop의 유효성을 검증한다. 본 연구를 통해 R과 RHadoop에서 국민건강보험 진료내역정보를 각각 분석한 결과 8개의 데이터 노드로 구성된 RHadoop 클러스터가 R과 비교하여 최대 8배 이상 성능을 개선시킬 수 있음을 입증하였다.