• 제목/요약/키워드: Data processing

검색결과 16,488건 처리시간 0.063초

공간데이타 처리를 위한 확장된 저장관리시스템 (Extended Storage Management System for Spatial Data Processing)

  • 김재홍;배해영
    • Spatial Information Research
    • /
    • 제1권1호
    • /
    • pp.7-16
    • /
    • 1993
  • 최근 컴퓨터 기술의 발달로 단순한 문자, 숫자 등의 정보 표현에서 사용자가 보다 이해하기 쉽고 사용하기 쉬운 그래픽, 이미지 등의 공간 데이타에 대한 표현을 요구하고 있다. 지리 정보 시스템은 지도 형태의 데이타를 출력할 뿐만 아니라 지리 데이타(geographic data)의 저장, 검색, 조작 및 분석 등을 처리하는 데이타베이스 시스템으로 지리적 요소의 공간 데이타와 이와 관련된 속성 데이타를 처리하는 효율적인 시스템이다. 공간 데이타의 처리는 기존의 데이타베이스 관리 시스템으로 그 처리가 어렵고 효율적으로 저장 관리하지 못하므로 공간 데이타에 대한 효율적인 연산을 처리할 수 있는 새로운 데이타베이스 관리 시스템이 요구된다. 본 논문에서는 지리 정보시스템과 같은 방대한 공간 데이타를 효율적으로 저장관리하며, 사용자에게 빠른 접근을 위해 새로운 공간 색인 기법을 지원하는 확장된 거장 관리 시스템을 설계한다.

  • PDF

차세대 웹 환경에서 Complex Event Processing 엔진을 이용한 대용량데이터 처리 (High-Volume Data Processing using Complex Event Processing Engine in the Web of Next Generation)

  • 강만모;구자록;이동형
    • 한국정보과학회논문지:데이타베이스
    • /
    • 제37권6호
    • /
    • pp.300-307
    • /
    • 2010
  • 웹이 성장함에 따라 데이터처리 기술도 발전하고 있다. 차세대 웹 환경에서는 다양한 유무선 사용자, USN, RFID를 위한 고속, 대용량데이터 처리기술 또한 발전하고 있다. 본 논문에서는 CEP(Complex Event Processing) 엔진을 이용하여 대용량데이터를 처리하는 기술을 제안한다. CEP는 복잡한 이벤트를 처리하는 기술로 CEP 엔진은 다음과 같은 특정이 있다. 첫째 대용량의 이벤트(데이터)를 받는 작업, 둘째 이를 분석하는 작업, 최종적으로 새로운 액션으로 연결시키는 작업으로 나눌 수 있다. 즉 대용량데이터를 수집하고 이벤트들을 분석, 필터링한다. 또한 이벤트 엔진에 미리 등록해 놓은 이벤트와 새로운 이벤트를 패턴매칭하여 데이터를 추출한다. 추출된 결과를 다른 작업의 입력 이벤트로 사용하거나 요청된 이벤트에 대해 실시간으로 응답할 수 있고 유효한 데이터만 데이터베이스에 트리거할 수도 있다.

빅데이터 처리시간 감소와 저장 효율성이 향상을 위한 맵리듀스 기반 빅데이터 처리 기법 구현 (Implement of MapReduce-based Big Data Processing Scheme for Reducing Big Data Processing Delay Time and Store Data)

  • 이협건;김영운;김기영
    • 한국융합학회논문지
    • /
    • 제9권10호
    • /
    • pp.13-19
    • /
    • 2018
  • 맵리듀스는 하둡의 필수 핵심 기술로 하둡 분산 파일 시스템을 기반으로 빅데이터를 처리하는 가장 보편화되어 사용되고 있다. 그러나 기존 맵리듀스 기반 빅데이터 처리 기법은 하둡 분산 파일 시스템에 정해진 블록의 크기대로 파일 나눠 저장되는 특징으로 인해 인프라 자원의 낭비가 극심하다. 이에 본 논문에서는 효율적인 맵리듀스 기반 빅데이터 처리기법을 제안한다. 제안하는 기법은 처리할 데이터를 사전에 맵리듀스에서 처리하기 적합한 데이터 형태로 변환 및 압축하여 빅데이터 인프라 환경의 저장 효율성을 증가시킨다. 또한 제안하는 기법은 저장 효율성을 중점으로 구현했을 때 발생할 수 있는 데이터 처리 시간의 지연 문제를 해결한다.

Qualification Test of ROCSAT -2 Image Processing System

  • Liu, Cynthia;Lin, Po-Ting;Chen, Hong-Yu;Lee, Yong-Yao;Kao, Ricky;Wu, An-Ming
    • 대한원격탐사학회:학술대회논문집
    • /
    • 대한원격탐사학회 2003년도 Proceedings of ACRS 2003 ISRS
    • /
    • pp.1197-1199
    • /
    • 2003
  • ROCSAT-2 mission is to daily image over Taiwan and the surrounding area for disaster monitoring, land use, and ocean surveillance during the 5-year mission lifetime. The satellite will be launched in December 2003 into its mission orbit, which is selected as a 14 rev/day repetitive Sun-synchronous orbit descending over (120 deg E, 24 deg N) and 9:45 a.m. over the equator with the minimum eccentricity. National Space Program Office (NSPO) is developing a ROCSAT-2 Image Processing System (IPS), which aims to provide real-time high quality image data for ROCSAT-2 mission. A simulated ROCSAT-2 image, based on Level 1B QuickBird Data, is generated for IPS verification. The test image is comprised of one panchromatic data and four multispectral data. The qualification process consists of four procedures: (a) QuickBird image processing, (b) generation of simulated ROCSAT-2 image in Generic Raw Level Data (GERALD) format, (c) ROCSAT-2 image processing, and (d) geometric error analysis. QuickBird standard photogrammetric parameters of a camera that models the imaging and optical system is used to calculate the latitude and longitude of each line and sample. The backward (inverse model) approach is applied to find the relationship between geodetic coordinate system (latitude, longitude) and image coordinate system (line, sample). The bilinear resampling method is used to generate the test image. Ground control points are used to evaluate the error for data processing. The data processing contains various coordinate system transformations using attitude quaternion and orbit elements. Through the qualification test process, it is verified that the IPS is capable of handling high-resolution image data with the accuracy of Level 2 processing within 500 m.

  • PDF

멀티채널 LiDAR 센서 기반 차량 검출 플랫폼을 위한 효율적인 저전력 신호처리 기법 (Efficiency Low-Power Signal Processing for Multi-Channel LiDAR Sensor-Based Vehicle Detection Platform)

  • 정태원;박대진
    • 한국정보통신학회논문지
    • /
    • 제25권7호
    • /
    • pp.977-985
    • /
    • 2021
  • 자율주행 차량이 주목받게 되면서 LiDAR 센서가 대두되었다. LiDAR 센서는 LASER를 이용하여 범위 내에서 특정 지점까지 측정된 거리 값을 3차원 정보로 제공한다. 3차원 거리 값인 만큼 방대한 데이터를 전송하게 되고, 차량의 메인 프로세서 등에서 다른 데이터와 같이 이를 실시간으로 처리하기에는 무리가 있다. 이러한 이슈를 해결하기 위해 통합처리 시스템을 개발하고자 한다. 시스템은 센서로부터 데이터를 받아 처리하는 client와 각 client로부터 데이터를 취합하여 이를 외부로 전송하는 server 프로세스로 구성된다. 각 프로세스의 데이터 수신 및 처리 방법, 프로세스 구동 방법을 변화시켜가며 시스템의 실시간성 확보를 위한 테스트를 진행하였다. 실험 결과, 4대의 LiDAR 센서로 데이터를 수신 받도록 하였으며, background 나 multi-core processing을 적용하여 프로세스를 동작시켰을 때, 각 client는 약 13.2 ms, server는 약 12.6 ms의 응답시간을 확인할 수 있었다.

공공데이터 활용성 제고를 위한 권리처리 플랫폼 구축 전략 (Strategy for Establishing a Rights Processing Platform to Enhance the Utilization of Open Data)

  • 심준보;권헌영
    • 한국IT서비스학회지
    • /
    • 제21권3호
    • /
    • pp.27-42
    • /
    • 2022
  • Open Data is an essential resource for the data industry. 'Act On Promotion Of The Provision And Use Of Public Data', enacted on July 30, 2013, mandates public institutions to manage the quality of Open Data and provide it to the public. Via such a legislation, the legal basis for the public to Open Data is prepared. Furthermore, public institutions are prohibited from developing and providing open data services that are duplicated or similar to those of the private sector, and private start-ups using open data are supported. However, as the demand for Open Data gradually increases, the cases of refusal to provide or interruption of Open Data held by public institutions are also increasing. Accordingly, the 'Open Data Mediation Committee' is established and operated so that the right to use data can be rescued through a simple dispute mediation procedure rather than complicated administrative litigation. The main issues dealt with in dispute settlement so far are usually the rights of third parties, such as open data including personal information, private information such as trade secrets, and copyrights. Plus, non-open data cannot be provided without the consent of the information subject. Rather than processing non-open data into open data through de-identification processing, positive results can be expected if consent is provided through active rights processing of the personal information subject. Not only can the Public Mydata Service be used by the information subject, but Open Data applicants will also be able to secure higher quality Open Data, which will have a positive impact on fostering the private data industry. This study derives a plan to establish a rights processing platform to enhance the usability of Open Data, including private information such as personal information, trade secrets, and copyright, which have become an issue when providing Open Data since 2014. With that, the proposals in this study are expected to serve as a stepping stone to revitalize private start-ups through the use of wide Open Data and improve public convenience through Public MyData services of information subjects.

화상처리를 이용한 CAD 데이터의 생성에 관한 연구 (A Study on the Transformation of CAD Data Using the Image Data Processing)

  • 구본권;노우준
    • 한국생산제조학회지
    • /
    • 제7권6호
    • /
    • pp.72-79
    • /
    • 1998
  • In this paper, image processing algorithm is studied to enhance the preciseness of the geometry while converting captured images to CAD data. A program is developed as a result. The code, in the image processing, utilizes outline trace, point data smoothing algorithm. It is capable of automatically generating design data by converting input image data to the CAD data. The output can be made in DXF, IGES formats. The current research can be utilized as a base data for the development of factory automation or flexible manufacturing system which adopt image processing based automatic inspection and measuring system.

  • PDF

Enhanced Locality Sensitive Clustering in High Dimensional Space

  • Chen, Gang;Gao, Hao-Lin;Li, Bi-Cheng;Hu, Guo-En
    • Transactions on Electrical and Electronic Materials
    • /
    • 제15권3호
    • /
    • pp.125-129
    • /
    • 2014
  • A dataset can be clustered by merging the bucket indices that come from the random projection of locality sensitive hashing functions. It should be noted that for this to work the merging interval must be calculated first. To improve the feasibility of large scale data clustering in high dimensional space we propose an enhanced Locality Sensitive Hashing Clustering Method. Firstly, multiple hashing functions are generated. Secondly, data points are projected to bucket indices. Thirdly, bucket indices are clustered to get class labels. Experimental results showed that on synthetic datasets this method achieves high accuracy at much improved cluster speeds. These attributes make it well suited to clustering data in high dimensional space.

빅데이터 분석을 위한 비용효과적 오픈 소스 시스템 설계 (Designing Cost Effective Open Source System for Bigdata Analysis)

  • 이종화;이현규
    • 지식경영연구
    • /
    • 제19권1호
    • /
    • pp.119-132
    • /
    • 2018
  • Many advanced products and services are emerging in the market thanks to data-based technologies such as Internet (IoT), Big Data, and AI. The construction of a system for data processing under the IoT network environment is not simple in configuration, and has a lot of restrictions due to a high cost for constructing a high performance server environment. Therefore, in this paper, we will design a development environment for large data analysis computing platform using open source with low cost and practicality. Therefore, this study intends to implement a big data processing system using Raspberry Pi, an ultra-small PC environment, and open source API. This big data processing system includes building a portable server system, building a web server for web mining, developing Python IDE classes for crawling, and developing R Libraries for NLP and visualization. Through this research, we will develop a web environment that can control real-time data collection and analysis of web media in a mobile environment and present it as a curriculum for non-IT specialists.

Query Optimization on Large Scale Nested Data with Service Tree and Frequent Trajectory

  • Wang, Li;Wang, Guodong
    • Journal of Information Processing Systems
    • /
    • 제17권1호
    • /
    • pp.37-50
    • /
    • 2021
  • Query applications based on nested data, the most commonly used form of data representation on the web, especially precise query, is becoming more extensively used. MapReduce, a distributed architecture with parallel computing power, provides a good solution for big data processing. However, in practical application, query requests are usually concurrent, which causes bottlenecks in server processing. To solve this problem, this paper first combines a column storage structure and an inverted index to build index for nested data on MapReduce. On this basis, this paper puts forward an optimization strategy which combines query execution service tree and frequent sub-query trajectory to reduce the response time of frequent queries and further improve the efficiency of multi-user concurrent queries on large scale nested data. Experiments show that this method greatly improves the efficiency of nested data query.