• 제목/요약/키워드: Performance of File System

검색결과 531건 처리시간 0.028초

도커 기반의 실시간 데이터 연계 및 처리 환경을 고려한 빅데이터 관리 플랫폼 개발 (Development of Big-data Management Platform Considering Docker Based Real Time Data Connecting and Processing Environments)

  • 김동길;박용순;정태윤
    • 대한임베디드공학회논문지
    • /
    • 제16권4호
    • /
    • pp.153-161
    • /
    • 2021
  • Real-time access is required to handle continuous and unstructured data and should be flexible in management under dynamic state. Platform can be built to allow data collection, storage, and processing from local-server or multi-server. Although the former centralize method is easy to control, it creates an overload problem because it proceeds all the processing in one unit, and the latter distributed method performs parallel processing, so it is fast to respond and can easily scale system capacity, but the design is complex. This paper provides data collection and processing on one platform to derive significant insights from various data held by an enterprise or agency in the latter manner, which is intuitively available on dashboards and utilizes Spark to improve distributed processing performance. All service utilize dockers to distribute and management. The data used in this study was 100% collected from Kafka, showing that when the file size is 4.4 gigabytes, the data processing speed in spark cluster mode is 2 minute 15 seconds, about 3 minutes 19 seconds faster than the local mode.

로그 데이터를 이용한 하둡기반 맞춤형 관광시스템 (A Customized Tourism System Using Log Data on Hadoop)

  • ;김강철
    • 한국전자통신학회논문지
    • /
    • 제13권2호
    • /
    • pp.397-404
    • /
    • 2018
  • 인터넷 사용이 증가함에 따라 많은 사용자 행위가 로그 파일에 기록되고, 최근에 이들을 이용한 연구와 산업이 활성화되고 있다. 본 논문은 오픈 소스 기반 분산 컴퓨팅 플랫폼인 하둡을 사용하고, 로그 파일에 기록된 사용자 행위를 분석하여 맞춤형 관광 정보를 제공하는 시스템을 개발한다. 제안된 시스템은 사용자들이 검색한 웹사이트로부터 로그 파일을 얻기 위하여 구글의 Analytics를 사용하고, 하둡의 MapReduce를 사용하여 검색 항목을 추출하여 HDFS에 저장한다. Octopus 프로그램을 사용하여 여행안내 웹사이트로부터 여행관련 관광지나 도시에 대한 정보를 모으고, MapReduce를 사용하여 관광지의 특징을 추출한다. 그리고 관광지의 특징과 사용자 검색항목을 매칭하여 사용자에게 관광하고 싶은 맞춤형 도시를 제안한다. 본 논문에서는 매칭의 확률을 높이기 위하여 NBP(next bit permutation)알고리즘을 사용하여 검색항목과 관광지 특징을 재정렬하는 기법을 도입한다. 그리고 개발된 시스템의 효용성을 확인하기 위하여 39 명의 사용자에 대한 로그 데이터를 분석하여 맞춤형 관광도시를 제안한다.

SSD Storage Tester에서 메시징 시스템을 이용한 로그 처리 (Log processing using messaging system in SSD Storage Tester)

  • 남기안;권오영
    • 한국정보통신학회논문지
    • /
    • 제21권8호
    • /
    • pp.1531-1539
    • /
    • 2017
  • 기존의 SSD 스토리지 테스터는 TCP와 네트워크 파일 시스템을 이용하여 서버 - 클라이언트 간 1-N 구조로 로그를 처리하였다. 이러한 방식은 CPU 사용량 증가, 예외처리의 어려움 등의 문제가 발생한다. 이에 본 논문은 Kafka나 RabbitMQ 같은 오픈 소스 메시징 시스템을 이용하여 비동기 분산처리가 가능한 로그 처리 메시지 레이어를 구현하고 기존 로그 전송방식과 비교하였다. 로그 시뮬레이터(Simulator) 를 구현하여 전송 대역폭과 CPU 사용량을 비교하였다. 테스트 결과 기존 전송 방법과 비교하여 메시지 레이어를 이용한 전송이 대역폭에서 높은 성능을 보였으며 CPU 사용량의 경우 큰 차이를 보이지 않았다. 메시지 레이어를 이용할 경우 기존 방식보다 더 쉽게 구현 가능하며 성능 면에서도 더 높은 효율을 보였으므로 기존 방식보다 높은 효율을 보일 것으로 기대된다.

동적 DLL 삽입 기술을 이용한 화이트리스트 기반 접근통제 우회공격 대응 방안 연구 (A Countermeasure against a Whitelist-based Access Control Bypass Attack Using Dynamic DLL Injection Scheme)

  • 김대엽
    • 전기전자학회논문지
    • /
    • 제26권3호
    • /
    • pp.380-388
    • /
    • 2022
  • 전통적인 악성코드 탐지 기술은 알려진 악성코드를 수집하고 특성을 분석한 후, 분석된 정보를 블랙리스트로 생성하고, 이를 기반으로 시스템 내의 프로그램들을 검사하여 악성코드 여부를 판별한다. 그러나 이러한 접근 방법은 알려진 악성코드의 탐지에는 효과적일 수 있으나 알려지지 않았거나 기존 악성코드의 변종에 대해서는 효과적으로 대응하기 어렵다. 또한, 시스템 내의 모든 프로그램을 감시하기 때문에 시스템의 성능을 저하시킬 수 있다. 이러한 문제점들을 해결하기 위하여 악성코드의 주요 행위를 분석하고 대응하기 위한 다양한 방안들이 제안되고 있다. 랜섬웨어는 사용자의 파일에 접근하여 암호화한다. 이러한 동작특성을 이용하여 시스템의 사용자 파일에 접근하는 정상적인 프로그램들을 화이트리스트로 관리하고 파일 접근을 제어하는 방안이 제안되었다. 그러나 화이트리스트에 등록된 정상 프로그램에 DLL(Dynamic-Link Library) 삽입 공격을 수행하여 악성 행위를 수행하게 할 수 있다는 문제점이 지적되었다. 본 논문에서는 화이트리스트 기반 접근통제 기술이 이러한 DLL 삽입 공격에 효과적으로 대응할 수 있는 방안을 제안한다.

피어의 컴퓨팅 능력을 고려한 인터넷 파일 시스템을 위한 확장성 있는 자원 탐색 프로토콜 설계 (A Scalable Resource-Lookup Protocol for Internet File System Considering the Computing Power of a Peer)

  • 정일동;유영호;이종환;김경석
    • 한국정보과학회논문지:정보통신
    • /
    • 제32권1호
    • /
    • pp.89-99
    • /
    • 2005
  • 인터넷과 PC의 발달은 정보의 분산과 공유를 가속화하여, 사용자 스스로 컴퓨터 자원과 서비스를 개인의 컴퓨터 사이에 서로 공유하는 P2P (Peer-to-Peer) 컴퓨팅이 등장하였다. 대부분의 P2P 시스템에서 가장 중요한 기능은 효율적으로 데이타를 위치시키고 (location) 탐색하는 것이다. 지금까지 개발된 P2P 시스템은 피어의 성능을 똑같은 것으로 가정한다. 이는 알고리즘의 분석이 쉽기 때문에 학문의 관점에서는 유용하지만, 실제로는 모든 피어가 비슷한 기능을 가지는 것이 아니다. 본 논문에서는 기존의 P2P 시스템에서 무시하고 있는 피어의 컴퓨팅 능력을 고려한 P2P 프로토콜을 제안하고, 또한 제안한 프로토콜의 응용 분야와 활용 가능성을 제시한다. 그리고 시뮬레이션을 통해 메시지의 피어 사이의 라운드 시간과 메시지의 평균 홉 (Hop) 수를 측정하여 프로토콜의 성능을 검증하고, 마지막으로 수식으로 성능을 분석한다. 간 논문에서 제안한 P2P 프로토콜의 이즘을 Magic Square 라고 한다. 마방진에서 각각의 숫자는 특별한 의미가 없지만, 그 수를 적절히 배치한 마방진은 어느 방향에서 보아도 같은 합을 가진다. 본 논문에서 제안하는 ,Magic Square도 카 피어가 가지는 정도는 의미가 없더라도 전체 시스템에서는 의미론 가지고, 어떤 피어에서 질의를 하더라도 비슷한 성능이 나을 수 있도록 설계하였다.

LxBSM: C2 수준의 감사 자료 생성을 위한 리눅스 기반 동적 커널 모듈 (LxBSM: Loadable Kernel Module for the Creation of C2 Level Audit Data based on Linux)

  • 전상훈;최재영;김세환;심원태
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제10권2호
    • /
    • pp.146-155
    • /
    • 2004
  • 현재 대부분의 상용 운영체제는 운영체제의 보안성을 높이기 위하여 높은 수준의 감사 기능을 제공한다. Linux의 성능 및 안정성은 기존 상용 운영체제에 뒤떨어지지 않지만, 감사 기능을 거의 제공하지 못하고 있다. Linux를 서버 운영체제로 사용하기 위해서는 C2 수준 이상의 보안성을 필요로 하며, 이를 만족시키기 위해서는 시스템 콜에 대한 감시와, 감사 이벤트가 요구된다. 본 논문의 LxBSM은 Linux 커널에서 C2 수준의 감사 기능을 제공하는 커널 모듈이다. LxBSM은 SunShield BSM의 감사 자료와 호환되는 C2 수준의 감사 자료를 제공하며, 동적 커널 모듈(Loadable Kernel Module) 방식으로 구현되어 운용성을 높였다. 또한 사용자 프로세스에 대한 감사 자료를 생성함으로써, 기존의 Linux 기반 감사 모듈보다 풍부한 감사 자료를 제공한다. 파이프와 파일로 감사 자료의 출력이 가능하여 감사 자료를 활용하는 침입 탐지 시스템의 연계성을 높였다. LxBSM의 성능을 측정한 결과, fork, execve, open, close와 같이 감사 자료를 생성하는 시스템 콜이 호출될 때의 응답 시간은 지연되었으나, 그 외의 다른 성능 감소 현상은 나타나지 않았다.

대용량 위성영상의 무감독 분류를 위한 k-Means Clustering 알고리즘의 병렬처리: 다중코어와 PC-Cluster를 이용한 Hybrid 방식 (Parallel Processing of k-Means Clustering Algorithm for Unsupervised Classification of Large Satellite Images: A Hybrid Method Using Multicores and a PC-Cluster)

  • 한수희;송정헌
    • 한국측량학회지
    • /
    • 제37권6호
    • /
    • pp.445-452
    • /
    • 2019
  • 본 연구에서는 대용량 위성영상의 무감독분류를 위해 k-means clustering 알고리즘의 병렬처리 코드를 개발하여 PC-cluster에서 구현하였다. 이를 위해 OpenMP (Open Multi-Processing)를 기반으로 CPU (Central Processing Unit)의 다중코어를 이용하는 intra-node 코드와 message passing interface를 기반으로 PC-cluster를 이용하는 inter-nodes 코드, 그리고 이 둘을 병용하는 hybrid 코드를 구현하였다. 본 연구에 사용한 PC-cluster는 한 대의 마스터 노드와 여덟 대의 슬래이브 노드로 구성되어 있고 각 노드에는 여덟 개의 다중코어가 장착되어 있다. PC-cluster에는 Microsoft Windows와 Canonical Ubuntu의 두 가지 운영체제를 설치하여 병렬처리 성능을 비교하였다. 실험에 사용한 자료는 두 가지 다중분광 위성영상으로서 중용량인 LANDSAT 8 OLI (Operational Land Imager) 영상과 대용량인 Sentinel 2A 영상이다. 병렬처리의 성능을 평가하기 위하여 speedup과 efficiency를 측정한 결과 전반적으로 speedup은 N/2 이상, efficiency는 0.5 이상으로 나타났다. Microsoft Windows와 Canonical Ubuntu를 비교한 결과 Ubuntu가 2-3배의 빠른 결과를 나타내었다. 순차처리와 병렬처리 결과가 일치하는지 확인하기 위해 각 클래스의 밴드별 중심값과 분류된 화소의 수를 비교하고 결과 영상간 화소대 화소 비교도 수행하였다. Intra-node 코드를 구현할 때에는 OpenMP에 의한 false sharing이 발생하지 않도록 주의해야 하고, PC-cluster에서 대용량 위성영상을 처리하기 위해서는 파일 I/O에 의한 성능저하를 줄일 수 있도록 코드 및 하드웨어를 설계해야 함을 알 수 있었다. 또한 PC-cluster에 설치된 운영체제에 따라서도 성능 차이가 발생함을 알 수 있었다.

스트리밍 프레임워크와 멀티미디어 데이타베이스와의 연동기법 (An Interconnection Method for Streaming Framework and Multimedia Database)

  • 이재욱;이승룡;이종원
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제29권7호
    • /
    • pp.436-449
    • /
    • 2002
  • 본 논문은 실시간 멀티미디어 스트리밍 프레임워크과 멀티미디어 데이타베이스의 연동 모듈인 데이타베이스 커넥터를 소개한다. 스트리밍 시스템과 멀티미디어 데이타베이스를 연동하는 경우 스트리밍 중에도 재생중인 미디어에 관련된 정보들을 데이타베이스로부터 검색 및 재결합이 가능하여 다양한 멀티 미디어 데이타베이스 서비스를 제공받을 수 있다. 그러나, 현재 스트리밍 시스템과 데이타베이스와의 연동은 파일 시스템으로 구현되거나, 파일형태의 스트리밍 데이타와 컨텐츠를 다루는 메타 데이타가 분리되어 관리되는 관계형 데이타베이스에 국한되어 있어 다양한 멀티미디어 서비스를 제공하기에 부적합하다. 이런 제약점을 보완하기 위하여 본 논문에서는 스트리밍 프레임워크와 멀티미디어 데이타베이스가 동일한 호스트에 존재한다는 가정 하에 작동되는 IPC 기반의 데이타 베이스 커넥터를 제안한다. 제안된 데이터베이스 커넥터는 데이타베이스 기능을 사용할 수 있도록 읽기, 쓰기, 찾기, 재생 트랜잭션과, 트랜잭션 처리를 위한 인터페이스를 정의하였고, IPC 인터페이스 모듈을 플러그인 형태로 구현하여 본 논문에서 적용한 BeeHive와의 연동뿐 아니라 다른 다양한 멀티미디어 데이타베이스와 연동 시 바로 적용시킬 수 있는 확장성을 가지고 있다. 성능 분석 결과 제안된 IPC 기반 연동기법은 기존의 파일 방식의 연동기법과 비교하여 성능의 저하가 크지 않았다.

관계 데이터 모델 기반 라이프로그 관리 시스템과 그 응용 (A Lifelog Management System Based on the Relational Data Model and its Applications)

  • 송인철;이유원;김현규;김항규;함덕민;김명호
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제15권9호
    • /
    • pp.637-648
    • /
    • 2009
  • 하드 디스크 저장 매체의 가격이 하락함에 따라 가까운 시일 안에 개인 컴퓨터에 1TB가 넘는 하드 디스크가 기본으로 장착될 것으로 예상된다. 한 사람이 한 달에 1GB의 데이터를 저장한다고 가정하면 대략 1TB면 그 사람의 일생 동안에 걸친 데이터를 저장할 수 있다. 이에 따라 개인이 일상 생활에서 보고들은 것을 기록한 라이프로그(lifelog)를 효과적으로 관리하는 라이프로그 관리에 대한 연구가 활발히 이루어지고 있다. 지금까지 관계 데이터 모델 기반, 온톨로지 기반, 파일 시스템 기반 라이프로그 관리 시스템(LMS: Lifelog Management System) 등 다양한 LMS들이 제안되었지만, 관계 데이터 모델 기반 LMS는 질의 처리 성능이 뛰어난 반면 복잡한 질의를 잘 처리하지 못하고 온톨로지 기반 LMS는 복잡한 질의를 처리할 수 있는 반면 질의 처리 성능이 떨어지며 파일 기반 LMS는 질의만 지원하는 등 저마다 장단점을 가진다. 또한 이들 시스템들은 라이프로그 그룹을 효과적으로 관리하기 위한 기능을 제공하지 못하고 있고 효과적인 검색을 위해 라이프로그의 태그(데타데이터)를 수정하거나 새로운 태그를 추가하기 위한 편리한 인터페이스를 제공하지 못하고 있다. 본 논문에서는 이러한 문제점들을 해결하기 위해 관계 데이터 모델 기반 라이프로그 관리 시스템을 제안한다. 제안하는 시스템은 라이프로그를 관계 데이터 모델로 모델링하고 사용자 질의를 SQL로 변환해 처리함으로써 질의 처리 성능이 뛰어나다. 또한 복잡한 질의를 잘 처리하지 못하는 관계 데이터 모델 기반 LMS의 단점을 보완하기 위해 찾으려는 라이프로그와 직접적으로 관련 있는 라이프로그에 대한 정보에 기반해 라이프로그를 검색하는 단순화된 관계 질의를 지원한다. 이와 더불어, 제안하는 시스템은 라이프로그 그룹 생성, 편집, 검색, 플레이 및 공유 기능을 제공함으로써 라이프로그 그룹에 대한 효과적인 관리를 지원한다. 마지막으로 제안하는 LMS에서 제공하는 라이프로그 태깅 도구는 태그 추상화를 통해 여러 종류의 태그를 손쉽게 수정하거나 추가할 수 있는 기능을 제공한다. 본 논문에서는 제안하는 시스템의 설계 및 구현을 설명하고 이 시스템을 활용한 다양한 응용을 소개한다.

치유환경을 위한 광선반 부착방법에 따른 노인요양시설 침실 내 자연채광 유입 환경 연구 - 기상데이터 기반 동적 자연채광 시뮬레이션을 기반으로 - (A study on Daylighting inducement within bedroom of Elderly care facility by light shelf attaching method for Therapeutic environment - By Dynamic Daylight Simulation Using Weather Data -)

  • 조주영;이기호;윤영일;이효원
    • KIEAE Journal
    • /
    • 제11권6호
    • /
    • pp.71-79
    • /
    • 2011
  • There are high recognitions on the importance of comforts in Elderly living environment, but the circumstance is that studies on seniors facility space itself are approached only in planning level, and studies on lighting environment which is significantly associated with the comfort in the indoor environment of seniors where they actually spend the majority of their time are not that active. This study was intended to deduce cozy bedroom environment to which existing elderly care facility can be improved by using light shelf the lighting system with the advantage of being able to serve both as building sun visor and lighting window simultaneously in order to analyze the interior environment of bedroom space of elderly care facility the indoor space where the aged spend the majority of their life and examine the directions for the improvement of existing building lighting system through remodeling and renovation. In this study, lighting performance analysis was done in a way that the windows of the bedroom unit in existing facility were set in southbound direction based on two standard types and were put under initial simulation with the use of Autodesk Revit 2011, and after the simulation results were converted to Green Building Studio gbXML file to be used in ECOTECT, Daylight Autonomy a dynamic simulation and static natural lighting simulation the existing method of calculating daylight factors were deduced through Ecotect Analysis 2011. In conclusion, exiting standard model was found in such a condition that the daylight factors for both type A and type B were above 5% the proper standard value, and required improvement. In case light shelf the natural lighting system was attached, the daylight factor was improved to proper standard value for type A, and also was improved above existing facility for type B.