• 제목/요약/키워드: Anomaly Data

검색결과 799건 처리시간 0.023초

이상 침입 탐지를 위한 베이지안 네트워크 기반의 정상행위 프로파일링 (Normal Behavior Profiling based on Bayesian Network for Anomaly Intrusion Detection)

  • 차병래;박경우;서재현
    • 한국컴퓨터정보학회논문지
    • /
    • 제8권1호
    • /
    • pp.103-113
    • /
    • 2003
  • 프로그램 행위 침입 탐지 기법은 데몬 프로그램이나 루트 권한으로 실행되는 프로그램이 발생시키는 시스템 호출들을 분석하고 프로파일을 구축하여 침입을 효과적으로 탐지한다 시스템 호출을 이용한 이상 탐지는 단지 그 프로세스가 이상(anomaly)임을 탐지할 뿐 그 프로세스에 의해 영향을 받는 여러 부분에 대해서는 탐지하지 못하는 문제점을 갖는다. 이러한 문제점을 개선하는 방법이 베이지안 확률값 이용하여 여러 프로세스의 시스템 호출간의 관계를 표현하고, 베이지안 네트워크를 이용한 어플리케이션의 행위 프로파일링에 의해 이상 탐지 정보를 제공한다. 본 논문은 여러 침입 탐지 모델들의 문제점들을 극복하면서 이상 침입 탐지를 효율적으로 수행할 수 있는 베이지안 네트워크를 이용한 침입 탐지 방법을 제안한다 행위의 전후 관계를 이용한 정상 행위를 간결하게 프로파일링하며, 변형되거나 새로운 행위에 대해서도 탐지가 가능하다. 제안한 정상행위 프로파일링 기법을 UNM 데이터를 이용하여 시뮬레이션하였다.

  • PDF

Data anomaly detection for structural health monitoring of bridges using shapelet transform

  • Arul, Monica;Kareem, Ahsan
    • Smart Structures and Systems
    • /
    • 제29권1호
    • /
    • pp.93-103
    • /
    • 2022
  • With the wider availability of sensor technology through easily affordable sensor devices, several Structural Health Monitoring (SHM) systems are deployed to monitor vital civil infrastructure. The continuous monitoring provides valuable information about the health of the structure that can help provide a decision support system for retrofits and other structural modifications. However, when the sensors are exposed to harsh environmental conditions, the data measured by the SHM systems tend to be affected by multiple anomalies caused by faulty or broken sensors. Given a deluge of high-dimensional data collected continuously over time, research into using machine learning methods to detect anomalies are a topic of great interest to the SHM community. This paper contributes to this effort by proposing a relatively new time series representation named "Shapelet Transform" in combination with a Random Forest classifier to autonomously identify anomalies in SHM data. The shapelet transform is a unique time series representation based solely on the shape of the time series data. Considering the individual characteristics unique to every anomaly, the application of this transform yields a new shape-based feature representation that can be combined with any standard machine learning algorithm to detect anomalous data with no manual intervention. For the present study, the anomaly detection framework consists of three steps: identifying unique shapes from anomalous data, using these shapes to transform the SHM data into a local-shape space and training machine learning algorithms on this transformed data to identify anomalies. The efficacy of this method is demonstrated by the identification of anomalies in acceleration data from an SHM system installed on a long-span bridge in China. The results show that multiple data anomalies in SHM data can be automatically detected with high accuracy using the proposed method.

한국지질자원연구원 디지털 중력 이상도 (Digital Gravity Anomaly Map of KIGAM)

  • 임무택;신영홍;박영수;임형래;고인세;박창석
    • 지구물리와물리탐사
    • /
    • 제22권1호
    • /
    • pp.37-43
    • /
    • 2019
  • 한국지질자원연구원에서 2000년부터 2018년까지 수행한 중력 탐사 자료를 처리하여 중력 이상도를 작성하였다. 2016년까지는 전국을 대상으로 하는 중력 이상도 작성에 필요한 자료를 빠르게 획득하기 위하여 약 $4km{\times}4km$ 당 1점의 측점 밀도로 약 6,400 점에서 측정을 하였다. 이와는 별개로 광산 개발과 관련하여, 관계 화성암 혹은 기반암의 분포를 규명하기 위하여, 2013년에는 제천 NMC 몰랜드 광산의 주변에서, 그리고 2015년에서 2018년까지는 태백산 광화대 일대에서 수백 미터에서 2 km 정도의 간격으로 탐사를 수행하였다. 한편 2016년과 2017년에는 경주와 포항에서 규모가 큰 지진이 발생하였는데, 이들 진앙지 일대에서는 측점 간격이 250 m 정도가 되도록 더욱 정밀하게 탐사를 하였다. 이들까지 포함한 전체 측점은 9,600여 점이다. 한편, 효율적인 탐사를 위하여 일부 지역에 대해서는 부산대학교의 자료를 사용하였다. 중복점과 임시 기준점을 제외하면 전체 측점은 약 16,000여 점이며, 이를 바탕으로 순높이 이상, 부게 이상, 지각 평형 이상을 계산하였다. 이 중력 이상도는 우리나라에서 가장 고르게 분포하면서 가장 많은 측점을 사용한 중력 이상도로서의 의미를 가진다.

이동 평균과 3-시그마를 이용한 하둡 로그 데이터의 이상 탐지 (Anomaly Detection of Hadoop Log Data Using Moving Average and 3-Sigma)

  • 손시운;길명선;문양세;원희선
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제5권6호
    • /
    • pp.283-288
    • /
    • 2016
  • 최근 빅데이터 처리를 위한 연구들이 활발히 진행 중이며, 관련된 다양한 제품들이 개발되고 있다. 이에 따라, 기존 환경에서는 처리가 어려웠던 대용량 로그 데이터의 저장 및 분석이 가능해졌다. 본 논문은 다수의 서버에서 빠르게 생성되는 대량의 로그 데이터를 Apache Hive에서 분석할 수 있는 데이터 저장 구조를 제안한다. 그리고 저장된 로그 데이터로부터 특정 서버의 이상 유무를 판단하기 위해, 이동 평균 및 3-시그마 기반의 이상 탐지 기술을 설계 및 구현한다. 또한, 실험을 통해 로그 데이터의 급격한 증가폭을 나타내는 구간을 이상으로 판단하여, 제안한 이상 탐지 기술의 유효성을 보인다. 이 같은 결과를 볼 때, 본 연구는 하둡 기반으로 로그 데이터를 분석하여 이상치를 바르게 탐지할 수 있는 우수한 결과라 사료된다.

CNN based data anomaly detection using multi-channel imagery for structural health monitoring

  • Shajihan, Shaik Althaf V.;Wang, Shuo;Zhai, Guanghao;Spencer, Billie F. Jr.
    • Smart Structures and Systems
    • /
    • 제29권1호
    • /
    • pp.181-193
    • /
    • 2022
  • Data-driven structural health monitoring (SHM) of civil infrastructure can be used to continuously assess the state of a structure, allowing preemptive safety measures to be carried out. Long-term monitoring of large-scale civil infrastructure often involves data-collection using a network of numerous sensors of various types. Malfunctioning sensors in the network are common, which can disrupt the condition assessment and even lead to false-negative indications of damage. The overwhelming size of the data collected renders manual approaches to ensure data quality intractable. The task of detecting and classifying an anomaly in the raw data is non-trivial. We propose an approach to automate this task, improving upon the previously developed technique of image-based pre-processing on one-dimensional (1D) data by enriching the features of the neural network input data with multiple channels. In particular, feature engineering is employed to convert the measured time histories into a 3-channel image comprised of (i) the time history, (ii) the spectrogram, and (iii) the probability density function representation of the signal. To demonstrate this approach, a CNN model is designed and trained on a dataset consisting of acceleration records of sensors installed on a long-span bridge, with the goal of fault detection and classification. The effect of imbalance in anomaly patterns observed is studied to better account for unseen test cases. The proposed framework achieves high overall accuracy and recall even when tested on an unseen dataset that is much larger than the samples used for training, offering a viable solution for implementation on full-scale structures where limited labeled-training data is available.

행위 프로파일링을 위한 그래픽 기반의 베이지안 프레임워크 (The Bayesian Framework based on Graphics for the Behavior Profiling)

  • 차병래
    • 정보보호학회논문지
    • /
    • 제14권5호
    • /
    • pp.69-78
    • /
    • 2004
  • 인터넷의 급속한 확장과 새로운 공격 형태의 출현으로 인해 공격 기법 패러다임의 변화가 시작되었다. 그러나, 대부분의 침입 탐지 시스템은 오용 탐지 기반의 알려진 공격 유형만을 탐지하며, 새로운 공격에 대해서는 능동적인 대응이 어려운 실정이다. 이에 새로운 공격 유형에 대한 탐지 능력을 높이기 위해 이상 탐지의 여러 기법들을 적용하려는 시도들이 나타나고 있다. 본 논문에서는 그래픽 기반의 베이지안 프레임워크를 이용하여 감사 데이터에 의한 행위 프로파일링 방법을 제안하고 이상 탐지와 분석을 위한 행위 프로파일을 시각화하고자 한다. 호스트/네트워크의 감사 데이터를 이상 탐지를 위한 준 구조적 데이터 형식의 행위 프로파일인 BF-XML로 변환하고, BF-XML을 SVG로 시각화를 시뮬레이션한다.

An Effective Anomaly Detection Approach based on Hybrid Unsupervised Learning Technologies in NIDS

  • Kangseok Kim
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제18권2호
    • /
    • pp.494-510
    • /
    • 2024
  • Internet users are exposed to sophisticated cyberattacks that intrusion detection systems have difficulty detecting. Therefore, research is increasing on intrusion detection methods that use artificial intelligence technology for detecting novel cyberattacks. Unsupervised learning-based methods are being researched that learn only from normal data and detect abnormal behaviors by finding patterns. This study developed an anomaly-detection method based on unsupervised machines and deep learning for a network intrusion detection system (NIDS). We present a hybrid anomaly detection approach based on unsupervised learning techniques using the autoencoder (AE), Isolation Forest (IF), and Local Outlier Factor (LOF) algorithms. An oversampling approach that increased the detection rate was also examined. A hybrid approach that combined deep learning algorithms and traditional machine learning algorithms was highly effective in setting the thresholds for anomalies without subjective human judgment. It achieved precision and recall rates respectively of 88.2% and 92.8% when combining two AEs, IF, and LOF while using an oversampling approach to learn more unknown normal data improved the detection accuracy. This approach achieved precision and recall rates respectively of 88.2% and 94.6%, further improving the detection accuracy compared with the hybrid method. Therefore, in NIDS the proposed approach provides high reliability for detecting cyberattacks.

한국의 자력 이상도 (The Magnetic Anomaly Map of Korea)

  • 박영수;임형래;임무택;신영홍
    • 지구물리와물리탐사
    • /
    • 제22권1호
    • /
    • pp.29-36
    • /
    • 2019
  • 항공 자력 탐사는 적은 비용과 시간으로 전 국토를 대상으로 유용 지하자원의 부존과 개발에 대한 잠재력 평가 뿐 아니라 국토의 효율적인 활용 계획의 수립과 지질 재해의 예측 등 국가의 기본적인 지구과학 정보를 제공한다. 따라서 대부분의 나라에서 국가 혹은 대륙 규모의 광역 자력 탐사를 통하여 자력 데이터베이스를 구축하여 운용하고 있다. 한국동력자원연구소(현재 한구지질자원연구원)는 1981년 전 국토를 대상으로 하는 장기적이며 체계적인 항공 방사능 및 자력탐사 프로젝트를 계획하여 1982년부터 탐사자료를 생산하기 시작하여 2017년에 완료하였으며, 2018년에 자료를 재검토, 재처리하여 항공 자력 데이터베이스를 완성하고 1:100만 자력 이상도를 발간하였다. 이 총설은 항공 자력 이상도를 소개함과 아울러 프로젝트를 수행하면서 여러 차례 바뀐 탐사 설계와 자료처리 이력에 대하여 정리함으로써 사용자들이 자료를 이해하는 데 필요한 참고 정보를 제공하고자 한다.

Deep learning-based anomaly detection in acceleration data of long-span cable-stayed bridges

  • Seungjun Lee;Jaebeom Lee;Minsun Kim;Sangmok Lee;Young-Joo Lee
    • Smart Structures and Systems
    • /
    • 제33권2호
    • /
    • pp.93-103
    • /
    • 2024
  • Despite the rapid development of sensors, structural health monitoring (SHM) still faces challenges in monitoring due to the degradation of devices and harsh environmental loads. These challenges can lead to measurement errors, missing data, or outliers, which can affect the accuracy and reliability of SHM systems. To address this problem, this study proposes a classification method that detects anomaly patterns in sensor data. The proposed classification method involves several steps. First, data scaling is conducted to adjust the scale of the raw data, which may have different magnitudes and ranges. This step ensures that the data is on the same scale, facilitating the comparison of data across different sensors. Next, informative features in the time and frequency domains are extracted and used as input for a deep neural network model. The model can effectively detect the most probable anomaly pattern, allowing for the timely identification of potential issues. To demonstrate the effectiveness of the proposed method, it was applied to actual data obtained from a long-span cable-stayed bridge in China. The results of the study have successfully verified the proposed method's applicability to practical SHM systems for civil infrastructures. The method has the potential to significantly enhance the safety and reliability of civil infrastructures by detecting potential issues and anomalies at an early stage.

수집 데이터 기반 경량 이상 데이터 감지 알림 시스템 개발 (Evaluation of Edge-Based Data Collection System through Time Series Data Optimization Techniques and Universal Benchmark Development)

  • 조우진;구재회
    • 문화기술의 융합
    • /
    • 제10권1호
    • /
    • pp.453-458
    • /
    • 2024
  • 전 세계적으로 기후 위기와 에너지 비용 증가 등의 문제로 인해 에너지 절감과 관리에 대한 관심이 증대되고 있다. 대한민국의 경우 전체 에너지 사용량의 약 53.5%가 산업 단지에서 사용하여 이와 관련한 에너지 절감 포인트를 찾고자 유사한 에너지 유틸리티를 사용하는 기업 간의 "공유 네트워크 유틸리티 플랜트"를 통해 문제점을 개선하고자 하였다. 이러한 에너지 절감을 위해서 활용하는 다양한 기법들과 공장의 안정적인 운영을 위해서는 데이터의 안정적 수급이 그 무엇보다 중요하다. 그를 위해 데이터를 안정적으로 수급할 수 있는지에 대해 알아볼 수 있는 이상 데이터 감지 시스템과 알림 시스템의 대다수는 에너지 관리 시스템에 종속되어 한계가 있었고 에너지 관리 시스템의 구축은 대단위 시스템의 구축으로 공간, 에너지적 한계가 있는 소형 공장에서 구축이 어려웠다. 본 논문에서는 문제점들을 극복하고자 적은 공간과 전력을 소비하는 임베디드 디바이스에 데이터 수집 시스템과 이상 데이터 감지 알림 시스템를 구축하고, 데이터 수집을 하는 보편적인 기관에서 이상 데이터 감지 알림 시스템의 활용 가능성과 구축 과정에 대한 연구를 수행하였다.