• 제목/요약/키워드: 이상치제거

검색결과 420건 처리시간 0.022초

시계열기반의 GPS 프로브 자료의 이상치 제거 알고리즘 개발 (A Time Series-based Algorithm for Eliminating Outliers of GPS Probe Data)

  • 최기주;장정아
    • 대한교통학회지
    • /
    • 제22권6호
    • /
    • pp.67-77
    • /
    • 2004
  • 본 연구는 구간검지체계의 GPS 프로브 원시데이터의 1차 기공을 위한 평균화과정에 있어 발생할 수 있는 문제점으로 이상치 문제에 대해 검토하고 있다. 이상치의 미 제거는 구간검지의 수집 및 가공 신뢰도를 저하시킬 수 있으므로 이상치에 대한 부문을 수집 주기별로 판단하여 제거해 주어야 한다. 연구에서는 이상치 제거 알고리즘으로 ARIMA 모형을 적용시켜 실시간적 신뢰구간 추정과정들을 검토해 보았다. 이러한 ARIMA 모형의 적용하기 위해 서울시 10개의 도로구간의 GPS 프로브 기반의 교통데이터에 대하여 모수 추정 기간 등을 변화시키면서 이상치 제거 개수들을 확인하였다. 모든 링크는 IMA(1,1)모형으로 모형이 식별이 되었으며, 모수 추정의 경우 추정기간이 짧아질수록 이상치 제거율이 낮아지는 즉 교통흐름에 보다 민감한 경향을 보이는 결과를 가져왔다. 이상치로 제거된 각 개별 원시 데이터의 확인이 불가하여 모형의 신뢰도 평가는 불가하여 모형의 우수성은 입증되지 못 하였으나 본 연구의 결과 수집 데이터 측면에서의이상치 제거의 모형으로서 시계열 모형이 적절하게 이용 가능할 것으로 판단된다.

무선 센서 네트워크에서 C-SCGP를 이용한 RSS/AOA 이상치 제거 기반 표적 위치추정 기법 (Outlier Reduction using C-SCGP for Target Localization based on RSS/AOA in Wireless Sensor Networks)

  • 강세영;이재훈;송종인;정원주
    • 융합정보논문지
    • /
    • 제11권11호
    • /
    • pp.31-37
    • /
    • 2021
  • 본 논문에서는 무선 센서 네트워크에서 이상치를 포함한 수신 신호 강도와 신호의 도달 각도 측정치 기반의 표적위치추정 성능 저하를 방지하기 위한 이상치 검출 알고리즘 C-SCGP를 제안한다. 센서 오작동, 재밍, 심한 잡음과 같은 다양한 이상치 원인으로 인해 표적 위치추정 정확도가 크게 떨어질 수 있어, 모든 이상치를 탐지하고 제거하는 것이 중요하다. 이러한 이상치를 제거하기 위해 single cluster graph partitioning (SCGP) 알고리즘이 널리 사용되고 있다. 기존의 SCGP 알고리즘은 hyperparameter 최적화를 통한 threshold 설정과 이상치 확률 계산이 필수적이므로 다양한 분야에 효율적인 적용이 제한되어왔다. 본 논문에서 제안된 continuous-SCGP (C-SCGP) 알고리즘은 이러한 SCGP의 약점을 극복한다. 다양한 잡음 환경에서 threshold 설정과 이상치 확률 계산이 필요 없는 제안된 C-SCGP 알고리즘과 threshold 설정과 이상치 확률 계산을 요구하는 SCGP 알고리즘의 이상치 제거 성능이 같음을 최종 추정된 표적의 RMSE 성능을 통하여 검증하였다.

인자 점수를 이용한 이상치 데이터의 군집화 (Outlier Data Clustering using Factor Score)

  • 전성해;임민택;오경환
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2002년도 춘계학술대회 및 임시총회
    • /
    • pp.77-80
    • /
    • 2002
  • 이상치를 포함한 학습 데이터의 군집화 전략은 일반적으로 이상치를 포함하여 학습하거나, 이상치를 제거하는 두 가지 선택이 가능하다. 이상치를 제거하지 않고 학습에 반영시켜야 할 경우 한 개 또는 소수의 이상치가 독자적인 군집을 형성하거나 객관적인 군집화를 방해하는 문제가 발생할 수 있다. 이 때 주어진 학습 데이터의 군집 결과가 이상치의 영향으로부터 벗어나기 위해 원래의 학습 데이터에 대한 변환 작업을 거친 후 군집화를 수행할 수 있다. 이러한 변환 방법으로서 본 논문에서는 차원 축소의 기법으로 알려진 인자 분석의 점수를 사용하였다. 인자 점수로 변환된 학습 데이터에 대해 계층적 군집화, K-means 그리고 자기조직화 지도 등과 같은 군집화 알고리즘을 적용하면 이상치가 자신만의 군집을 별도로 형성하지 않고 다른 학습 데이터의 군집에 소속되면서 이상회의 영향으로부터 벗어남을 실험을 통하여 확인하였다.

  • PDF

대용량 데이터 분석을 위한 이상치 제거용 분산처리 환경 (Distributed Processing Environment for Outlier Removal to Analyze Big Data)

  • 홍예진;나은희;정용환;김양우
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2016년도 제54차 하계학술대회논문집 24권2호
    • /
    • pp.73-74
    • /
    • 2016
  • IoT 데이터는 비정형 데이터로 가공되고 분석하였을 때 비로소 가치를 갖기에 전 세계적으로 빅데이터 기술에 관심이 집중되고 있다. IoT 데이터 중 많은 부분을 차치하는 센서 데이터는 수집이 용이하고 활용범위가 넓기 때문에 여러 분야에서 사용되고 있다. 하지만 센서가 정상적으로 작동하지 못한 경우에는 실제와는 다른 값인 이상치를 포함하여 왜곡된 결과가 도출되어 활용할 수 없는 경우가 생긴다. 따라서 본 논문에서는 정확한 결과를 도출하기 위하여 수집된 원자료의 데이터를 분석하기 전에 이상치 탐지 및 제거를 하고자 한다. 또한 점점 늘어나고 있는 대용량 데이터를 신속하게 처리하기 위하여 메모리 접근방식인 스파크를 사용한 분산처리환경에서 이상치 탐지 및 제거하는 것을 제안한다. 맵리듀스 기반의 이상치 탐지 및 제거는 총 4단계로 나누어 구현하였으며 제안한 기법의 성능 평가를 위해 총 3가지 환경에서 비교하여 실험하였다. 실험을 통해 데이터의 용량이 커질수록 분산처리환경에서 스파크를 사용하여 처리하는 방식이 가장 빠를 것 이라는 결과를 얻었다.

  • PDF

통행시간 추정을 위한 Voting Rule과 중위절대편차법 기반의 복합 필터링 모형 (Combined Filtering Model Using Voting Rule and Median Absolute Deviation for Travel Time Estimation)

  • 정영제;박현석;김병화;김영찬
    • 한국ITS학회 논문지
    • /
    • 제12권6호
    • /
    • pp.10-21
    • /
    • 2013
  • 본 연구에서는 교통정보시스템에서 통행시간의 이상치 자료를 제거하기 위한 복합 필터링 모형을 제시하였으며, 이는 중위절대편차법과 Voting Rule을 기반으로 하는 이중화된 필터링 모형에 해당한다. 본 모형은 중위절대편차법을 이용해 표본을 정규분포화 시키기 위한 1차 필터링을 수행하며, 이후 Voting Rule을 이용해 중위절대편차법의 적용 이후에도 남아 있는 이상치 자료를 제거하는 방식에 해당한다. 이때 Voting Rule은 표본의 통행시간과 평균통행시간의 차이가 임계치를 초과하는 경우 해당 표본을 이상치로 판정하며, 다수결의 원칙을 이용하여 이상치 자료의 비율에 따라 이상치에 대한 제거 여부를 결정한다. 일반국도 3호선의 경기도 광주시 구간을 대상으로 한 사례분석을 통해 복합 필터링 모형이 이상치 표본 만을 선택적으로 제거하여 통행시간 추정의 정확도 개선에 기여할 수 있음을 확인하였다.

강우센서에서 생성된 강우정보를 이용한 선형회귀분석과 대역 통과 필터링 분석간의 정확도 비교

  • 김영곤;이석호;김병식
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2017년도 학술발표회
    • /
    • pp.172-172
    • /
    • 2017
  • 본 연구는 차량의 AW(AutoWiping) 기능을 위해 장착된 강우센서를 이용하여 강우정보를 생산하는 기술을 개발하고자 하였다. AW(AutoWiping) 기능이란 차량 앞창(Windshield)에 빗방울이 맺히게 되면 광신호의 산란으로 인해 수광부에 들어오는 감소되는 광신호의 정도에 따라 차량 와이퍼의 속도를 결정해 주는 기능이다. 빗방울이 많이 맺힐수록 광신호는 감소되며 와이퍼는 더 빠른 속도로 작동을 하게 된다. 여기서 강우센서가 강우량이 많으면 감소된 광신호 데이터를 표출하는 현상을 이용하여 강우정보를 생산한다. 강우센서는 총 8개의 채널로 이루어져있고, 초당 250개의 광신호 데이터를 수집하며, 10분이면 약 120만 개의 데이터가 생산되게 된다. 이 대량의 데이터에서 정확한 강우량을 산출하기 위해 강우센서의 초기값과 와이퍼 이동시 발생하는 순간 이상치를 제거해야 한다. 하지만 일일이 수백만 개 이상의 데이터에서 모든 이상치를 제거하는 작업은 불가능하다. 따라서 이상치를 포함한 회귀 분석 방법을 연구하였고, 인공강우 발생기를 이용하여 광신호를 강우량으로 환산하는 2가지 회귀식이 유도되었다. 이들은 각각 이상치를 모두 포함시켜 독립변수(광신호)에 따라 종속변수(강우량)의 값이 변화하는 관계를 나타내는 선형회귀분석(model 1), 임계치를 정하여 일정 이상치가 제거된 신호만 통과시키는 대역통과 필터링 분석(model 2)으로 유도된 회귀식을 실강우에 회귀식을 적용하여 정확도를 분석하였다.

  • PDF

링크통행시간 생성을 위한 이상치 제거 알고리즘 개발 (A Heuristic Outlier Filtering Algorithm for Generating Link Travel Time using Taxi GPS Probes in Urban Arterial)

  • 최기주;최윤혁
    • 대한토목학회논문집
    • /
    • 제26권5D호
    • /
    • pp.731-738
    • /
    • 2006
  • 교통 혼잡이 증가하면서, 경로에 대한 교통정보, 특히 실시간 구간통행시간에 대한 사람들의 관심이 증대되고 있다. 본 논문은 GPS Probe를 통해 구간통행시간을 산출했던 최기주(1998) 등의 후속 연구로써, 도시부에서 구간 통행시간을 산출하기 위해 택시를 GPS Probe로 활용하였다. 택시는 GPS Probe로 활용되기 위한 매우 좋은 수단이지만, 승객의 승하차시간 등 주행과 관계없는 불필요한 데이터가 포함되게 된다. 따라서 본 논문에서는 도시부에서 Taxi GPS를 통해 교통정보를 생성할 경우 주행과 관계없는 정보를 실시간으로 검지하여 제거하는 휴리스틱한 이상치 제거 알고리즘을 개발하였다. 평가를 위해 서울시 주요 간선축에서 번호판 조사를 실시하였으며 알고리즘을 적용한 통행시간과 비교하였다. 이상치 제거 알고리즘을 적용한 결과, 약 70%의 이상치가 제거되었으며, 실측 통행시간과의 상대 오차가 73.7%로 향상된 것으로 나타났다. 따라서 본 알고리즘을 이용할 경우 Taxi GPS를 통해 신뢰할 수 있는 실시간 교통정보를 생성할 수 있을 것으로 판단된다.

The System for Checking Multivariate Normality and Outliers

  • 강명래;최용석
    • 한국통계학회:학술대회논문집
    • /
    • 한국통계학회 2000년도 추계학술발표회 논문집
    • /
    • pp.253-255
    • /
    • 2000
  • 다변량분석 기법을 사용하기 위해서는 자료가 정규성(normality)가정을 만족해야한다. 본 연구에서는 GUI(graphic user interface)환경 하에서 일변량(univariate)과 다변량자료(multivariate data)의 정규성검정, 이상치(outliers)제거 및 변수변환(variable transformation)을 지원하는 시스템을 구축하여 사용자들이 보다 편리하게 사용할 수 있음을 소개 하고자 한다.

  • PDF

TCS데이터를 이용한 이상치제거 및 결측보정 알고리즘 개발 (Outlier Filtering and Missing Data Imputation Algorithm using TCS Data)

  • 도명식;이향미;남궁성
    • 대한교통학회지
    • /
    • 제26권4호
    • /
    • pp.241-250
    • /
    • 2008
  • 지능형 교통체계구축과 교통 혼잡이 증가하면서 이용자는 과거보다 양질의 통행시간정보를 요구하고 있다. 기존 연구에서는 단속류, 연속류 모두 AVI검지기 자료를 이용한 이상치제거 및 통행시간 산출에 대한 연구가 많이 이루어져왔다. 현재 한국도로공사에서는 TCS(Toll Collection System)를 기반으로 정보제공을 준비 중에 있으며, TCS 데이터는 운전자가 실제교통상황을 경험한 동적특성을 가진 통행시간이 수집된 자료로 통행시간 추정자료로 잠재력이 크다. 그러나 '시간처짐현상'이 발생하고 속도위반, 휴게소, 고장 등으로 인해 평균통행시간보다 작거나 큰 이상치와 결측데이터가 존재하여 기존 방법을 적용하는데 효과적이지 못한 것으로 나타났다. 따라서 본 연구에서는 TCS 데이터에 맞는 이상치제거 및 결측보정 알고리즘을 개발하였다. 기존알고리즘과 비교한 결과 개발 알고리즘이 더 효과적인 것으로 나타났다.