• 제목/요약/키워드: Studentized residuals

검색결과 10건 처리시간 0.02초

Automatic TFT-LCD Mura Inspection Based on Studentized Residuals in Regression Analysis

  • Chuang, Yu-Chiang;Fan, Shu-Kai S.
    • Industrial Engineering and Management Systems
    • /
    • 제8권3호
    • /
    • pp.148-154
    • /
    • 2009
  • In recent days, large-sized flat-panel display (FPD) has been increasingly applied to computer monitors and TVs. Mura defects, appearing as low contrast or non-uniform brightness region, sometimes occur in manufacturing of the Thin-Film Transistor Liquid-Crystal Displays (TFT-LCD). Implementation of automatic Mura inspection methods is necessary for TFT-LCD production. Various existing Mura detection methods based on regression diagnostics, surface fitting and data transformation have been presented with good performance. This paper proposes an efficient Mura detection method that is based on a regression diagnostics using studentized residuals for automatic Mura inspection of FPD. The input image is estimated by a linear model and then the studentized residuals are calculated for filtering Mura regions. After image dilation, the proposed threshold is determined for detecting the non-uniform brightness region in TFT-LCD by means of monitoring the every pixel in the image. The experimental results obtained from several test images are used to illustrate the effectiveness and efficiency of the proposed method for Mura detection.

CASB-DELETION DIAGNOSTICS FOR TESTING A LINEAR HYPOTHESIS ABOUT REGRESSION COEFFICIENTS

  • Kim, Myung-Geun
    • Journal of applied mathematics & informatics
    • /
    • 제10권1_2호
    • /
    • pp.111-118
    • /
    • 2002
  • We study the influence of observations on testing a linear hypothesis using single and multiple case-deletions. The change in the F-test statistic due to case-deletions is shown to be completely determined by two externally Studentized residuals. These residuals we used for investigating the outlyingness when there are linear constraints or not. An illustrative example is given. It shows the usefulness of case-deletions.

The Asymptotic Variance of the Studentized Residual Autocorrelations for a Generalized Random Coefficient Autoregressive Processes

  • Park, Sang-Woo;Cho, Sin-Sup;Hwang, Sun Y.
    • Journal of the Korean Statistical Society
    • /
    • 제26권4호
    • /
    • pp.531-541
    • /
    • 1997
  • The asymptotic distribution of residual autocorrelation functions from a generalized p-order random coefficient autoregressive process (GRCA(p)) is derived. To this end, we first describe the GRCA(p) models and then consider the normalised residuals after fitting the model. This result can be applied to the residual analysis for the diagonostic purpose.

  • PDF

Simultaneous Identification of Multiple Outliers and High Leverage Points in Linear Regression

  • Rahmatullah Imon, A.H.M.;Ali, M. Masoom
    • Journal of the Korean Data and Information Science Society
    • /
    • 제16권2호
    • /
    • pp.429-444
    • /
    • 2005
  • The identification of unusual observations such as outliers and high leverage points has drawn a great deal of attention for many years. Most of these identifications techniques are based on case deletion that focuses more on the outliers than the high leverage points. But residuals together with leverage values may cause masking and swamping for which a good number of unusual observations remain undetected in the presence of multiple outliers and multiple high leverage points. In this paper we propose a new procedure to identify outliers and high leverage points simultaneously. We suggest an additive form of the residuals and the leverages that gives almost an equal focus on outliers and leverages. We analyzed several well-referred data set and discover few outliers and high leverage points that were undetected by the existing diagnostic techniques.

  • PDF

DETECTION OF OUTLIERS IN WEIGHTED LEAST SQUARES REGRESSION

  • Shon, Bang-Yong;Kim, Guk-Boh
    • Journal of applied mathematics & informatics
    • /
    • 제4권2호
    • /
    • pp.501-512
    • /
    • 1997
  • In multiple linear regression model we have presupposed assumptions (independence normality variance homogeneity and so on) on error term. When case weights are given because of variance heterogeneity we can estimate efficiently regression parameter using weighted least squares estimator. Unfortunately this estimator is sen-sitive to outliers like ordinary least squares estimator. Thus in this paper we proposed some statistics for detection of outliers in weighted least squares regression.

Detecting Influential Observations on the Smoothing Parameter in Nonparametric Regression

  • Kim, Choong-Rak;Jeon, Jong-Woo
    • Journal of the Korean Statistical Society
    • /
    • 제24권2호
    • /
    • pp.495-506
    • /
    • 1995
  • We present formula for detecting influential observations on the smoothing parameter in smoothing spline. Further, we express them as functions of basic building blocks such as residuals and leverage, and compare it with the local influence approach by Thomas (1991). An example based on a real data set is given.

  • PDF

다수 이상치 인식(認識)을 위한 외향성 검정 절차 (Outward Testing Procedure for the Identification of Multiple Outliers)

  • 염준근;김종우
    • 품질경영학회지
    • /
    • 제24권3호
    • /
    • pp.50-64
    • /
    • 1996
  • This article is concerned with procedures for detecting multiple y outliers in linear regression. The outward-testing procedure, which is controled by the initial subset and the minimum residuals, is suggested by two phases. The performance of this procedure is compared with others by Monte Carlo techniques and found to be superior. The procedure, however, fails in detecting y outliers that are on high-leverage cases in Phase 1. Thus, we proposed ELMS algorithm for a set of suspect observations, in Phase 1. In Phase 2, the proposed testing is conducted using the studentized residuals to see which of the suspect cases are outliers. Several examples are analyzed.

  • PDF

가족수명시험에서의 수명데이타에 관한 진단 (The Diagnosis for Life Data in Accelerated Life Testing)

  • 배석주;강창욱
    • 품질경영학회지
    • /
    • 제24권4호
    • /
    • pp.29-43
    • /
    • 1996
  • This paper identifies these data by the data diagnosis in lognormal distribution and presents the method to obtain exact parameter estimates and confidence intervals of regression line. The life-stress relationship uses Arrhenius model and life data generate Class-H insulation complete data by simulation. Also, the method to estimate parameters uses least squares estimation and externally Studentized residuals can be used as test statistics for identifing outliers. And influential cases are identified by Cook's distance. This research is intended to obtain the useful information for the life of products and test method, to save time and costs, and to help optimum accelerated life test plans.

  • PDF

Support Vector Regression을 이용한 이상치 데이터분석 (An Outlier Data Analysis using Support Vector Regression)

  • 전성해
    • 한국지능시스템학회논문지
    • /
    • 제18권6호
    • /
    • pp.876-880
    • /
    • 2008
  • 주어진 데이터에서 대부분의 다른 관측치들에 비해 지나치게 크거나 작은 관측치를 이상치라고 한다. 이상치는 몇 가지 원인에 의해 발생한다. 이상치를 포함한 데이터의 분석결과는 이 값을 포함하지 않은 경우와 크게 달라질 수 있다. 일반적으로 이상치는 탐지를 통하여 찾아내어 제거한 후에 데이터분석을 수행한다. 하지만 사기탐지, 네트워크 침입 등의 데이터 마이닝 분야에서는 이상치가 중요한 정보를 포함하고 있기 때문에 반드시 포함하여 데이터분석을 수행하여야 한다. 본 논문에서 다루는 회귀모형에서는 기존의 단순, 다중 회귀분석은 이상치에 대하여 안정된 모형을 구축하기 어렵기 때문에 표준화 잔차 또는 스튜던트화된 잔차를 이용하여 이상치를 찾아내고 제거한 후의 데이터분석 수행을 추천한다. 본 논문에서는 회귀모형에서 이상치를 포함하여 효과적으로 데이터분석을 수행할 수 있는 한 방법으로 Vapnik이 제안한 통계적 학습이론에 기반한 Support Vector Regression(SVR)을 이용하였다 인공 데이터를 생성한 모의실험 결과 기존의 회귀모형에 비해 SVR의 향상된 결과를 확인할 수 있었다.

반사 타겟의 관측 오차 특성 분석 - 세종 VLBI IVP 결합 측량 (Characteristics of Measurement Errors due to Reflective Sheet Targets - Surveying for Sejong VLBI IVP Estimation)

  • 홍창기;배태석
    • 한국측량학회지
    • /
    • 제40권4호
    • /
    • pp.325-332
    • /
    • 2022
  • 우주 측지 기술 사이의 상대적인 위치 관계를 설명하는 벡터를 결정하기 위해서는 VLBI IVP (Very Long Baseline Interferometry Invariant Point)의 위치를 정밀하게 계산하여야 한다. 이를 위해 일반적으로 VLBI 안테나에 반사 타겟을 부착한 후 필라들로부터 경사 거리, 수평각, 수직각을 관측한다. 그 다음 단계에서는 관측값과 미지수를 연결하는 수학 모델을 이용하여 조정 계산을 수행하게 된다. 따라서 계산된 미지수는 관측값의 정밀도에 영향을 받게 된다. 이때 특히 문제가 되는 것은 반사 타켓이 일반적인 측량 정밀도를 확보하기 어려운 곳에 위치하고 있다는 점이다. 즉, 반사 타겟의 방향을 조정하여 측량 기기에 정확하게 맞출 수 없다는 것이다. 따라서 이러한 부분은 관측 오차에 또 다른 형태로 나타날 것이며 조정 계산 시 오차 모델링에 오류를 발생시킬 수도 있다. 본 연구에서는 조정 계산 후 계산된 잔차의 특성에 대한 분석을 수행하였다. 먼저 관측 타입별 통계 분석을 통해 정규성을 검정하였으며 분산에 차이가 있는 지에 대한 검정도 실시하였다. 관측 타입별로 등분산 검정을 한 경우 분산이 서로 다른 것으로 나타났다. 각 필라에 대해 관측 타입별 등분산 검정을 했을 때 경사 거리와 수평 및 수직각 사이에는 분산에 차이가 있는 것으로 나타났다. 따라서 결합 측량으로부터 최적의 결과를 얻기 위해서는 관측 오차에 대해 보다 세분화된 모델링이 필요한 것으로 나타났다.