• 제목/요약/키워드: XAI

검색결과 87건 처리시간 0.024초

딥러닝을 이용한 직물의 결함 검출에 관한 연구 (A Study on the Defect Detection of Fabrics using Deep Learning)

  • 남은수;최윤성;이충권
    • 스마트미디어저널
    • /
    • 제11권11호
    • /
    • pp.92-98
    • /
    • 2022
  • 섬유산업에서 생산된 직물의 결함을 식별하는 것은 품질관리를 위한 핵심적인 절차이다. 본 연구는 직물의 이미지를 분석하여 결함을 검출하는 모델을 만들고자 하였다. 연구에 사용된 모델은 딥러닝 기반의 VGGNet 과 ResNet이었고, 두 모델의 결함 검출 성능을 비교하여 평가하였다. 정확도는 VGGNet 모델이 0.859, ResNet 모델이 0.893으로 ResNet 모델의 정확도가 더 높은 결과를 보여주었다. 추가적으로 딥러닝 모델이 직물의 이미지 내에서 결함으로 인식한 부분의 위치를 알아보기 위하여 XAI(eXplainable Artificial Intelligence)기법인 Grad-CAM 알고리즘을 사용하여 모델의 관심영역을 도출하였다. 그 결과 딥러닝 모델이 직물의 결함으로 인식한 부분이 육안으로도 실제 결함이 있는 것으로 확인되었다. 본 연구의 결과는 직물의 결함 검출에 있어서 딥러닝 기반의 인공지능을 활용함으로써 섬유의 생산과정에서 발생하는 시간과 비용을 줄일 수 있을 것으로 기대된다.

리조트 교차판매 예측모형 개발 및 SHAP을 이용한 해석 (Development of a Resort's Cross-selling Prediction Model and Its Interpretation using SHAP)

  • 강보람;안현철
    • 한국빅데이터학회지
    • /
    • 제7권2호
    • /
    • pp.195-204
    • /
    • 2022
  • 관광산업은 최근 코로나19 유행으로 인해 위기에 봉착해 있으며, 이를 극복하기 위해 무엇보다 수익성 개선이 매우 중요한 상황이다. 이 때 여행 수요 자체가 축소된 코로나19와 같은 상황에서는 수익 증대를 위해 객실 점유율을 높이기 위한 공격적인 영업전략보다 어려운 여건 속에서도 찾아온 고객에게 객실 외 추가상품을 판매하여 객단가를 높이는 방향이 더 효율적일 것이다. 국내 관광 연구 분야에서 머신러닝 기법은 수요예측을 중심으로 연구된 바 있으나 교차판매 예측에 대해서는 연구된 바가 거의 없다. 또한 넓은 의미로는 호텔과 같은 숙박업종 이지만 회원제 중심으로 운영하며 숙박과 취사에 적합한 시설을 갖추고 있는 리조트 업종에 특화된 연구는 더욱이 전무한 실정이다. 이에 본 연구에서는 실제 리조트 회사의 투숙 데이터로 다양한 머신러닝 기법을 활용하여 교차판매 예측 모형을 제안하고자 한다. 또한 설명가능한 인공지능(eXplainable AI) 기법을 적용해 교차판매에 영향을 미치는 요인이 무엇인지 해석하고 어떻게 영향을 미치는지 실증 분석을 통해 확인해 보고자 한다.

신경망의 계층 연관성 전파를 이용한 DNN 예보모델의 입력인자 분석 (Analysis of Input Factors of DNN Forecasting Model Using Layer-wise Relevance Propagation of Neural Network)

  • 유숙현
    • 한국멀티미디어학회논문지
    • /
    • 제24권8호
    • /
    • pp.1122-1137
    • /
    • 2021
  • PM2.5 concentration in Seoul could be predicted by deep neural network model. In this paper, the contribution of input factors to the model's prediction results is analyzed using the LRP(Layer-wise Relevance Propagation) technique. LRP analysis is performed by dividing the input data by time and PM concentration, respectively. As a result of the analysis by time, the contribution of the measurement factors is high in the forecast for the day, and those of the forecast factors are high in the forecast for the tomorrow and the day after tomorrow. In the case of the PM concentration analysis, the contribution of the weather factors is high in the low-concentration pattern, and that of the air quality factors is high in the high-concentration pattern. In addition, the date and the temperature factors contribute significantly regardless of time and concentration.

Self-Attention 시각화를 사용한 기계번역 서비스의 번역 오류 요인 설명 (Explaining the Translation Error Factors of Machine Translation Services Using Self-Attention Visualization)

  • 장청롱;안현철
    • 한국IT서비스학회지
    • /
    • 제21권2호
    • /
    • pp.85-95
    • /
    • 2022
  • This study analyzed the translation error factors of machine translation services such as Naver Papago and Google Translate through Self-Attention path visualization. Self-Attention is a key method of the Transformer and BERT NLP models and recently widely used in machine translation. We propose a method to explain translation error factors of machine translation algorithms by comparison the Self-Attention paths between ST(source text) and ST'(transformed ST) of which meaning is not changed, but the translation output is more accurate. Through this method, it is possible to gain explainability to analyze a machine translation algorithm's inside process, which is invisible like a black box. In our experiment, it was possible to explore the factors that caused translation errors by analyzing the difference in key word's attention path. The study used the XLM-RoBERTa multilingual NLP model provided by exBERT for Self-Attention visualization, and it was applied to two examples of Korean-Chinese and Korean-English translations.

Class Activation Map을 활용한 전력 설비 패턴의 주요원인 분석 (Electrical equipment pattern analysis using Class Activation Map)

  • 장영준;김지호;최영진;이홍철
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2021년도 제64차 하계학술대회논문집 29권2호
    • /
    • pp.75-77
    • /
    • 2021
  • 전력 생산의 효율을 높이고 지속적인 공정관리를 위해 전력 설비 데이터의 패턴을 분석하고 원인이 되는 주요 변수를 찾는 것이 중요하다. 따라서, 본 연구에서는 전력 설비 데이터의 패턴을 분석하기 위해 데이터를 군집화하고 연구 방법으로 Decision Tree, Random Forest와 ResNet을 이용하여 패턴을 분류하였다. Class Activation Map을 이용하여 설비데이터의 원인이 되는 주요 변수를 확인하였다. 본 연구를 통해 전력 설비 데이터의 분류 및 원인 분석이 가능한 통합적 솔루션을 제시하고자 한다.

  • PDF

이미지 데이터 기반의 빠른 반사실적 예제 생성 기법 연구 (A Study of Image Data Based Fast Counterfactual Instances Generation Method)

  • 김태형;김종국
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2021년도 추계학술발표대회
    • /
    • pp.830-833
    • /
    • 2021
  • 인공지능 기술이 사회 전반에 적용되면서 인공지능에 대한 인간의 이해도 역시 중요해지고 있다. 이러한 필요성을 기반으로 설명 가능한 인공지능(XAI) 분야 연구가 현재 활발히 진행되고 있다. 이 중 입력의 변화를 통하여 반사실적 대안을 제시하는 반사실적 예제 기반의 설명은 피쳐수가 많아지는 이미지 데이터에서 연산량이 크게 증가하는 단점이 있다. 본 연구에서는 이러한 단점을 해결하고자 이미지의 추상화된 피쳐 영역에서 프로토타입 피쳐를 이용한 반사실적 예제를 생성하는 기법을 제안한다. 나아가 이러한 이미지 형식의 반사실적 예제를 활용할 분야를 제시하고자 한다.

영유아와 청소년의 얼굴표정기반 감정인식 성능분석 (Performance Comparison of Emotion Recognition using Facial Expressions of Infants and Adolescents)

  • 노하진;임유진
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2022년도 추계학술발표대회
    • /
    • pp.700-702
    • /
    • 2022
  • 코로나 바이러스-19 감염증 상황이 지속됨에 따라 영유아 비대면 상담이 증가하였다. 비대면이라는 제한된 환경에서, 보다 정확한 상담을 위해 영유아의 감정을 예측하는 보조도구로써 CNN 학습모델을 이용한 감정분석 결과를 활용할 수 있다. 하지만, 대부분의 감정분석 CNN 모델은 성인 데이터를 위주로 학습이 진행되므로 영유아의 감정인식률은 상대적으로 낮다. 본 논문에서는 영유아와 청소년 데이터의 감정분석 정확도 차이의 원인을 XAI 기법 중 하나인 LIME을 사용해 시각화하여 분석하고, 분석 결과를 근거로 영유아 데이터에 대한 감정인식 성능을 향상시킬 수 있는 방법을 제안한다.

시간대를 고려한 SHAP 기반의 신용카드 이상 거래 탐지 (Credit Card Fraud Detection Based on SHAP Considering Time Sequences)

  • 양소연 ;임유진
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.370-372
    • /
    • 2023
  • 신용카드 부정 사용은 고객 및 기업의 신용과 재산에 막대한 손실을 미치고 있다. 이에 따라 금융사들은 이상금융거래탐지시스템을 도입하였으나 이상 거래 발생 여부를 지속적으로 모니터링하고 있기 때문에 시스템 유지에 많은 비용이 따른다. 따라서 본 논문에서는 컴퓨팅 리소스를 절약함과 동시에 성능 개선 효과를 보인 신용카드 이상 거래 탐지 알고리즘을 제안한다. CTGAN 을 활용하여 정상 거래와 이상 거래의 비율을 일부 완화하였고 XAI 기법인 SHAP 를 활용하여 유의미한 속성값을 선택하였다. 이것을 기반으로 LSTM Autoencoder를 사용하여 이상데이터를 탐지하였다. 그 결과 전통적인 비지도 학습 기법에 비해 제안 알고리즘이 우수한 성능을 보였음을 확인하였다.

초등 인공지능 교육을 위한 설명 가능한 인공지능의 교육적 의미 연구 (A Study on the Educational Meaning of eXplainable Artificial Intelligence for Elementary Artificial Intelligence Education)

  • 박다빈;신승기
    • 정보교육학회논문지
    • /
    • 제25권5호
    • /
    • pp.803-812
    • /
    • 2021
  • 본 연구는 문헌 연구 통해 설명 가능한 인공지능의 개념과 문제해결과정을 탐구하였다. 본 연구를 통하여 설명 가능한 인공지능의 교육적 의미와 적용 방안을 제시하였다. 설명 가능한 인공지능 교육이란 인간과 관련된 인공지능 문제를 다루는 사람 중심의 인공지능 교육으로 학생들은 문제 해결 능력을 함양할 수 있다. 그리고, 알고리즘 교육을 통해 인공지능의 원리를 이해하고 실생활 문제 상황과 관련된 인공지능 모델을 설명하며 인공지능의 활용분야까지 확장할 수 있다. 이러한 설명 가능한 인공지능 교육이 초등학교에서 적용되기 위해서는 실제 삶과 관련된 예를 사용해야 하며 알고리즘 자체가 해석력을 지닌 것을 활용하는 것이 좋다. 또한, 이해가 설명으로 나아가기 위해 다양한 교수학습방법 및 도구를 활용해야 한다. 2022년 개정 교육과정에서 인공지능 도입을 앞두고 본 연구가 실제 수업을 위한 기반으로써 의미 있게 활용되기를 바란다.

인공지능 스토리텔링(AI+ST) 학습 효과에 관한 사례연구 (A Case Study on the Effect of the Artificial Intelligence Storytelling(AI+ST) Learning Method)

  • 여현덕;강혜경
    • 정보교육학회논문지
    • /
    • 제24권5호
    • /
    • pp.495-509
    • /
    • 2020
  • 본 연구는 인공지능(이하 AI)이 모든 영역에 전일적으로 확산되는 시점을 맞아 비전공자들도 AI를 효과적으로 학습하는 방안을 탐색하기 위한 하나의 시론적 연구이다. AI 교육을 수학, 통계, 컴퓨터공학 전공 학생들뿐만 아니라 인문·사회과학 등 다른 전공자들도 쉽게 접근할 수 있도록 하기 위한 학습법을 탐색하고자 하였다. 마침 '설명 가능한 AI(XAI: eXplainable AI)'의 필요성과 MIT AI 연구소의 Patrick Winston의 '지각 있는 기계(AI)를 위한 스토리텔링의 중요성[33]'이 두드러진 상황에서 AI 스토리텔링 학습모델 연구의 의의를 찾을 수 있겠다. 이를 위해 본 연구는 우선 대구 소재 A 대학교의 학생들을 대상으로 그 가능성을 테스트하였다. 먼저 AI 스토리텔링(AI+ST) 학습법[30]의 교육목표, AI 교육내용의 체계와 학습방법론, 새로운 AI 도구의 소개 및 활용에 대해 살펴보고, 1) AI+ST 학습법이 알고리즘 중심의 학습법을 보완할 수 있는지, 2) AI+ST 학습법이 학생들에게도 효과가 있는지, 그리하여 AI 이해력, 흥미도, 응용력 배양에 도움이 되었는지에 관한 연구 질문을 중심으로 학습자들의 결과물을 비교 분석하였다.