• Journal of the Korea Society of Computer and Information
• /
• v.27 no.5
• /
• pp.55-67
• /
• 2022

Sensor data can provide fault diagnosis for equipment. However, the cause analysis for fault results of equipment is not often provided. In this study, we propose an explainable convolutional neural network framework for the sensor-based time series classification model. We used sensor-based time series dataset, acquired from vehicles equipped with sensors, and the Wafer dataset, acquired from manufacturing process. Moreover, we used Cycle Signal dataset, acquired from real world mechanical equipment, and for Data augmentation methods, scaling and jittering were used to train our deep learning models. In addition, our proposed classification models are convolutional neural network based models, FCN, 1D-CNN, and ResNet, to compare evaluations for each model. Our experimental results show that the ResNet provides promising results in the context of time series classification with accuracy and F1 Score reaching 95%, improved by 3% compared to the previous study. Furthermore, we propose XAI methods, Class Activation Map and Layer Visualization, to interpret the experiment result. XAI methods can visualize the time series interval that shows important factors for sensor data classification.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2022.11a
• /
• pp.603-605
• /
• 2022

추천시스템은 개개인의 성향에 따른 맞춤화 추천이 가능하기 때문에 음악, 영상, 뉴스 등 많은 분야에서 관심을 받고 있다. 일반적인 추천시스템 모델은 블랙박스 모델이기 때문에 추천 결과에 따른 원인 도출을 할 수 없다. 하지만 XAI 의 모델은 이러한 블랙박스 모델의 단점을 해결하고자 제안되었다. 그 중 KGAT 는 Attention Score 를 기반으로 추천 결과에 따른 원인을 알 수 있다. 이와 같은 AI, XAI 등의 딥 러닝 모델에서 각각의 활성화 함수는 상황에 따라 상이한 성능을 나타낸다. 이러한 이유로 인해 데이터에 맞는 활성화 함수를 적용해보는 다양한 시도가 필요하다. 따라서 본 논문은 XAI 추천시스템 모델인 KGAT 의 성능 개선을 위해 여러 활성화 함수를 적용해보고, 실험을 통해 수정한 모델의 성능이 개선됨을 보인다.

• Korean Journal of Remote Sensing
• /
• v.39 no.6_1
• /
• pp.1437-1449
• /
• 2023

The purpose of this study is to analyze whether pervious and impervious areas in urban areas affect tree growth. In order to determine the differences in the growth of six species of trees planted simultaneously, the effects of pervious and impervious surfaces on tree growth were analyzed using the Normalized Difference Vegetation Index (NDVI) produced using Sentinel-2 and sub-divided land cover map from the Ministry of Environment. For this purpose, the Geospatial eXplainable Artificial Intelligence(GeoXAI) concept was applied. As a result of the analysis, the explanatory power of the model was found to be the best when considering the area of land cover included in the 10m range for Pinus densiflora, the 20 m range for Zelkova Serrata, Metasequoia glyptostroboides, and Ginkgo biloba, the 30 m range for Platanus occidentalis, and the 40 m range for Yoshino cherry trees. In addition, the wider the pervious area, the more active the growth of trees,showing a positive correlation, and the wider the impervious area, such as nearby artificial ground, showed a negative correlation with tree growth. This shows that surrounding pervious and impervious areas affect the growth of trees and that the scope of influence varies depending on the tree species.

• Journal of Korean Society of Industrial and Systems Engineering
• /
• v.45 no.4
• /
• pp.1-7
• /
• 2022

Explainable AI (XAI) is an approach that leverages artificial intelligence to support human decision-making. Recently, governments of several countries including Korea are attempting objective evidence-based analyses of R&D investments with returns by analyzing quantitative data. Over the past decade, governments have invested in relevant researches, allowing government officials to gain insights to help them evaluate past performances and discuss future policy directions. Compared to the size that has not been used yet, the utilization of the text information (accumulated in national DBs) so far is low level. The current study utilizes a text mining strategy for monitoring innovations along with a case study of smart-farms in the Honam region.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2021.05a
• /
• pp.273-276
• /
• 2021

최근의 기계 학습 (딥러닝)은 기존의 전통적인 통계 분석 방법들에 비해 효율성과 정확도가 높은 장점이 있지만, 처리과정이 블랙박스와 같아 결과 값의 중요한 원인 또는 근거 요인을 찾기 어렵다는 단점을 가지고 있다. 이를 해결하기 위한 최근의 XAI (eXplainable AI) 연구를 기반으로 하여, 본 논문에서는 의료기관에서 전정기관의 이상을 판별하기 위해 수작업으로 이루어지고 있는 HIT (head impulse test) 테스트 결과를 자동화하고, 설득력 있는 신뢰도 검정을 위해, XAI 기반 DoWhy 프레임 워크를 사용하였다. 전정기관 이상으로 의심되는 환자의 동공 움직임을 optical flow 로 추적하고, 정상인과의 Wasserstein metric 의 DoWhy 검증을 통해 전정기관 이상 여부의 신뢰도 구간을 검정한다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2021.07a
• /
• pp.17-20
• /
• 2021

본 연구는 인원 계수에 딥러닝 알고리즘을 적용한다. 인원 계수는 안전 관리 분야, 상업 분야에 적용될 수 있다. 예를 들어, 건물 내 화재 발생 시, 계수된 인원을 활용하여 인명 피해를 최소화할 수 있다. 다른 예로, 유동인구 데이터를 기반으로 상권을 분석하여 경제적 효율성을 극대화할 수 있다. 이처럼 인원 데이터의 중요성이 증가함에 따라 인원 계수 연구도 활발하다. 그 예로, 객체 탐지(Object Detection) 같은 딥러닝 기반 인원 계수, 센서 기반 인원 계수 등이 있다. 본 연구에선 딥러닝 알고리즘인 VGGNet을 사용하여 인원을 계수했다. 결과로 Mean Absolute Percentage Error(이하 MAPE)는 약 5.9%의 오차율을 보였다. 결과 확인 방법으로는 설명 가능한 인공지능(XAI) 알고리즘 중 하나인 Grad-CAM을 적용했다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2022.07a
• /
• pp.23-26
• /
• 2022

딥 러닝 모델은 블랙 박스 (Black Box) 모델로 예측에 대한 근거를 제시하지 못해 신뢰성이 떨어지는 단점이 존재한다. 이를 해결하기 위해 딥 러닝 모델에 설명력을 부여하는 설명 가능한 인공지능 (XAI) 분야 연구가 활발하게 이루어지고 있다. 본 논문에서는 모델 예측을 프로토타입을 통해 설명하는 딥 러닝 모델을 제시한다. 즉, "주어진 이미지는 티셔츠인데, 그 이유는 티셔츠를 대표하는 모양의 프로토타입과 닮았기 때문이다."의 형태로 딥 러닝 모델을 설명한다. 해당 모델은 Encoder, Prototype Layer, Classifier로 구성되어 있다. Encoder는 Feature를 추출하는 데 활용하고 Classifier를 통해 분류 작업을 수행한다. 모델이 제시하는 분류 결과를 설명하기 위해 Prototype Layer에서 가장 유사한 프로토타입을 찾아 설명을 제시한다. 실험 결과 프로토타입 생성 기반 설명 모델은 기존 이미지 분류 모델과 유사한 예측 정확도를 보였고, 예측에 대한 설명력까지 확보하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2023.05a
• /
• pp.609-611
• /
• 2023

4차 산업혁명의 발달로 스마트공장 기술이 발달하면서, 딥 러닝을 활용한 공정 과정에서 나타나는 이상을 탐지하는 기술이 활발히 연구되고 있다. 하지만 공정 과정에서 발생하는 휘발성유기화합물(VOCs) 저감 설비에서 발생하는 이상을 탐지하기 위한 연구는 적극적으로 진행되고 있지 않다. 따라서 본 논문에서는 딥 러닝 기술을 이용하여 VOCs 저감설비에서 발생하는 이상을 탐지하고, 설명가능 인공지능(XAI)을 활용하여 이상에 큰 영향을 미치는 주요 설비를 특정하여 이상 발생 시 관리자가 용이하게 설비들을 관리할 수 있도록 하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2023.05a
• /
• pp.590-591
• /
• 2023

최근 사람들의 건강에 대한 관심이 많아지고 다양한 운동 컨텐츠가 확산되면서 실내에서 운동을 할 수 있는 기회가 많아졌다. 하지만, 전문가의 도움없이 정확하지 않은 동작을 수행하다 큰 부상을 입을 위험성이 높다. 본 연구는 CNN 기반 요가 자세 분류 모델을 생성하고 설명가능 인공지능 기술을 적용하여 예측 결과에 대한 해석을 제시한다. 사용자에게 설명성과 신뢰성 있는 모델을 제공하여 자신에게 맞게 올바른 자세를 결정할 수 있고, 무리한 동작으로 부상을 입을 확률 또한 낮출 수 있을 것으로 보인다.

• Annual Conference on Human and Language Technology
• /
• 2023.10a
• /
• pp.609-614
• /
• 2023

최근 인공지능 시스템이 발전함에 따라 사람보다 높은 성능을 보이고 있다. 또한 전문 지식에 특화된 분야(질병 진단, 법률, 교육 등)에도 적용되고 있지만 이러한 전문 지식 분야는 정확한 판단이 중요하다. 이로 인해 인공지능 모델의 결정에 대한 근거나 해석의 중요성이 대두되었다. 이를 위해 설명 가능한 인공지능 연구인 XAI가 발전하게 되었다. 이에 착안해 본 논문에서는 기계독해 프레임워크에 순환 신경망 디코더를 활용하여 정답 뿐만 아니라 예측에 대한 근거를 추출하고자 한다. 실험 결과, 모델의 예측 답변이 근거 문장 내 등장하는지에 대한 실험과 분석을 수행하였다. 이를 통해 모델이 추론 과정에서 예측 근거 문장을 기반으로 정답을 추론한다는 것을 확인할 수 있었다.