DOI QR코드

DOI QR Code

A Research on Explainability of the Medical AI Model based on Attention and Attention Flow Graph

어텐션과 어텐션 흐름 그래프를 활용한 의료 인공지능 모델의 설명가능성 연구

  • 이유진 (한양대학교 컴퓨터.소프트웨어학과) ;
  • 채동규 (한양대학교 컴퓨터.소프트웨어학과)
  • Published : 2022.11.21

Abstract

의료 인공지능은 특정 진단에서 높은 정확도를 보이지만 모델의 신뢰성 문제로 인해 활발하게 쓰이지 못하고 있다. 이에 따라 인공지능 모델의 진단에 대한 원인 설명의 필요성이 대두되었고 설명가능한 의료 인공지능에 관한 연구가 활발히 진행되고 있다. 하지만 MRI 등 의료 영상 인공지능 분야에서 주로 진행되고 있으며, 이미지 형태가 아닌 전자의무기록 데이터 (Electronic Health Record, EHR) 를 기반으로 한 모델의 설명가능성 연구는 EHR 데이터 자체의 복잡성 때문에 활발하게 진행 되지 않고 있다. 본 논문에서는 전자의무기록 데이터인 MIMIC-III (Medical Information Mart for Intensive Care) 를 전처리 및 그래프로 표현하고, GCT (Graph Convolutional Transformer) 모델을 학습시켰다. 학습 후, 어텐션 흐름 그래프를 시각화해서 모델의 예측에 대한 직관적인 설명을 제공한다.

Keywords

Acknowledgement

이 논문은 2022 년도 정부(과학기술정보통신부)의 재원으로 (1) 한국연구재단 바이오. 의료기술개발사업의 지원 (No. NRF-2021M3E5D2A01021156)과 (2) 정보통신기획평가원의 지원을 받아 수행된 연구임 (No.2020-0-01373,인공지능대학원지원(한양대학교))