한국정보처리학회:학술대회논문집 (Proceedings of the Korea Information Processing Society Conference)

한국정보처리학회 (Korea Information Processing Society)
권호 표지

XAI 를 활용한 적대적 공격 탐지 연구 동향 분석

Research trend analysis on adversarial attack detection utilizing XAI

  • 전아영 (성신여자대학교 융합보안공학과) ;
  • 이연지 (성신여자대학교 융합보안공학과) ;
  • 이일구 (성신여자대학교 융합보안공학과)
  • A-Young Jeon (Department of Convergence Security Engineering, Sungshin Women's University) ;
  • Yeon-Ji Lee (Department of Convergence Security Engineering, Sungshin Women's University) ;
  • Il-Gu Lee (Department of Convergence Security Engineering, Sungshin Women's University)
  • 발행 : 2024.05.23
PDF 다운로드
⟨ 이전 논문 다음 논문 ⟩

초록

인공지능 기술은 사회 전반에 걸쳐 다양한 분야에서 활용되고 있다. 그러나 인공지능 기술의 발전과 함께 인공지능 기술을 악용한 적대적 공격의 위험성도 높아지고 있다. 적대적 공격은 작은 왜곡으로도 의료, 교통, 커넥티드카 등 인간의 생명과 안전에 직결되는 인공지능 학습 모델의 성능에 악영향을 미치기 때문에 효과적인 탐지 기술이 요구되고 있다. 본 논문에서는 설명 가능한 AI 를 활용한 적대적 공격을 탐지하는 최신 연구 동향을 분석한다.

키워드

과제정보

본 논문은 2024 년도 산업통상자원부 및 한국산업기술진흥원의 산업혁신인재성장지원사업 (RS-2024-00415520)과 과학기술정보통신부 및 정보통신기획평가원의 ICT 혁신인재 4.0 사업의 연구결과로 수행되었음 (No. IITP-2022-RS-2022-00156310)

참고문헌

  1. Qiu, Shilin, et al. "Review of artificial intelligence adversarial attack and defense technologies," Applied Sciences, volume. 9, no. 5, 2019.
  2. Chakraborty, Anirban, et al. "A survey on adversarial attacks and defences," CAAI Transactions on Intelligence Technology, volume. 6, no. 1, pp. 25-45, 2021.
  3. Ben Pinhasov, Raz Lapid, Rony Ohayon, Moshe Sipper and Yehudit Aperstein, "XAI-Based Detection of Adversarial Attacks on Deepfake Detectors," Cryptography and Security, Mar, 2024..
  4. Chase Walker, Dominic Simon, Sumit Kumar Jha and Rickard Ewetz, "Adversarial Pixel and Patch Detection Using Attribution Analysis," MILCOM 2023 - 2023 IEEE Military Communications Conference (MILCOM), usa, Oct, 2023.