Security Issues and Countermeasures for Generative Artificial Intelligence

생성형 인공지능에 대한 보안 이슈와 대응 방안

  • Se Young Yuk (Dept. of Information Security, Pai Chai University) ;
  • Ah Reum Kang (Dept. of Information Security, Pai Chai University)
  • 육세영 (배재대학교 정보보안학과) ;
  • 강아름 (배재대학교 정보보안학과)
  • Published : 2024.01.17

Abstract

4차 산업 혁명의 시작으로 인공지능이 빠르게 발달함에 따라 현재 생성형 인공지능이 주목받고 있다. 이에 따라 딥보이스 기술과 딥페이크 기술을 활용하여 다양한 범죄가 발생하고 있어 관련 사례와 이를 해결하기 위해 진행 중인 연구에 대해서 조사하였다. 딥보이스와 딥페이크를 탐지하는 연구는 지속되고 있지만 관련 기술이 상용화되어 있지 않아 범죄를 예방하기에는 부족한 실정이다. 범죄에 악용되는 속도가 빨라지고 있는 만큼 더 많은 연구가 신속하게 이루어져야 한다.

Keywords

Acknowledgement

Following are results of a study on the "Convergence and Open Sharing System" Project, supported by the Ministry of Education and National Research Foundation of Korea.

References

  1. Sowoon Kim, Sungtaek Lee, "Development of Voice Phishing Damage Prevention Service Misusing Deep," The Journal of Korean Institute of Communications and Information Sciences, Vol. 47, No. 10, pp. 1677-1685, Oct 2022. https://doi.org/10.7840/kics.2022.47.10.1677
  2. Anupama Chadha, Vaibhav Kumar, Sonu Kashyap, Mayank Gupta, "Deepfake: An Overview," Proceedings of Second International Conference on Computing, Communications, and Cyber-Security, Vol. 203, pp. 557-566, May 2021.
  3. Seung-Woo Han, Seong-Hun Han, Seong-Min You, Dong-Ho Song, Chang-Jin Seo, "A Study on the Development of Deep Learning-Based Deep Voice Detection System Using Mel-Spectrogram and MFCC," The Transaction of The Korean Institute of Electrical Engineers, Vol. 72P, No. 3, pp. 186-192, Sept 2023.
  4. Dae-hyeon Lee, Jong-sub Moon, "A Method of Detection of Deepfake Using Bidirectional Convolutional LSTM," Journal of The Korea Institute of Information Security and Cryptology, Vol. 30, No. 6, pp. 1053-1065, Dec 2020.
  5. Seok Bin Son, Hee Hyeon Jo, Hee Yoon Kang, Byung Gul Lee, Youn Kyu Lee, "A Comparative Study on Deepfake Detection using Gray Channel Analysis," Journal of Korea Multimedia Society, Vol. 24, No. 9, pp. 1224-1241, Sept 2021.