빠르고 정확한 암호화된 신경망 연산을 위한 중간 데이터를 활용한 근사식 생성 기술

Intermediate Data Guided Approximation for Fast and Accurate Encrypted Neural Networks

  • 남기빈 (서울대학교 전기정보공학부, 서울대학교 반도체 공동연구소) ;
  • 주유연 (서울대학교 전기정보공학부, 서울대학교 반도체 공동연구소) ;
  • 하승진 (서울대학교 전기정보공학부, 서울대학교 반도체 공동연구소) ;
  • 백윤흥 (서울대학교 전기정보공학부, 서울대학교 반도체 공동연구소)
  • Kevin Nam (Dept. of Electrical and Computer Enginering and Inter-University Semiconductor Research Center(ISRC), Seoul National University) ;
  • Youyeon Joo (Dept. of Electrical and Computer Enginering and Inter-University Semiconductor Research Center(ISRC), Seoul National University) ;
  • Seungjin Ha (Dept. of Electrical and Computer Enginering and Inter-University Semiconductor Research Center(ISRC), Seoul National University) ;
  • Yunheung Paek (Dept. of Electrical and Computer Enginering and Inter-University Semiconductor Research Center(ISRC), Seoul National University)
  • 발행 : 2024.10.31

초록

동형암호는 프라이버시 보존형 신경망 연산을 가능캐한다. 하지만 동형암호는 비산술연산을 직접 연산하지 못해 근사식을 활용하는데, 신경망 정확도 하락을 일으킨다. 이를 극복하기 위해 재학습, Neural Architecture Search 등 방법들이 등장했지만, 큰 소요시간을 필요로 한다. 본 연구는 이 둘보다 빠르면서도 정확도 하락을 적게 일으키는 중간값 유도 근사식 생성 기술을 제안한다.

키워드

과제정보

이 논문은 연구 수행에 있어 2024년도 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원과(RS-2023-00277326) 정보통신기획평가원의 지원을받아 수행된 연구이며 (No.2021-0-00528, No.RS-2023-00277060, IITP-2023-RS-2023-00256081) 2024년도 BK21 FOUR 정보기술 미래인재 교육연구단, 반도체 공동연구소 지원의 결과물이다. 또한, 연구장비를 지원하고 공간을 제공한 서울대학교 컴퓨터연구소에 감사드린다.

참고문헌

  1. Lee, Eunsang, et al. "Low-complexity deep convolutional neural networks on fully homomorphic encryption using multiplexed parallel convolutions." International Conference on Machine Learning. PMLR, 2022.
  2. Kim, Donghwan, et al. "HyPHEN: A Hybrid Packing Method and Its Optimizations for Homomorphic Encryption-Based Neural Networks." IEEE Access (2023).
  3. CHEON, Jung Hee, et.al. "Homomorphic encryption for arithmetic of approximate numbers", ASIACRYPT 2017, Hong Kong, China, December 3-7, 2017, p. 409-437.
  4. CHILLOTTI, et.al. "TFHE: fast fully homomorphic encryption over the torus", Journal of Cryptology, 2020, 33.1: 34-91.
  5. Ao, Wei, and Vishnu Naresh Boddeti. "{AutoFHE}: Automated Adaption of {CNNs} for Efficient Evaluation over {FHE}." 33rd USENIX Security Symposium (USENIX Security 24). 2024.
  6. Francois Chollet. Keras. https://keras.io, 2015.
  7. Weiss, Karl, Taghi M. Khoshgoftaar, and DingDing Wang. "A survey of transfer learning." Journal of Big data 3 (2016): 1-40.