Privacy-Preserving Federated Learning in Decentralized Environments

분산 환경에서 개인 정보를 보호하는 연합 학습

  • Jun-Yong Yoon (School of Computer Science and Engineering, Soongsil University) ;
  • Bong-Jun Choi (School of Computer Science and Engineering, Soongsil University)
  • 윤준용 (숭실대학교 컴퓨터학과) ;
  • 최봉준 (숭실대학교 컴퓨터학과)
  • Published : 2024.05.23

Abstract

현대 사회에서 인공지능은 다양한 분야에서 사용되며 발전하고 있다. 특히 의료, 공업, 경제, 농업, 정치 등에 영향을 미치며, 데이터 프라이버시 문제가 빈번히 발생한다. 이를 해결하기 위해 연합학습이 제안되었는데, 이는 로컬 디바이스에서 학습한 모델만을 중앙 서버로 전송하여 프라이버시를 보장하고 효율성을 높인다. 하지만 연합학습은 중앙 서버를 필요로 하므로 탈중앙적인 환경에서는 사용할 수 없는 단점이 있다. 이를 보완하기 위해 본 논문에서는 서버가 없는 다양한 환경에서 연합학습을 적용할 수 있는 비-완전 연결 분산형 연합학습 알고리즘을 소개한다. 비-완전 연결 분산형 연합학습 알고리즘은 모든 노드가 서로 연결 되어있는 상태가 아닌 특정 노드와만 연결 되어있는 형태로 대부분의 실전 분산형 환경에서 사용할 수 있다. 본 방식의 학습 정확도는 일반적인 머신러닝의 정확도와 비교하여 준수한 성능을 보여주고 있다.

Keywords

Acknowledgement

본 성과는 과학기술정보통신부의 재원으로 한국연구재단의 지원을 받아 수행된 연구이며(NRF-2022R1A2C4001270), 과학기술정보통신부 및 정보통신기획평가원의 대학ICT연구센터육성지원사업의 연구결과로 수행되었음(IITP-2022-2020-0-01602).

References

  1. McMahan, Brendan, et al. "Communication-efficient learning of deep networks from decentralized data." Artificial intelligence and statistics. PMLR, 20-22 Apr, 2017.
  2. Lalitha, Anusha, et al. "Fully decentralized federated learning." Third workshop on bayesian deep learning (NeurIPS). Dec. 2018.
  3. E. T. Martinez Beltran et al., "Decentralized Federated Learning: Fundamentals, State of the Art, Frameworks, Trends, and Challenges," in IEEE Communications Surveys & Tutorials, vol. 25, no. 4, pp. 2983-3013, Fourthquarter 2023,
  4. Kalra, Shivam, et al. "Decentralized federated learning through proxy model sharing." Nature communications 14.1 (2023): 2899.