• Proceedings of the Korea Information Processing Society Conference
• /
• 2024.05a
• /
• pp.590-591
• /
• 2024

최근에 개인 데이터의 프라이버시가 중요해 지면서, 딥러닝 분야에서 개인 데이터 프라이버시 보호할 수 있는 연합학습 기술이 주목받고 있다. 특히 5G MEC나 블록체인 환경과 같이 통신 부하 및 지연 시간이 중요한 영역에서 연합학습 모델의 전송 비용 감소에 관한 연구가 활발히 진행 중이다. 본 논문에서는 연합학습 과정에서 효율적인 모델 전송을 위해 레이어 단위로 모델을 전송하는 기법을 제안한다. 실험 결과를 통해, 레이어 단위로 전송함으로써, 전송 데이터는 66% 줄어들 수 있지만, 정확도 변화는 1% 이내임을 확인하였다.

• KIPS Transactions on Computer and Communication Systems
• /
• v.9 no.12
• /
• pp.321-332
• /
• 2020

Decentralized approaches are extensively researched by academia and industry in order to cover up the flaws of existing systems in terms of data privacy. Blockchain and decentralized learning are prominent representatives of a deconcentrated approach. Blockchain is secure by design since the data record is irrevocable, tamper-resistant, consensus-based decision making, and inexpensive of overall transactions. On the other hand, decentralized learning empowers a number of devices collectively in improving a deep learning model without exposing the dataset publicly. To motivate participants to use their resources in building models, a decent and proportional incentive system is a necessity. A centralized incentive mechanism is likely inconvenient to be adopted in decentralized learning since it relies on the middleman that still suffers from bottleneck issues. Therefore, we design an incentive model for decentralized learning applications by leveraging the Ethereum smart contract. The simulation results satisfy the design goals. We also outline the concerns in implementing the presented scheme for sensitive data regarding privacy and data leakage.

• Journal of the Korea Institute of Information Security & Cryptology
• /
• v.31 no.5
• /
• pp.987-999
• /
• 2021

Recently, Federated learning has become an issue due to privacy invasion caused by data. Federated learning is safe from privacy violations because it does not need to be collected into a server and does not require learning data. As a result, studies on application methods for utilizing distributed devices and data are underway. However, Federated learning is no longer safe as research on the reconstruction attack to restore learning data from gradients transmitted in the Federated learning process progresses. This paper is to verify numerically and visually how well data reconstruction attacks work in various data situations. Considering that the attacker does not know how the data is constructed, divide the data with the class from when only one data exists to when multiple data are distributed within the class, and use MNIST data as an evaluation index that is MSE, LOSS, PSNR, and SSIM. The fact is that the more classes and data, the higher MSE, LOSS, and PSNR and SSIM are, the lower the reconstruction performance, but sufficient privacy invasion is possible with several reconstructed images.

• Journal of Internet Computing and Services
• /
• v.25 no.2
• /
• pp.1-9
• /
• 2024

Although federated learning is designed to be safer than centralized methods in terms of security and privacy, it still has many vulnerabilities. An attacker performing an adversarial attack intentionally manipulates the deep learning model by injecting carefully crafted input data, that is, adversarial examples, into the client's training data to induce misclassification. A common defense strategy against this is so-called adversarial training, which involves preemptively learning the characteristics of adversarial examples into the model. Existing research assumes a scenario where all clients are under adversarial attack, but considering the number of clients in federated learning is very large, this is far from reality. In this paper, we experimentally examine aspects of adversarial training in a scenario where some of the clients are under attack. Through experiments, we found that there is a trade-off relationship in which the classification accuracy for normal samples decreases as the classification accuracy for adversarial examples increases. In order to effectively utilize this trade-off relationship, we present a method to perform adversarial training by adaptively selecting a loss function depending on whether the client is attacked.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2023.05a
• /
• pp.224-226
• /
• 2023

본 논문에서는 연합학습 모델을 타겟으로 하는 특성 추론 공격 및 방어 기법과 관련된 연구들을 소개한다. 연합학습 시스템에 특화된 2가지 특성 추론 공격 및 이에 대한 방어 기법들에 대해 정리하고, 향후 연구 방향을 조망하고자 한다.

• The Transactions of the Korea Information Processing Society
• /
• v.13 no.2
• /
• pp.76-90
• /
• 2024

Although artificial intelligence (AI) can be utilized in various domains such as smart city, healthcare, it is limited due to concerns about the exposure of personal and sensitive information. In response, the concept of distributed machine learning has emerged, wherein learning occurs locally before training a global model, mitigating the concentration of data on a central server. However, overall learning phase in a collaborative way among multiple participants poses threats to data privacy. In this paper, we systematically analyzes recent trends in privacy protection within the realm of distributed machine learning, considering factors such as the presence of a central server, distribution environment of the training datasets, and performance variations among participants. In particular, we focus on key distributed machine learning techniques, including horizontal federated learning, vertical federated learning, and swarm learning. We examine privacy protection mechanisms within these techniques and explores potential directions for future research.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2024.05a
• /
• pp.902-904
• /
• 2024

엣지-클라우드 통신네트워크에서의 지속 가능한 사이버 보안 솔루션을 개발하기 위한 연구는 중요성을 갖는다. 최근의 기술 발전으로 인해 엣지 디바이스와 클라우드 서비스 간의 통신이 활발해지면서 보안 위협이 증가하고 있다. 이에 따라 연합 강화 학습과 같은 첨단 기술을 활용하여 보안 취약점을 탐지하고 대응하는 것이 중요하다. 본 논문에서는 엣지-클라우드 환경에서의 보안 취약점을 식별하고 대응하기 위해 연합 강화 학습을 기반으로 한 솔루션을 제안한다. 이를 통해 네트워크의 안전성을 보장하고 사이버 공격에 대응할 수 있는 기술을 개발하기 위해, 엣지-클라우드 환경에서의 보안 취약점을 식별하고 대응하기 위해 연합 강화 학습 기반으로 한 솔루션을 소개한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2024.05a
• /
• pp.333-336
• /
• 2024

스마트팩토리는 기존 제조산업에 ICT 기술이 융합된 지능형 공장이다. 이는 IT(Information Technology)영역과 OT(Operation Technology)으로 구분되고, 영역 간 연결을 통해 제조공정 자동화 및 지능화를 수행한다. IT영역은 외부 네트워크와 연결되어 스마트팩토리의 전사업무 관리를 수행하며, OT영역은 폐쇄망 네트워크로 구성되어 직접적인 제조과정을 수행한다. 이는 2개의 영역으로 구분되어 자동화 및 지능화된 제조공정 과정을 수행함에 따라 구조가 복잡해지고 있으며, 이로 인해 스마트팩토리 보안위협이 발생 가능한 공격 표면이 증가하고 있다. 이에 대응하기 위해서는 스마트팩토리 IT영역과 OT영역의 특징을 분석하고, 영역별 적합한 보안위협 대응체계를 수립해야 한다. 이에 따라, 본 논문에서는 다수의 장치에 대한 학습이 용이하고, 세부적으로 학습기법을 구분할 수 있는 연합학습을 활용하여 스마트팩토리 영역별 적합한 보안위협 대응방안을 제안한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2022.05a
• /
• pp.658-660
• /
• 2022

본 논문은 개인의 정보를 외부로 유출하지 않고, 소비자 방송 수신 단말 장치에 저장된 데이터를 이용하여 머신 러닝 모델을 학습하고, 소비자가 원하는 맞춤 방송 정보를 제공하는 시스템을 구글의 연합 학습[1] 을 기반한 설계에 관한 것이다. 이를 위하여, 소비자 사용 패턴 및 행동 데이터를 수집하고 저장하며 머신 러닝 학습을 진행 하는 단말 구조와 단말에서 생성된 학습 모델 파라미터 정보를 수집하고 평균화 하는 중앙 서버의 구조를 연구하고, 연합 학습을 이용한 학습 정보를 이용하여 개인 맞춤형 방송 정보를 제공하는 시스템을 연구한다.

• Proceedings of the Korean Information Science Society Conference
• /
• 1998.10c
• /
• pp.48-50
• /
• 1998

반복적 죄수의 딜레마(Iterated Prisoner's Dilemma, IPD)게임은 사회적, 경제적, 그리고 생물학적 시스템에서 협동의 진화를 연구하기 위한 대상으로 사용되어져 왔다. 이제까지 이기적이며 합리적인 개체들 사이에서의 협동의 진화에 대한 완전한 이해를 위하여 게임자의 수와 협동의 관계, 기계학습의 일환으로서의 전략학습, 그리고 이득함수가 협동에 미치는 영향 등에 관한 많은 연구가 이루어져 왔다. 이 논문에서는 실험을 통해 이득함수에 따른 협동연합의 크기와 지역화가 NIPD(N-player IPD)게임에서 협동의 진화에 미치는 영향에 대해 밝히고자 한다. 시뮬레이션 결과 이득함수와 협동연합의 크기에 대한 실험에서는 협동개체에 대한 이득함수의 기울기가 배반개체에 대한 이득함수의 기울기보다 급하거나 최소 연합의 크기가 작을수록 협동연합의 정도가 높게 나타남을 알 수 있었다. 그리고 지역화 실험에서는 상호작용하는 이웃의 크기가 작을수록 협동연합의 크기가 크게 진화됨을 알 수 있었다.