Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)

  • 2023.05a
  • /
  • Pages.582-584
  • /
  • 2023
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

A Study on Backdoor Attack against Vertical Federated Learning

수직 연합학습에서의 백도어 공격 연구

  • Yun-gi Cho (Dept. of Electrical and Computer Engineering and Inter-university Semiconductor Research Center, Seoul National University) ;
  • Hyun-jun Kim (Dept. of Electrical and Computer Engineering and Inter-university Semiconductor Research Center, Seoul National University) ;
  • Woo-rim Han (Dept. of Electrical and Computer Engineering and Inter-university Semiconductor Research Center, Seoul National University) ;
  • Yun-heung Paek (Dept. of Electrical and Computer Engineering and Inter-university Semiconductor Research Center, Seoul National University)
  • 조윤기 (서울대학교 전기정보공학과, 반도체연구소) ;
  • 김현준 (서울대학교 전기정보공학과, 반도체연구소) ;
  • 한우림 (서울대학교 전기정보공학과, 반도체연구소) ;
  • 백윤흥 (서울대학교 전기정보공학과, 반도체연구소)
  • Published : 2023.05.18
Download PDF
⟨ Previous Next ⟩

Abstract

연합학습(Federated Learning)에서는 여러 참가자가 서로 간의 데이터를 공유하지 않고 협력하여 하나의 모델을 학습할 수 있다. 그 중 수직 연합학습(Vertical Federated Learning)은 참가자 간에 동일한 샘플에 대해 서로 다른 특성(Feature)를 가지고 학습한다. 또한 서로 다른 특성(Feature)에는 입력의 라벨(Label)도 포함하기 때문에 라벨을 소유한 참가자 외에는 라벨 정보 또한 접근할 수 없다. 이처럼 다양한 참가자가 학습에 참여하는 경우 악의적인 참가자에 의해 모델이 포이즈닝 될 여지가 존재함에도 불구하고 수직 연합학습에서는 관련 연구가 부족하다. 포이즈닝 공격 중 백도어 공격은 학습 과정에 관여하여 특정 입력 패턴에 대해서 모델이 공격자가 원하는 타겟 라벨로 예측하도록 오염시키는 공격이다. 수직 연합학습에서는 참가자가 학습과 추론 모든 과정에서 관여하기 때문에 백도어 공격에 취약할 수 있다. 본 논문에서는 수직 연합학습에서의 최신 백도어 공격과 한계점에 대해 분석한다.

Keywords

Acknowledgement

이 논문은 2023년도 BK21 FOUR 정보기술 미래 인재 교육연구단에 의하여 지원되었음. 본 연구는 과학기술정보통신부 및 정보통신기획평가원의 대학ICT연구센터육성지원사업의 연구결과로 수행되었음" (IITP-2023-2020-0-01602). 이 논문은 2022년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임(No. 2023-0-00516, 국가통계데이터에 적용 가능한 차등정보보호 개념을 도출하고 통계분석의 유용성을 보장해야 하는 문제 해결)