A Study on Federated Learning of Non-IID MNIST Data

NoN-IID MNIST 데이터의 연합학습 연구

  • Joowon Lee (Dept. of Computer and Communications Engineering, Kangwon National University) ;
  • Joonil Bang (Dept. of Computer and Communications Engineering, Kangwon National University) ;
  • Jongwoo Baek (Dept. of Computer Science and Engineering, Kangwon National University) ;
  • Hwajong Kim (Dept. of Computer Science and Engineering, Kangwon National University)
  • 이주원 (강원대학교 IT대학 컴퓨터정보통신공학과) ;
  • 방준일 (강원대학교 IT대학 컴퓨터정보통신공학과) ;
  • 백종우 (강원대학교 IT대학 컴퓨터공학과) ;
  • 김화종 (강원대학교 IT대학 컴퓨터공학과)
  • Published : 2023.07.12

Abstract

본 논문에서는 불균형하게 분포된(Non-IID) 데이터를 소유하고 있는 데이터 소유자(클라이언트)들을 가정하고, 데이터 소유자들 간 원본 데이터의 직접적인 이동 없이도 딥러닝 학습이 가능하도록 연합학습을 적용하였다. 실험 환경 구성을 위하여 MNIST 손글씨 데이터 세트를 하나의 숫자만 다량 보유하도록 분할하고 각 클라이언트에게 배포하였다. 연합학습을 적용하여 손글씨 분류 모델을 학습하였을 때 정확도는 85.5%, 중앙집중식 학습모델의 정확도는 90.2%로 연합학습 모델이 중앙집중식 모델 대비 약 95% 수준의 성능을 보여 연합학습 시 성능 하락이 크지 않으며 특수한 상황에서 중앙집중식 학습을 대체할 수 있음을 보였다.

Keywords

Acknowledgement

본 과제(결과물)는 2023년도 교육부의 재원으로 한국연구재단의 지원을 받아 수행된 지자체-대학 협력기반 지역혁신 사업의 결과입니다. (2022RIS-005)