Acknowledgement
본 논문은 과학기술정보통신부 정보통신창의인재양성사업의 지원을 통해 수행한 ICT 멘토링 프로젝트 결과물입니다.
Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)
- 2021.11a
- /
- Pages.1132-1135
- /
- 2021
- /
- 2005-0011(pISSN)
- /
- 2671-7298(eISSN)
DOI QR Code
A Study on AI Vaccine for the Defense against Adversarial Attack
적대적 공격의 방어를 위한 AI 백신 연구
- Song, Chae-Won (Dept. Internet of Things, Soonchunhyang University) ;
- Oh, Seung-A (Dept. Internet of Things, Soonchunhyang University) ;
- Jeong, Da-Yae (Dept. engineering of information technology, Jeonbuk National University) ;
- Lim, Yuri (Dept. Computer Engineering, Gachon University) ;
- Rho, Eun-Ji (Dept. of Physics, Gyeongsang National University) ;
- Lee, Gyu-Young (Lee-Ahn Professional Engineer's Office)
- 송채원 (순천향대학교 사물인터넷학과) ;
- 오승아 (순천향대학교 사물인터넷학과) ;
- 정다예 (전북대학교 IT 정보공학과) ;
- 임유리 (가천대학교 컴퓨터공학과) ;
- 노은지 (경상대학교 물리학과) ;
- 이규영 (리안기술사사무소)
- Published : 2021.11.04
Abstract
본 논문에서는 머신러닝 시스템에 심각한 오류를 발생시킬 수 있는 적대적 샘플을 제작하고, 이를 이용한 적대적 공격을 효과적으로 예방하고 방어할 수 있는 Adversarial Training 기반의 AI 백신을 개발하였으며, 본 논문이 제안하는 AI 백신이 적대적 샘플을 올바르게 인식하고 AI 공격 성공율을 현저하게 낮추는 등 강인성을 확보한 것을 실험을 통해 입증하였다. 아울러 스마트폰을 통해 수행결과를 확인할 수 있는 어플리케이션을 구현하여, 교육 및 시연 등을 통해 적대적 AI 공격에 대한 심각성을 인식하고 해당 방어과정을 명확히 이해할 수 있도록 하였다.
Keywords