최근 의료기관, 사회 인프라, 농업 등 다양한 분야에서 방대하고 다양한 데이터 해석으로 인공지능(AI)의 활용이 진행되고 있다.반면에 도로 표지판에 작은 스티커를 붙여 AI가 다른 표식으로 잘못 인식하는 등 약간의 변화시킨 공격 데이터를 사용하여 AI 모델을 의도적으로 속여 AI의 올바른 판단을 방해하려고 하는 등의 요인들은 AI 활용에 불안 요소로 작용되고 있다. 또 그것을 방지하기 위해 학습 데이터에 미리 작성된 모의 위장 공격 데이터를 추가하여 만일 공격당할 경우에도 AI 모델이 속지 않도록 학습시키는 적대적 학습 기술을 제안
출처 : 인공지능신문 – 전체기사
