반응형 AI1 인공지능을 보호하는 적대적(Adversarial) AI 기술 22.04.27 이규영 멘토님 적대적 샘플(adversarial sample) 사람 눈에는 제대로 잘못된걸로 보이지 않지만 컴퓨터는 잘못 인식하도록 데이터를 악의적으로 조작한 것 공격 종류 non targeted attack vs. targeted attack GAN 랜덤한 노이즈가 들어오든, 실제 사진과 유사한 데이터가 들어오든 식별자 모델은 식별 결과에 상관없이 항상 정답을 1로 가르친다. 계속 학습을 하다보면 식별자가 식별결과를 1로 냄 생성자가 식별자를 속일 만큼 우수한 성능을 가지게 됨 ‼️ 식별자의 파라미터는 갱신되지 않음 ⇒ 따로 학습 X 💥 생성자만 학습을 계속함 💥 ⇒ 식별자가 식별결과를 1로 낼 수 있도록 (생성자가 이김) 관련 프로젝트 주제 Defense-GAN 새로운 생성 데이터를 .. 2023. 3. 17. 이전 1 다음 728x90