스터디/인공지능 논문 읽기3 논문 요약하기 : Zeroth Order Optimization (ZOO) 제목 ZOO: Zeroth Order Optimization Based Black-box Attacks to Deep Neural Networks without Training Substitute Models -> 학습 치환 모델 없이 DNN 에 대한 블랙 박스 기반 제로스 오더 최적화 공격 요약 심층신경망(Deep Neural Network)은 오늘날 최고의 기술로 이미지 분류,텍스트 마이닝, 스피치 프로세스에 국한하지 않고 발전하고 있다. 하지만 최근 DNN에 연구에 따르면 보안에서 adversarial example 에 의한 취약점에 관한 우려가 커지고 있다고 합니다. 특히 자율 주행을 위한 교통 표지판 식별과 같은 영역에서 취약하다고 합니다. 이 연구에서는 잘 학습된 DNN이 adversarial.. 2020. 11. 20. 과제1. 머신러닝 강의 듣고 요약하기 강의는 모두를 위한 머신러닝이다. hunkim.github.io/ml/ 모두를 위한 머신러닝/딥러닝 강의 hunkim.github.io Lecture1. 머신러닝 기초 - ML이란? - Learning 이란? - regression 이란? - classification 이란? 머신러닝이란? - 프로그래밍으로는 하기 어려운 동작을 해결하기 위해 1959년 Arthur Samuel 에 의해 탄생 학습이란? Supervised/ UnSupervised 로 나뉘어지는데 Supervised 는 학습 데이터셋이 이미 label 되어 있는 것이다. 예를 들면 강아지/고양이/원숭이 사진이 각각 100개씩 이미 레이블화가 되어 있다는 거다. 아래의 그림을 통해 제대로 살펴볼 수 있다. 반대로 Unsupervised le.. 2020. 10. 28. [논문읽기스터디]1.Adversarial Attack 개요 인공지능 보안의 취약점 -Adversrial Attacks & Defenses 머신러닝은 다양한 분야에서 뛰어난 성능을 보여주고 있지만 악의적인 데이터로 인해 오동작을 하는 등 Adversarial Attack 에 매우 취약 Adversarial Attack 유형 Poisoning Attack - 잘못된 학습 데이터를 주입하여 오동작 발생하게 하는 공격 Evasion Attack -가장 연구가 활발히 일어나는 분야 학습 단계가 아닌 분류 단계에서 데이터를 변조하여 오동작 발생하게 하는 공격 Model Extracion Attack - 인공지능의 동작을 모사하여 정보를 추출하는 등의 공격 Inversion Attack -반복적으로 질의하여 학습에 사용된 데이터를 추출하여 정보의 프라이버시를 침해하는 공격 .. 2020. 10. 28. 이전 1 다음
