현재 Deep Learning 기법은 다양한 분야에 적용되고 있으며 매우 높은 성능을 보이고 있다. 그러나, Deep Learning 모델이 단순히 정확도가 높다고 하여 현실에 사용될 수 있는 것은 아니다. 이번 세미나에서는 고려해야할 다양한 문제 중, 학습된 모델에 주어지는 입력에 관한 Adversarial attack과 Out-of-distribution 문제에 대해서 살펴 본다. Adversarial attack은 모델을 오동작시키기 위해서 의도적 노이즈를 섞는 공격방법으로, 어떤 데이터에 매우 작은 노이즈를 섞어 모델의 출력을 바꾸는 방법이다. 이러한 공격으로 생성된 데이터는, 인간은 원본 데이터와 생성된 데이터를 구분할 수 없을 정도로 비슷하지만 모델은 다른 출력을 생성하게 된다. 두번째 문제인 Out-of-distribution의 문제는 학습시 사용했던 데이터와 분포가 전혀 다른 데이터가 입력을 주어지는 것을 의미한다. 예를 들어 고양이와 개의 이미지를 구분하도록 학습된 모델에 말의 이미지를 입력하면, 모델은 이를 구분하지 못하고 무조건 고양이 혹은 개로 구분하게 된다. Deap Learning 모델이 현실에 사용되기 위해서는 이러한 입력의 의도적 변형 혹은 예외적 입력에 강인해야 한다. 이번 세미나에서는 앞서 언급한 두 문제의 정의와, 왜 Deep Learning 모델에서 그러한 문제가 야기되는지, 막을 수 있는 방법에는 무엇이 있는지 등에 대해서 살펴본다.