모델 판단 근거 설명

Gradient Map(Saliency Map)

CAM(Class Activation Mapping)

Grad-CAM

Grad-CAM ++

<aside> 💡 cam 문제점 Shattered Gradient Problem

  1. 모델이 깊어질 수록, gradient는 Noisy해진다.
  2. 인접한 두 픽셀간의 gradient가 연속적이지 않음.

</aside>

LRP

Relevance-CAM(R-CAM)

장점 단점
Gradient Map 1. 한번에 구할 수 있음
  1. 결과가 원본이미지와 같음 | 1. noize
  2. bad localization | | CAM | 1. 설명력 좋음
  3. good localization | 1. global average pooling필수
  4. FC layer 1개 제한 | | Grad-CAM | 1. high localization
  5. network 구조에 따른 제한 없음 | 1. 대상의 일부만 표현 | | Grad-CAM++ | 1. Grad-CAM보다 넓은 영역, 더 많은 object 출력 | 1. 다른 class의 object까지 localization하는 경향 | | LRP | 1. high localization | 1. input layer까지 계산하므로 속도 저하 | | Relevance-CAM | 1. 어떤 깊이에 있는 layer라도 분석이 가능
  6. 고해상도이며 좋은 localization 성능을 보여줌.
  7. R-CAM을 통해서 shallow layer도 class specific features를 추출할 수 있음을 분석함. | |