https://arxiv.org/abs/2106.07998
Revisiting the Calibration of Modern Neural Networks (Matthias Minderer, Josip Djolonga, Rob Romijnders, Frances Hubis, Xiaohua Zhai, Neil Houlsby, Dustin Tran, Mario Lucic)
이미지 분류 모델의 캘리브레이션 평가. 생각보다 잘 캘리브레이션 되어있다는 것 & 그리고 역시나 vit가 좋은 모습을 보여준다는 결과. 또한 mixer 같은 mlp 모델도 결과가 좋네요. mlp 기반 모델도 트랜스포머와 비슷한 특성을 보여주는 것이 아닌가 하는 생각도 듭니다.
#vit #mlp #calibration