Skip to content

(05.01 05.02 dongwoo) various backbones, models

Jump to bottom
ddooom edited this page May 3, 2021 · 3 revisions

05.01

모델 weight img size 배치 시드 time/epoch epoch loss train_loss val_loss val_mIoU LB score config
PSPNet_resnext101_32x8d swsl 256 8 7 59s 15 IoU+CE 0.183 0.499 0.356 0.4689 config11
FPN_efficientnet_b5 imagenet 256 8 7 97s 17 IoU+CE 0.220 0.469 0.406 0.5120 config12
DLV3+_efficientnet_b5 imagenet 256 8 7 1660s 16 IoU+CE 0.169 0.439 0.412 0.5361 config13
DLV3_resnext101_32x8d swsl 256 8 7 417s 14 IoU+CE 0.141 0.398 0.459 0.5736 config14
PAN_resnext101_32x8d instagram 256 8 7 173s 13 IoU+CE 0.172 0.398 0.454 0.5833 config15
Linknet_resnext101_32x8d instagram 256 8 7 135s 19 IoU+CE 0.272 0.500 0.350 0.4086 config16

저는 smp에서 efficientnet이 gpu로 돌아가는 것 같습니다. 매우 느리지만...

주말 간 일이 있어서 새로운 실험은 못하겠지만 돌려놓을 순 있으니 effnet으로 실험해보고 싶은거 있으시면 말씀해주세요.

(hrnet은 실패했습니다... git clone해서 import하는 과정도 안되고 clone받은 코드 자체도 저는 에러가 많네요 ㅠ)

근데 effnet 성능이 그리 좋지가 않네요



05.02

그 동안의 실험을 본 결과, 가장 성능이 좋았던 모델은 DLV+와 PAN 이었다.

모델 weight img size 배치 시드 time/epoch epoch loss train_loss val_loss val_mIoU LB score config
DLV3+_resnext101_32x8d instagram 256 8 7 162s 12 IoU+CE 0. 0. 0. 0.5815 config17
PAN_resnext101_32x8d swsl 256 8 7 173s 16 IoU+CE 0. 0. 0. 0.5845 config18
DLV3+_resnext101_32x16d swsl 256 8 7 224s 14 IoU+CE 0. 0. 0. 0.5925 config19

이 모델을 가장 성능 향상이 컸던 augmentation인 HorizontalFlip, ShiftScaleRotate을 적용해보았다.

모델 weight img size 배치 시드 time/epoch epoch loss train_loss val_loss val_mIoU LB score config
PAN_resnext101_32x8d swsl 256 8 7 173s 20 IoU+CE 0. 0. 0. 0.6105 config20
DLV3+_resnext101_32x16d swsl 256 8 7 224s 20 IoU+CE 0. 0. 0. 0.6098 config21
Clone this wiki locally