[피어세션] 2021-06-04

[jun9choi]

학습 중단 후 연결해서 학습 시킬 때

📌 cosine annealing 주기 고려해서 lr 수정
📌 teacher forcing = 0으로 수정

---

제출용 모델

1. swin, 60 epoch
2. SATRN - EffNet, 5-fold, 70 epoch

• inference 시간 계산 (주영 Effnetv2 - SATRN 기준)
  test 12000장 → 17분 20초 (배치16)

Augmentation 실험

• SSD + GD + Normalization으로 결정.
• swin과 SATRN - EffNet에 모두 적용.

---

실험결과 & 진행 상황

• 조교님께 드려볼 질문

1. 학습 중에 GPU 메모리 사용량이 점점 올라가는 이유?

• 추가된 파일

1. validation.py : beam-search 등의 편리한 실험을 위해 score를 측정하도록 만든 파일
2. infer.py : 추론 결과에 대해서 EDA하는 파일

• Teacher Forcing Scheduler → scheduler.py에 추가 완료

1. yaml file에 있는 teacher_forcing_ratio가 초기값
2. epoch마다 step된 값이 train 함수에 적용되고 wandb에 표시됨
3. 성능 확인되면 merge할 예정

• 추가 데이터

1. im2latex 추가 데이터 → 준철이가 나눈 5-fold 데이터에 나눠서 추가
   (그리스 문자 추가해서 토큰 255개, 이미지 약 3만개)
2. Aida 추가 데이터 2500개
3. 성능 확인되면 merge할 예정

• 주영's SATRN

1. EffiNet → 너무 큰 모델을 쓰면 over-fitting의 가능성이 있기 때문에 v2를 사용하지는 않을 예정

• decoder 확장?

1. 일단 hdim과 layer를 늘리면 성능이 좋아지는 것 같음.
2. 하지만 GPU 메모리가 부족해서 주영's SATRN에 추가하기는 힘들 듯.

---

💡 실험 아이디어

• ASTER - Bi-Directional LSTM 추가해보기
• SEED model → 제작이 어렵지 않을 것 같아서 살펴볼 예정.