230331 Choose Your Weapon.md

https://arxiv.org/abs/2304.06035

Choose Your Weapon: Survival Strategies for Depressed AI Academics (Julian Togelius, Georgios N. Yannakakis)

대규모 모델의 시대에 학계에서 살아남으려면 어떻게 해야할까. 학계 뿐만 아니라 대규모 모델을 따라잡는 것이 힘들어보이는 기업에도 어느 정도 통하는 이야기가 아닐까 싶습니다.

1. 임팩트 있는 연구를 하는 걸 포기하기
2. 어떻게든 스케일을 따라잡기
3. 그냥 스케일을 낮추고 토이 태스크를 풀기
4. 만들어서 공개한 모델 가져다 쓰기
5. 모델을 만드는 대신 만들어진 모델을 분석하기
6. RL 하기
7. 엣지 디바이스를 노리기
8. 아직 관심이 높지 않은 분야를 노리기
9. AI를 적용해보지 않은 분야를 찾기
10. 일부러 될 리가 없다고 생각하는 것들을 해보기
11. 기업에서는 PR 때문에 하지 않을 연구를 하기
12. 그냥 회사를 차리기
13. 기업과 협력하기