https://arxiv.org/abs/2205.10782
Instruction Induction: From Few Examples to Natural Language Task Descriptions (Or Honovich, Uri Shaham, Samuel R. Bowman, Omer Levy)
in context learning에서 몇 가지 샘플을 프롬프트로 주고 수행해야할 과제를 자연어 형태로 생성할 수 있는지, 이 생성된 지시문을 가지고 과제를 수행할 수 있는지 본 실험. gpt-3에서는 잘 안 되는데 instructgpt에서는 되네요. https://arxiv.org/abs/2203.02155
llm의 흥미로운 점은 (샘플링 문제부터 시작해서) 아직 llm을 활용하는 방법에 대해서도 탐색할 여지가 많다는 것이지 싶습니다.
#in_context_learning