Automatic prompt augmentation and selection with chain-of-thought from labeled data, Shum+, The Hong Kong University of Science and Technology, arXiv'23

[AkihikoWatanabe]

https://arxiv.org/pdf/2302.12822.pdf

[AkihikoWatanabe]

LLMによるreasoning chainが人間が作成したものよりも優れていることを示しているとのこと #532 より

[AkihikoWatanabe]

selection phaseで誤ったexampleは直接排除する手法をとっている。そして、強化学習によって、demonstrationのselection modelを訓練している。