Skip to content

Latest commit

 

History

History
20 lines (8 loc) · 1.36 KB

File metadata and controls

20 lines (8 loc) · 1.36 KB

Few shot Learning(FSL)任务的关键在于如何学到关于任务(task),而非具体类别,的先验知识。实现中的方法:最常见的在Imagenet pretrain到新数据集或下游子任务进行finetune,这类操作属于迁移学习的范畴,其在新的(小)数据集上的效果取决于小数据和pretrain用的大数据集的差距;另一种FSL中常见的就是直接模拟任务进行学习,希望网络通过学习得到的是建立标注和未标注样本间联系,而非类别特征

Few shot 小样本任务基本概念:

support set

用于参考的标注数据,根据support的样本数,通常称为1-shot,即1个标注数据,5-shot,5个标注数据。常用的测试基于1-shot或5-shot。也可以根据训练集占样本集的比例进行对比,即用百分之xx的数据进行训练。

query set

用于预测的数据,根据support 的信息对query进行预测,并在query中评估结果。注意,这里的support和query中的类别需要是在训练过程中没有见到过的。

Episodic training

在训练过程中,也模拟测试场景,即k个support和b(batch)个query,进行训练的方式。这种训练方式可以利用大量的有标注的数据,但是需要保证测试的目标类别和样本不在训练中出现。实际上是一种对于task的学习。