买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：贵州师范大学

摘要：本发明公开了一种用于迁移学习的训练样本标注成本削减方法，该方法用于对目标任务待标注样本进行区分处理：对不位于源任务样本空间内的目标任务样本要求标注；对位于源任务样本空间内的目标任务样本，自动从源任务已标注样本集合中找到最佳替代。本发明可以减少训练样本标注量，避免样本重复标注，且在不增加标注成本情况下，增加标注样本量，还可通过调整参数控制实际样本标注成本。另外，本发明可在压缩很大标注成本情况下，保持模型性能稳定，并可与任意样本挑选方法配套使用。同时，本发明也适用于模型需要更新，以及在通用模型基础上建立个性化模型的应用场景。

主权项：1.一种用于迁移学习的训练样本标注成本削减方法，其特征在于：该方法用于对目标任务待标注样本进行区分处理：对不位于源任务样本空间内的目标任务样本要求标注；对位于源任务样本空间内的目标任务样本，自动从源任务已标注样本集合中找到最佳替代；该方法包括为一个识别猫狗宠物图片的机器视觉任务获取用于模型训练的标注数据；其中，源任务包括CIFAR-10分类，源任务已标注样本集包括开放数据集CIFAR-10，有10个不同物体类别，每个类别有6000张32*32大小的彩色图像；源任务模型包括在CIFAR-10数据集基础上训练得到的10分类模型；该模型为一个VGG16结构的深度神经网络模型；目标任务包括准确判断一张来自互联网宠物网站的输入图片中的动物是猫，狗还是其他；目标任务未标注样本集包括宠物网站上下载的50000张尺寸不一的宠物彩色图片，图片都没有标记类别；网络结构与源任务模型一致，仅将最后分类器层的输出数目从10改变为3；源任务模型的特征提取网络模块，即VGG16结构中全连接层以前的部分作为公共特征映射函数f；步骤1，构建替代样本集：将源任务已标注样本集合中具有目标任务类别标号的样本取出，作为替代样本集S；步骤2，替代样本集映射到公共特征空间；步骤3，构建待标注目标任务样本集U；步骤4，计算目标任务样本与替代样本集的差异度；步骤5，目标任务样本标注和替换；步骤6，放入已标注目标任务样本池；步骤7，训练目标任务模型；步骤8，重复步骤3-步骤7直到目标任务模型达到性能要求或者没有新增标注需求；步骤1中构建替代样本集包括：S＝{Xc,Yc,c＝1,2,...,ls}为替代样本集，样本集内存在ls个不同类别样本子集，每个样本子集包含一个样本特征数据集Xc＝{xi,i＝1,2,...,nc}和一个对应的样本标注数据集Yc＝{yi,i＝1,2,...,nc}，其中xi为第i个样本的特征矢量，yi∈{1,2,...,ls}为第i个样本的标注类别，nc为第c个样本子集内的样本数；步骤2中替代样本集映射到公共特征空间包括：使用函数f将替代样本集S内的每一个样本特征矢量都映射到公共特征空间，进而构建新的数据集Sf；其中，f为特征映射函数；步骤3中构建待标注目标任务样本集U包括：从目标任务的未标注样本池中挑选N个样本构成集合U；其中，N值采用如下规则确定：N＝ρ*T；T为要求人工标注的样本个数，由本轮次标注预算D和单个样本的人工标注成本C计算得到：T＝roundDC；ρ∈[1,5]为标注杠杆，即最终得到的有标注样本数目是ρ倍于实际人工标注的数目T；步骤4中计算目标任务样本与替代样本集的差异度包括：任一目标任务样本xi与替代样本集S的差异度为其中dist·,·计算两个矢量的欧氏距离，zj为替代样本集S内第j个样本的特征矢量；步骤5中目标任务样本标注和替换包括：对待标注目标任务样本集U中与替代样本集S的差异度最大的3T4个样本，要求人工标注；对剩余样本，以概率1-T4N-3T4取其在替代样本集中的最相似样本作为替代，以概率T4N-3T4要求人工标注；步骤6中放入已标注目标任务样本池是将步骤5获得的N个带标注样本放入已标注目标任务样本池L；步骤7中训练目标任务模型是使用当前已标注目标任务样本池L训练目标任务模型。

全文数据：

权利要求：

百度查询： 贵州师范大学 一种用于迁移学习的训练样本标注成本削减方法