买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：浙江大学

摘要：本发明公开了一种基于特征校正的结构化数据新类别识别方法及装置，包括：获取有标注样本集和无标注样本集，将每一个样本输入表征编码器，得到样本表征；根据神经网络坍缩现象，生成预分配的单纯形等角紧凑结构作为目标化最优分类头；为无标注样本集中的样本生成初步伪标签，对初步伪标签进行细粒度修正，得到硬标签；基于目标化最优分类头和样本标签，对样本表征进行校正；根据校正后的样本表征和对应的标签，进行基于损失大小关系的标签过滤；使用过滤后的标签及其对应的样本进行半监督训练，更新表征编码器参数；所述半监督模型包括训练好的表征编码器和目标化最优分类头，用于新类样本识别。本发明大幅度提升结构化数据新类别识别准确率。

主权项：1.一种基于特征校正的结构化数据新类别识别方法，其特征在于，包括：获取有标注样本集和无标注样本集，将每一个样本输入表征编码器，得到样本表征；所述有标注样本集和无标注样本集中的数据为结构化数据；根据神经网络坍缩现象，生成预分配的单纯形等角紧凑结构作为固定的目标化最优分类头；通过求解最优传输的分配问题为所述无标注样本集中的样本生成初步伪标签，通过辅助分类头对初步伪标签进行细粒度修正，得到硬标签；其中标签对应样本的类别；基于所述目标化最优分类头和样本标签，对所述样本表征进行校正；根据校正后的样本表征和对应的标签，进行基于损失大小关系的标签过滤；使用过滤后的标签及其对应的样本进行半监督训练，更新表征编码器参数；半监督模型包括训练好的表征编码器和目标化最优分类头；所述半监督模型用于新类样本识别；所述根据神经网络坍缩现象，生成预分配的单纯形等角紧凑结构作为固定的目标化最优分类头，包括：根据神经网络坍缩现象，可学习分类头会收敛形成一个单纯形等角紧凑结构E＝[e1,…,eK]∈RP×K，提供一个类内紧凑，类间最大化分离的特征分布： 其中，K为是类别总数，IK是单位矩阵，1K是全1向量，U∈RP×K是随机旋转矩阵；其中，P≥K；构建预分配的目标化分类头hetf，其权重为随机初始化的单纯形等角紧凑ETF结构，即为所述目标化最优分类头；所述通过求解最优传输的分配问题为所述无标注样本集中的样本生成初步伪标签，包括：通过基于均分约束的最优传输进行粗粒度分配；具体的，给定当前b个无标注样本，其对应的逻辑输出矩阵为P＝[hetfz1,…,hetfzb]，待分配的初步伪标签矩阵为Q＝[q1,…,qb]∈[0,1]K×b，通过最优传输对Q进行求解，得到初步伪标签； 其中H·为熵函数，∈为权重超参数，Tr·为矩阵迹函数；所述通过辅助分类头对初步伪标签进行细粒度修正，得到硬标签，包括：使用有标注样本集和无标注样本集训练辅助二分类头haux；根据训练好的辅助二分类头haux生成对应二分类预测yaux,标签1和标签0分别表示该样本被预测为已知类与新颖类，基于该二分类预测yaux对初步伪标签Q进行标签精炼，保留一致分量，舍弃不一致分量；根据精炼后的伪标签q分量大小生成硬标签其中，qj是q的第j个分量；所述基于所述目标化最优分类头和样本标签，对所述样本表征进行校正，包括：所述目标化最优分类头hetf，采用基于固定分类器的分类损失替代标准交叉熵损失： 其中τ为温度参数，是已知或分配好的样本标签；通过损失Letf，所述样本表征zi逐渐被校正，靠近对齐到对应的目标分配同时远离其他分量，最终形成单纯形等角紧凑结构，最终总的分类损失为：Lcls＝Letf+Lent其中是避免目标化最优分类头hetf过于偏向某一类的正则化熵；p是每一类的平均预测概率值。

全文数据：

权利要求：

百度查询： 浙江大学 一种基于特征校正的结构化数据新类别识别方法及装置