买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:杭州次元岛科技有限公司
摘要:一种直播平台信息整合方法及系统,所述方法由客户端发起,客户端通过接收器和发射器与服务器端进行信息传递,包括冻结客户端的第一信使模型,将所述第一信使模型通过接收器注入到所述客户端的第一本地模型,得到位于所述客户端的第二本地模型;冻结所述第二本地模型,将所述第二本地模型提取信息通过发射器蒸馏到所述第一信使模型,得到位于所述客户端的第二信使模型;将所述第二信使模型下发到所述服务器端;在所述服务器端将信使模型和本地模型进行参数加权平均计算;将所述参数加权平均计算的结果反馈给所述客户端,重复上述步骤直到模型收敛以将信息整合。通过轻量级模型取代传统公共数据集,在客户端和服务器端传递信息,建立模型整合信息。
主权项:1.一种直播平台信息整合方法,所述方法由客户端发起,所述客户端通过接收器和发射器与服务器端进行信息传递,其特征在于:冻结所述客户端的第一信使模型,将所述第一信使模型通过接收器注入到所述客户端的第一本地模型,得到位于所述客户端的第二本地模型;包括获取第一特征提取器和第二特征提取器;根据所述第一特征提取器提取所述第一信使模型中的输入的特征向量,得到下游任务的第一分类器;通过所述第一信使模型中输入的特征向量指导所述第二特征提取器提取所述第一本地模型中权重的特征向量,得到下游任务的第二分类器;所述冻结是指删除第一信使模型的特征提取器和分类器以及客户端的接收器,不让对第二本地模型的训练产生影响;其中,建立第一信使模型指导第一本地模型的输出逻辑为: ,式中E表示期望,X,Y为样本与特征的联合分布,和分别是第一本地模型和第一信使模型对样本x的预测,为交叉熵函数,为散度函数,λ是一个热标签y和软标签之间权衡的超参数;冻结所述第二本地模型,将所述第二本地模型提取信息通过发射器蒸馏到所述第一信使模型,得到位于所述客户端的第二信使模型;包括获取第三特征提取器和第四特征提取器;根据所述第三特征提取器提取所述第二本地模型中的输入的特征向量,得到下游任务的第三分类器;通过所述第二本地模型中输入的特征向量指导所述第四特征提取器提取所述第一信使模型中权重的特征向量,得到下游任务的第四分类器;其中,建立第二本地模型指导第一信使模型的输出逻辑为: ,其中,E表示期望,X,Y为样本与特征的联合分布,分别对应和,和分别是第二本地模型和第一信使模型在第i层的特征,ψ是一个映射第一信使模型的特征以匹配第二本地模型特征的特征投影器,||X-Y||表示向量作差之后各分量的平方和的开根号,i为大于0的整数;将所述第二信使模型下发到所述服务器端;在所述服务器端将信使模型和本地模型进行参数加权平均计算;将所述参数加权平均计算的结果反馈给所述客户端,重复上述步骤直到模型收敛,以将信息整合,所述信息整合包括图像分类、自然语言处理和语音识别。
全文数据:
权利要求:
百度查询: 杭州次元岛科技有限公司 一种直播平台信息整合方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。