Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于超参数智能寻优的感知模型自推荐方法及装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:北京京航计算通讯研究所

摘要:基于超参数智能寻优的感知模型自推荐方法及装置,大大提升了超参数优化过程中的计算效率与吞吐量,允许模型在大规模数据集和复杂任务中快速迭代,降低了对计算资源的依赖,从而满足了现代AI系统对于高效能和快速响应的需求,显著加速了超参数搜索进程,减少了实际训练开销,使得优化过程更加灵活经济,有助于在有限的时间和资源下探索更广阔的超参数空间。方法包括:1设计基于Transformer编码器的策略网络;2构建目标性能预测模型;3采用近端策略优化算法进行超参数优化。

主权项:1.基于超参数智能寻优的感知模型自推荐方法,其特征在于:该方法包括以下步骤:1设计基于Transformer编码器的策略网络,Transformer编码器由多个编码器层堆叠而成,每个编码器层包含两个子层:多头自注意力机制和前馈神经网络;在每个编码器层内,多头自注意力机制用于捕捉序列中不同位置之间的依赖关系,前馈神经网络负责非线性变换和特征提取;每个子层后面都紧跟残差连接和层归一化,以确保梯度的稳定传递和模型的高效训练;策略网络基于Transformer编码器结构进行设计,首先将超参数空间中的候选点进行编码,形成序列化的输入表示,每个超参数作为一个向量表示,这些向量通过线性变换和位置编码处理后,输入到Transformer编码器中;位置编码在不引入循环或卷积结构的情况下注入位置信息,使模型能够识别序列中各个位置的关系;输入序列经过多个编码器层的处理,转化为高维特征表示;多头自注意力机制确保超参数之间的相互依赖关系被有效捕捉,前馈神经网络进一步提取和变换特征,使得最终的特征表示包含丰富的上下文信息;然后,编码器的输出经过全连接层和Softmax激活函数,生成策略分布;2构建目标性能预测模型,目标性能预测模型采用全连接神经网络架构;3采用近端策略优化PPO进行超参数优化,包括:状态表示、动作生成、策略更新、奖励计算和模型预测。

全文数据:

权利要求:

百度查询: 北京京航计算通讯研究所 基于超参数智能寻优的感知模型自推荐方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。