龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：华东师范大学
摘要：本发明公开了一种基于BERT语言模型的货运停留热点序列推断方法。该方法首先提取出每个停留热点的功能类型、出发时段、停留时长和地理空间位置，并仿照自然语言处理中一些任务，将停留热点的每个特征看作是一个词元，并将停留热点序列重新组织成一个句子。之后通过预训练加微调的方式进行知识迁移，缓解部分数据稀疏流向推断精度不高的问题，其中在预训练阶段，本发明提出了改进的BERT模型，利用掩码语言任务和两个对比学习任务充分捕获货车司机的停留模式，在微调阶段，本发明加上了停留热点的ID特征进行相似度计算进一步提高了模型的推断精度。
主权项：1.一种基于BERT语言模型的货运停留热点序列推断方法，其特征在于，包括以下步骤：S1：停留热点属性提取阶段：从停留热点序列中提取出停留热点的特征属性；S2：停留热点序列划分阶段：对历史停留热点序列重新进行划分以便对齐训练和推理时的输入；S3：停留热点序列嵌入阶段：基于S2得到的停留热点序列，采用四种可学习的编码层对停留热点序列进行编码以作为后续预训练模型的输入；S4：预训练模型学习阶段：利用引入两个对比学习代理任务后改进的BERT语言模型对基于S3得到的停留热点编码进行预训练，得到停留热点预训练表征；S5：停留热点表征微调阶段：利用当前流向的历史数据对基于S4得到的停留热点预训练表征进行微调以获得最终的停留热点序列预测模型；S6：停留热点序列预测阶段：基于S5得到的最终停留热点序列预测模型，根据给出的查询请求依次预测出下一个停留热点直到预测到终点后中止。
全文数据：
权利要求：
百度查询： 华东师范大学 一种基于BERT语言模型的货运停留热点序列推断方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号