广州大学李树栋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉广州大学申请的专利基于动态聚类和词嵌入增强的短文本主题建模方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119336901B 。
龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411206780.5,技术领域涉及:G06F16/34;该发明授权基于动态聚类和词嵌入增强的短文本主题建模方法是由李树栋;曲春屹;吴晓波;方滨兴;姚明俊;张欣;冯依林;罗文伟设计研发完成,并于2024-08-30向国家知识产权局提交的专利申请。
本基于动态聚类和词嵌入增强的短文本主题建模方法在说明书摘要公布了:本发明公开了一种基于动态聚类和词嵌入增强的短文本主题建模方法,首先通过收集短文本数据得到短文本流;再使用FastStream聚类方法对短文本流进行聚类并根据聚类结果构建伪文档;然后利用大型语料库预训练的词嵌入模型形成词嵌入矩阵和词共现矩阵;随后用狄利克雷分布建模伪文档的主题分布及其词分布得到主题模型;接着在伪文档上使用吉布斯采样方法对主题模型进行训练,更新伪文档中每个词的主题分配和伪文档的主题分布参数,直到主题模型收敛;最后获取新的短文本进行主题推断得到主题分布。本发明利用FastStream聚类技术和词嵌入技术的结合,通过创建伪文档视图和增强词嵌入来有效提升短文本数据的主题建模性能。
本发明授权基于动态聚类和词嵌入增强的短文本主题建模方法在权利要求书中公布了:1.基于动态聚类和词嵌入增强的短文本主题建模方法,其特征在于,包括下述步骤: 步骤1、数据预处理:收集短文本数据并进行文本清洗得到短文本流; 步骤2、伪文档构建:使用FastStream聚类方法对短文本流进行聚类,并根据聚类结果构建伪文档,步骤为: 设短文本流表示为其中,d表示时间t到达的短文本;初始化FastStream聚类方法的参数;所述参数包括文档集合D、词汇表V、每个文档的词频nwd和每个聚类簇的词频nwz;所述文档集合用于存储被分配到聚类簇的文档; 将短文本流中的每个短文本视为文档依次输入文档集合中,并使用到达的文档d更新词关系图G=V,E,其中E是词共现关系的边集合;边权重表示词x和在文档d中的共现频率fx,d,即iffx,d≥∈,∈为词关系图中词共现频率阈值; 通过词关系图发现主题,选取词频高于设定词频阈值的词作为种子节点,并根据其与其他词的共现频率计算词权重,公式如下: 其中,c为词w的词权重,为主题k中包含的词数量,为主题km中所有词的总出现次数,km为表示第m个主题; 对于每个文档dt,计算其被分配到已有聚类簇z的概率,当文档dt被分配到已有聚类簇z的概率超过其他所有可能被分配到已有聚类簇的概率,或者超过聚类簇z的最低接受概率时,将文档分配到已有聚类簇z; 所述文档dt被分配到已有聚类簇z的概率的计算式为: 其中,为文档dt被分配到的聚类簇z,为所有文档的当前主题分配集合;α为狄利克雷分布的超参数之一,用于控制新聚类簇生成的先验概率;β为狄利克雷分布的另一个超参数,用于控制词汇表中词在主题中出现概率的先验分布;mz是聚类簇z中的文档数;nwz是词w在聚类簇z中的总出现次数,即词w在所有被分配到聚类簇z的文档中出现的总次数;nz为聚类簇z中所有词的总出现次数,i和j表示词在文档或聚类簇中的位置或顺序; 对于不能被分配到已有聚类簇的文档dt,计算创建新聚类簇的概率,若创建新聚类簇的概率大于新建概率阈值则将创建新聚类簇并将文档分配至新聚类簇中; 所述创建聚类簇的概率的计算式为: 其中,znew为新聚类簇; 聚类结束后通过聚类结果生成伪文档,每个伪文档包含其所属聚类簇中的所有短文本,形成新文档集合D'; 步骤3、词嵌入生成:利用大型语料库预训练的词嵌入模型将伪文档中的词映射到高维向量空间形成词嵌入矩阵和词共现矩阵; 步骤4、伪文档主题建模:采用狄利克雷分布建模伪文档的主题分布及其词分布,得到主题模型; 步骤5、主题分布推断:在伪文档上使用吉布斯采样方法对主题模型进行训练,更新伪文档中每个词的主题分配和伪文档的主题分布参数,直到主题模型收敛; 步骤6、短文本主题预测:获取新的短文本并生成其词嵌入表示,输入训练好的主题模型中进行主题推断,得到主题分布。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人广州大学,其通讯地址为:510006 广东省广州市番禺区大学城外环西路230号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励