Document
拖动滑块完成拼图
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
最新专利技术
  • 本申请涉及人工智能技术领域,涉及一种面向资源受限设备的大语言模型推理优化方法及系统、装置、介质。所述方法包括:建立资源预算,获取设备的显存参数,包括总可用显存和当前可用显存,设定推理会话的内存总预算;评估内存需求,包括静态计算和动态计算;计...
  • 本发明提供了基于大模型的工单问答方法及系统。接收用户输入的自然语言形式的工单查询问题;由大模型按照给定的参数列表说明对自然语言形式的工单查询问题进行解析,从而解析出符合要求的接口调用参数;在对该接口调用参数进行规则校验之后,形成预定格式的请...
  • 本发明公开一种应用于大模型的示例生成方法、装置、计算机设备和存储介质,涉及大模型技术领域,用以解决相关技术中示例生成效率低的问题。该方法包括:获取初始任务和提示词,并基于初始任务和提示词生成对应的第一答案;基于提示词检测第一答案是否合格;若...
  • 本发明提供一种积分兑换方法、装置、设备、存储介质及程序产品,该积分兑换方法包括:获取用户的原始咨询数据;其中,用户的原始咨询数据包括与采用积分兑换商品相关的咨询数据;基于原始咨询数据和用户的账户信息,生成用户的结构化特征,以及基于原始咨询数...
  • 本申请公开了一种基于多级缓存的大模型推理方法及装置、存储介质、设备,该方法包括:接收推理任务,对推理任务进行固定长度的词元序列分割处理,以确定推理任务对应的至少一个词元序列,其中,词元序列中除末尾词元序列之外的其他词元序列的长度为固定长度,...
  • 本发明涉及自然语言处理技术领域,公开了一种面向应急场景的多模态语义对齐方法,包括获取多模态数据,并将多模态数据中的方言词汇映射至标准语系;使用多语言预训练模型生成文本/语音中初始语义向量;基于目标检测模型识别图像/视频中的特征要素,生成结构...
  • 本申请提供一种大模型的处理方法、装置、设备、存储介质及程序产品,涉及人工智能领域。该方法包括:获取待处理大模型的基础大模型;获取用于训练基础大模型的样本数据;根据样本数据,对基础大模型进行训练,以得到对应的训练数据;根据训练数据和基础大模型...
  • 本申请公开了一种文本推理方法、装置、设备、存储介质及产品,涉及文本推理技术领域,所述文本推理方法包括:获取用户输入的用于问答的长文本,其中,所述长文本的长度处于预设的文本推理模型的推理区间;将所述长文本输入至预设的文本推理模型进行推理,得到...
  • 本申请公开了一种融合多模态感知的协作机器人用户意图推断及主动辅助方法及系统,属于人机交互与机器人技术领域。该方法包括:获取包含用户生理、行为及环境信息的多模态感知数据;构建表征协作场景的离散化协同空间;在该空间中构建并动态更新一个协同势场,...
  • 本发明提供一种检索增强生成知识库的问答方法、系统、设备及存储介质,涉及智能问答技术领域,该方法包括:构建自主决策模型和增强生成模型;根据自主决策模型确定目标查询问题是否需要检索;若目标查询问题需要检索,则根据目标查询问题在知识库中进行检索,...
  • 本发明提供了一种开放具身环境融合模型和符号求解器的长程规划方法及系统,包括:感知模块、并行规划模块和监督微调模块;感知模块接收多种传感器的多模态输入信息,生成问题描述文件传输至并行规划模块;并行规划模块根据问题描述文件和领域描述文件生成规划...
  • 本发明提供了将大语言模型智能体转化为自迭代演进的方法和系统,包括:周期性调度器定时唤醒智能体控制器;智能体控制器获取当前环境/内部状态、长期记忆与历史经验;智能体控制器判断是否生成新任务;如果否,则等待下次调度;如果是,则智能体控制器根据当...
  • 本申请提供一种模型训练文件读存系统,及基于模型训练文件读存系统的模型训练文件读存方法、装置、设备、介质和产品。该系统包括:存储有每个模型分块的第一训练文件的对象存储器,以及运行有多个计算进程的训练集群。该方法包括:若触发大语言模型的训练任务...
  • 本发明涉及人工智能技术领域,尤其涉及一种基于截断‑覆写的大模型多链推理优化方法及系统,本发明针对当前思维链缺乏有效监控和干预的问题,提出了结合思维链评分反馈,截断‑覆写模块与MCTS搜索策略的多链融合推理方法,该方法包括:获取用户输入文本的...
  • 本发明涉及一种用于情感分类任务的推理加速方法、存储介质和装置。主要包括BERT分类模型,还包括缓存旁路,所述缓存旁路中设置有Token过滤器,本申请的方法基于近似缓存,也就是两个输入的嵌入在高维空间中越接近,它们属于同一类别的可能性越高。本...
  • 本发明公开一种用于隐私保护机器学习的安全推理方法及系统,涉及隐私保护机器学习技术领域,包括:根据模型输入矩阵和模型参数的沙米尔秘密共享及随机向量压缩秘密共享计算秘密份额,重构秘密值并打包得到模型线性层运算结果的TP秘密共享;对TP秘密共享中...
  • 本发明公开了一种基于动态知识图谱与大模型协同推理的电力设备故障诊断方法及系统,方法包括:通过弱监督实体关系抽取机制,结合电力领域词典与远程监督技术,实现实体关系的自动化抽取,并构建时序知识图谱以捕捉故障传播链的动态演化规律;通过知识注入层将...
  • 本申请涉及三维堆叠存算一体化人工智能加速系统及推理方法,包括:三维堆叠存储模块,其包括多个通过高密度垂直互连结构进行通信的垂直堆叠的DRAM层;计算单元阵列,其通过三维集成技术与三维堆叠存储模块的至少一层进行直接通信耦合,并被配置为执行大型...
  • 本发明公开一种基于专家模块动态调度的MoE大模型推理优化方法及装置,涉及大模型推理优化技术领域。方法包括:根据对话文本数据集,通过MoE大模型进行预推理,获得第一评价得分集合;对GPU候选专家数量取值集,通过专家缓存命中率计算方法进行取值优...
  • 本申请实施例公开了一种策略模型训练方法、装置、介质及设备,获取输入文本对应的提示词并将提示词输入至初始策略模型,得到第一预设数量的初始回答;将提示词、每个初始回答输入至预设评估模型,得到每个初始回答的评估结果;根据评估结果,从初始回答中筛选...
技术分类