买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:浙江智臾科技有限公司
摘要:本发明公开了一种基于多线程异步的高频数据库写入方法及装置,通过创建多线程表写入器对象并对其进行初始化;获取待写入数据库的表结构,创建一组线程及对应的缓存队列,每个线程均与数据库系统连接并监视对应缓存队列的状态,设定缓存队列单次期望写入的数量阈值以及最大写入间隔的时间阈值;通过多线程表写入器对象进行数据异步插入;根据所述表结构确定表类型和分区类型,对于分区表,将不同分区类型的数据插入不同的缓存队列中;循环执行线程,基于所述数量阈值和时间阈值,触发缓存队列的写入条件,通过线程将缓存队列中的数据发送到数据库系统进行数据插入,并清空该缓存队列。从而提高写入效率,降低数据写入时延、降低数据库负载。
主权项:1.一种基于多线程异步的高频数据库写入方法,其特征在于包括如下步骤:步骤S1:创建多线程表写入器对象并对其进行初始化;获取待写入数据库的表结构,创建一组线程及对应的缓存队列,每个线程均与数据库系统连接并监视对应缓存队列的状态,设定缓存队列单次期望写入的数量阈值以及最大写入间隔的时间阈值;设定线程数量以及分区列名;初始化中,设定不同类型的分区方案,用于步骤S2中向不同缓存队列插入不同分区类型的数据,分区方案包括范围分区、哈希分区以及值分区,范围分区对每个分区区间创建一个分区,哈希分区利用哈希函数对分区列进行操作,建立指定数量的分区,值分区对分区列的每个值创建一个分区;初始化中,表结构信息包括各列的数据类型,用于步骤S2中对传入数据进行数据校验,再将校验合法的数据进行插入;步骤S2:通过多线程表写入器对象进行数据异步插入;根据所述表结构确定表类型和分区类型,对于分区表,将不同分区类型的数据插入不同的缓存队列中,以等待后台工作线程来处理数据,用于后续的并发写入;步骤S3:循环执行线程,基于所述数量阈值和时间阈值,触发缓存队列的写入条件,通过线程将缓存队列中的数据发送到数据库系统进行数据插入,并清空该缓存队列;线程循环执行的过程,包括如下步骤:步骤S3.1:判断缓存队列中缓存数量是否达到数量阈值,若达到,则进入步骤S3.3,否则,进入步骤S3.2;步骤S3.2:判断当前时间距离上次插入的时间间隔是否达到时间阈值,若达到,则进入步骤S3.3,否则,返回步骤S3.1;步骤S3.3:将缓存队列中的所有数据一起发送到数据库系统进行数据插入,并清空该缓存队列,返回步骤S3.1。
全文数据:
权利要求:
百度查询: 浙江智臾科技有限公司 一种基于多线程异步的高频数据库写入方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。