热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

【java】itoo项目实战之hibernate批量保存优化

在itoo中,基本上每个系统都有一个导入功能,大量的数据填写进入excel模板中,然后使用导入功能导入的数据库中,这样可以大大的提高工作效率。那么导入就涉及到了批量保存数据库的问题

     在itoo中,基本上每个系统都有一个导入功能,大量的数据填写进入excel模板中,然后使用导入功能导入的数据库中,这样可以大大的提高工作效率。那么导入就涉及到了批量保存数据库的问题了。

     那么通常情况下,在一个Session对象的缓存中数量有限的持久化对象,等到Session对象处理事务完毕,还要关闭Session对象,从而及时释放session的缓存占用的内存。在批量保存1万条数据,如果一次性把需要保存的1万条数据加载到内存职工,当执行事务提交的时候,就会清理缓存,hibernate执行1万条更新语句。这样更新的方式有两个缺点:

1占用大量内存,必须把1万条加载到内存中,然后一一更新它们。

2)执行的update数目过多,每个update语句只能更新一条数据,必须通过1万条update语句才能更新1万条数据,频繁地访问数据库,会大大降低应用的性能。

     对于以上的情况,咱们可以通过Session来进行批量操作,Session sava方法都会把处理对象的存放在自己的缓存职工,如果通过一个Session对象来处理大量持久化对象,应该及时从缓存中清空已经处理完毕并且不会在访问的对象。具体的做法就是处理完一个对象或者小批量对象后,立刻调用Flush()方法清理缓存,然后再调用Clear()方法清空缓存。


如果通过Session来进行批量操作,会受到以下的约束:


1.需要在hibernate的配置文件中设置JDBC单次批量处理的数目,合理的取值通常为10~50,例如hibernate.jdbc.batch_size=30;这样设置的,就需要保证每次像数据库发送的批量SQL语句数目与这个batch_size属性一致。


2.如果操作对象采用"identity"标识符生成器,则Hibernate无法在JDBC层进行批量插入操作。


3.进行批量操作时,建议关闭hibernate的第二级缓存,Session的缓存为hibernate的第一级缓存,通常它是事务范围内的缓存,每个事务都有单独的第一级缓存。SessionFactory的外置缓存为Hibernate的第二级荤菜,它是应用范围内的缓存,所有的事务都共享同一个第二级缓存。在任何情况下,hibernate的第一级缓存总是可用的,在默认情况下,hibernate的第二级缓存是关闭的,但是也可以在hibernate的配置文件中手动关闭二级缓存:

Hibernate.cache.use_second_level_cache=false;

 

itoo中批量保存的代码如下:

 

/**
 * 批量保存
 *
 * @param list
 *            list类型
 * @return 返回boolean值
 */
public  boolean saveEntitys(List list) {
boolean flag = false;
int batchSize = 30;
int i = 0;
getDataBaseName(list.get(0));
try {
for (Object entity : list) {
getEntityManager().persist(entity);
i++;
if (i % batchSize == 0) {
getEntityManager().flush();
getEntityManager().clear();
}
}
flag = true;
} catch (Exception e) {
 
}
return flag;
}

     在以上的程序中,每次执行session.flush()方法,就会向数据库职工批量插入30条记录。接下来session.clear()方法把20个刚保存的对象从缓存中清空。

 

     只要是设计有批量导入的情况,都会涉及到批量保存的内容,这篇博客就是让你的批量保存达到最优效果。

版权声明:本文为博主原创文章,未经博主允许不得转载。

【java】itoo项目实战之hibernate 批量保存优化


推荐阅读
  • 1,关于死锁的理解死锁,我们可以简单的理解为是两个线程同时使用同一资源,两个线程又得不到相应的资源而造成永无相互等待的情况。 2,模拟死锁背景介绍:我们创建一个朋友 ... [详细]
  • 本文介绍了OC学习笔记中的@property和@synthesize,包括属性的定义和合成的使用方法。通过示例代码详细讲解了@property和@synthesize的作用和用法。 ... [详细]
  • android listview OnItemClickListener失效原因
    最近在做listview时发现OnItemClickListener失效的问题,经过查找发现是因为button的原因。不仅listitem中存在button会影响OnItemClickListener事件的失效,还会导致单击后listview每个item的背景改变,使得item中的所有有关焦点的事件都失效。本文给出了一个范例来说明这种情况,并提供了解决方法。 ... [详细]
  • 在说Hibernate映射前,我们先来了解下对象关系映射ORM。ORM的实现思想就是将关系数据库中表的数据映射成对象,以对象的形式展现。这样开发人员就可以把对数据库的操作转化为对 ... [详细]
  • Iamtryingtomakeaclassthatwillreadatextfileofnamesintoanarray,thenreturnthatarra ... [详细]
  • Java实战之电影在线观看系统的实现
    本文介绍了Java实战之电影在线观看系统的实现过程。首先对项目进行了简述,然后展示了系统的效果图。接着介绍了系统的核心代码,包括后台用户管理控制器、电影管理控制器和前台电影控制器。最后对项目的环境配置和使用的技术进行了说明,包括JSP、Spring、SpringMVC、MyBatis、html、css、JavaScript、JQuery、Ajax、layui和maven等。 ... [详细]
  • 本文介绍了使用Java实现大数乘法的分治算法,包括输入数据的处理、普通大数乘法的结果和Karatsuba大数乘法的结果。通过改变long类型可以适应不同范围的大数乘法计算。 ... [详细]
  • 本文讨论了如何优化解决hdu 1003 java题目的动态规划方法,通过分析加法规则和最大和的性质,提出了一种优化的思路。具体方法是,当从1加到n为负时,即sum(1,n)sum(n,s),可以继续加法计算。同时,还考虑了两种特殊情况:都是负数的情况和有0的情况。最后,通过使用Scanner类来获取输入数据。 ... [详细]
  • Mac OS 升级到11.2.2 Eclipse打不开了,报错Failed to create the Java Virtual Machine
    本文介绍了在Mac OS升级到11.2.2版本后,使用Eclipse打开时出现报错Failed to create the Java Virtual Machine的问题,并提供了解决方法。 ... [详细]
  • 本文讨论了一个关于cuowu类的问题,作者在使用cuowu类时遇到了错误提示和使用AdjustmentListener的问题。文章提供了16个解决方案,并给出了两个可能导致错误的原因。 ... [详细]
  • 本文详细介绍了Linux中进程控制块PCBtask_struct结构体的结构和作用,包括进程状态、进程号、待处理信号、进程地址空间、调度标志、锁深度、基本时间片、调度策略以及内存管理信息等方面的内容。阅读本文可以更加深入地了解Linux进程管理的原理和机制。 ... [详细]
  • XML介绍与使用的概述及标签规则
    本文介绍了XML的基本概念和用途,包括XML的可扩展性和标签的自定义特性。同时还详细解释了XML标签的规则,包括标签的尖括号和合法标识符的组成,标签必须成对出现的原则以及特殊标签的使用方法。通过本文的阅读,读者可以对XML的基本知识有一个全面的了解。 ... [详细]
  • Java太阳系小游戏分析和源码详解
    本文介绍了一个基于Java的太阳系小游戏的分析和源码详解。通过对面向对象的知识的学习和实践,作者实现了太阳系各行星绕太阳转的效果。文章详细介绍了游戏的设计思路和源码结构,包括工具类、常量、图片加载、面板等。通过这个小游戏的制作,读者可以巩固和应用所学的知识,如类的继承、方法的重载与重写、多态和封装等。 ... [详细]
  • 本文介绍了在SpringBoot中集成thymeleaf前端模版的配置步骤,包括在application.properties配置文件中添加thymeleaf的配置信息,引入thymeleaf的jar包,以及创建PageController并添加index方法。 ... [详细]
  • Spring特性实现接口多类的动态调用详解
    本文详细介绍了如何使用Spring特性实现接口多类的动态调用。通过对Spring IoC容器的基础类BeanFactory和ApplicationContext的介绍,以及getBeansOfType方法的应用,解决了在实际工作中遇到的接口及多个实现类的问题。同时,文章还提到了SPI使用的不便之处,并介绍了借助ApplicationContext实现需求的方法。阅读本文,你将了解到Spring特性的实现原理和实际应用方式。 ... [详细]
author-avatar
红颜内
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有