热门标签 | HotTags
当前位置:  开发笔记 > 数据库 > 正文

在海量数据中创建高效SQL笔记-mysql教程

在海量数据中创建高效SQL笔记参加了郑保卫博士的讲座,收获颇多。以前总是写一些简单的sql,以为sql只是简单的命令,实际上sql大有可为,sql是体现技术人员能力的重要方面,sql是应用程序不是查询语言!以下简单总结了昨天培训的收获:www.2cto.com1.SQL

在海量数据中创建高效SQL笔记 参加了郑保卫博士的讲座,收获颇多。 以前总是写一些简单的sql,以为sql只是简单的命令,实际上sql大有可为,sql是体现技术人员能力的重要方面,sql是应用程序不是查询语言!以下简单总结了昨天培训的收获: www.2cto.com 1.SQL


在海量数据中创建高效SQL笔记

参加了郑保卫博士的讲座,收获颇多。 以前总是写一些简单的sql,以为sql只是简单的命令,实际上sql大有可为,sql是体现技术人员能力的重要方面,sql是应用程序不是查询语言!以下简单总结了昨天培训的收获:

www.2cto.com

1.SQL语句是一种集合语言,而JAVA /c++甚至于PL/SQL是过程化语言,SQL语句按block处理数据,过程化语言按条处理,效率差距可想而知。

2.扩张性的SQL语句可以做所有的有关数据处理的功能,不要再将SQL语句只当做一个数据库命令,“他是巨人,不是普通人”。

3.索引非常重要,建立战略性的索引是很困难的,最好建立联合索引,除非是主键,最好不要建立单独索引。索引的建立不是越多越好,也不是越少越好,应该有一个平衡点。因为索引也需要耗费存储空间,在delete/update特别是insert的时候过于臃肿的索引会影响语句的执行效率。

4.执行计划非常重要,要有执行计划和优化器的概念,对于一个SQL语句,要能够大概判断其执行的路径是什么。

www.2cto.com

5.执行速度很大程度上和IO有关,因为CPU的计算速度已经很快了,但I/O是很大的瓶颈。所以正在研究的有“内存数据库”的概念。

6.重视统计信息的作用,优化器是根据统计信息来进行执行计划的选择和优化的,统计信息可以定时让数据库收集、也可以在大量修改数据后手工执行统计信息的更新。

7.新的优化器是基于成本的,不是基于规则的。

8.调整数据库参数能解决10%的性能问题,修改执行计划可以解决30%,建立战略性索引和优化SQL语句可以解决50%的问题,而良好的数据模型和建模可以解决80%的性能问题。

9.执行计划是非常敏感的,微小的改动可能都会改变执行计划,比如SQL语句中表连接的数据、更新的统计信息、索引的改变等。

10.离散度的好坏决定索引效果的好坏,一般认为,如果某列数据的离散度低于10%-15%时,索引是有效的。

在SQL语句where查询条件中,有的条件用户驱动查询条件、有的用于过滤查询条件。最理想的方法是将拥有最小数据范围的条件作为查询驱动条件。

11.组合索引中列的顺序有可能决定查询效率。

12.索引的使用会受到表的联系方法和联系顺序的影响的。

13.PL/SQL中判断是否存在的替换方案:

原SQL:SELECT COUNT(*) INTO :CNT

FROM ITEM_TAB

WHERE DEPT = ‘101’

AND SEQ > 100;

…………………………………………

www.2cto.com

IF CNT > 0 ….

改进后:SELECT 1 INTO :CNT FROM DUAL

WHERE EXISTS (SELECT ‘X’

FROM ITEM_TAB

WHERE DEPT = ’101’

AND SEQ > 100 );

……………………………………………

IF CNT > 0 ….

14.取最大流水号的替代方案

原SQL:SELECT MAX(seq) + 1

FROM order

WHERE deptno = ‘12300’

替代SQL:SELECT /*+ INDEX_DESC(order pk_order) */

NVL(MAX(seq), 0) + 1

FROM order

WHERE deptno = ‘12300’

AND ROWNUM = 1

www.2cto.com

15.综合原理和总结

1) 数据处理就是集合运算;

2) 要从流程开发人员转变为数据开发人员,使用复杂的SQL,复杂的执行计划来替代过程化的程序执行,可以有效的降低计算次数,配合战略性索引,可以精简代码,提到性能。

3) SQL并非命令语句,而是应用程序!


推荐阅读
  • 本文介绍了在SQL中查询分组后每组行数的统计方法。通过使用count()函数和GROUP BY子句可以统计每组的行数,但是如何统计所有组的行数呢?本文提供了一种实现方法,并给出了相应的SQL查询语句。 ... [详细]
  • 基于PgpoolII的PostgreSQL集群安装与配置教程
    本文介绍了基于PgpoolII的PostgreSQL集群的安装与配置教程。Pgpool-II是一个位于PostgreSQL服务器和PostgreSQL数据库客户端之间的中间件,提供了连接池、复制、负载均衡、缓存、看门狗、限制链接等功能,可以用于搭建高可用的PostgreSQL集群。文章详细介绍了通过yum安装Pgpool-II的步骤,并提供了相关的官方参考地址。 ... [详细]
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • Oracle Database 10g许可授予信息及高级功能详解
    本文介绍了Oracle Database 10g许可授予信息及其中的高级功能,包括数据库优化数据包、SQL访问指导、SQL优化指导、SQL优化集和重组对象。同时提供了详细说明,指导用户在Oracle Database 10g中如何使用这些功能。 ... [详细]
  • 本文介绍了adg架构设置在企业数据治理中的应用。随着信息技术的发展,企业IT系统的快速发展使得数据成为企业业务增长的新动力,但同时也带来了数据冗余、数据难发现、效率低下、资源消耗等问题。本文讨论了企业面临的几类尖锐问题,并提出了解决方案,包括确保库表结构与系统测试版本一致、避免数据冗余、快速定位问题等。此外,本文还探讨了adg架构在大版本升级、上云服务和微服务治理方面的应用。通过本文的介绍,读者可以了解到adg架构设置的重要性及其在企业数据治理中的应用。 ... [详细]
  • 在说Hibernate映射前,我们先来了解下对象关系映射ORM。ORM的实现思想就是将关系数据库中表的数据映射成对象,以对象的形式展现。这样开发人员就可以把对数据库的操作转化为对 ... [详细]
  • 本文介绍了使用postman进行接口测试的方法,以测试用户管理模块为例。首先需要下载并安装postman,然后创建基本的请求并填写用户名密码进行登录测试。接下来可以进行用户查询和新增的测试。在新增时,可以进行异常测试,包括用户名超长和输入特殊字符的情况。通过测试发现后台没有对参数长度和特殊字符进行检查和过滤。 ... [详细]
  • 本文详细介绍了MysqlDump和mysqldump进行全库备份的相关知识,包括备份命令的使用方法、my.cnf配置文件的设置、binlog日志的位置指定、增量恢复的方式以及适用于innodb引擎和myisam引擎的备份方法。对于需要进行数据库备份的用户来说,本文提供了一些有价值的参考内容。 ... [详细]
  • 使用Ubuntu中的Python获取浏览器历史记录原文: ... [详细]
  • 本文由编程笔记小编整理,介绍了PHP中的MySQL函数库及其常用函数,包括mysql_connect、mysql_error、mysql_select_db、mysql_query、mysql_affected_row、mysql_close等。希望对读者有一定的参考价值。 ... [详细]
  • 本文介绍了Oracle数据库中tnsnames.ora文件的作用和配置方法。tnsnames.ora文件在数据库启动过程中会被读取,用于解析LOCAL_LISTENER,并且与侦听无关。文章还提供了配置LOCAL_LISTENER和1522端口的示例,并展示了listener.ora文件的内容。 ... [详细]
  • Spring特性实现接口多类的动态调用详解
    本文详细介绍了如何使用Spring特性实现接口多类的动态调用。通过对Spring IoC容器的基础类BeanFactory和ApplicationContext的介绍,以及getBeansOfType方法的应用,解决了在实际工作中遇到的接口及多个实现类的问题。同时,文章还提到了SPI使用的不便之处,并介绍了借助ApplicationContext实现需求的方法。阅读本文,你将了解到Spring特性的实现原理和实际应用方式。 ... [详细]
  • Java String与StringBuffer的区别及其应用场景
    本文主要介绍了Java中String和StringBuffer的区别,String是不可变的,而StringBuffer是可变的。StringBuffer在进行字符串处理时不生成新的对象,内存使用上要优于String类。因此,在需要频繁对字符串进行修改的情况下,使用StringBuffer更加适合。同时,文章还介绍了String和StringBuffer的应用场景。 ... [详细]
  • Oracle分析函数first_value()和last_value()的用法及原理
    本文介绍了Oracle分析函数first_value()和last_value()的用法和原理,以及在查询销售记录日期和部门中的应用。通过示例和解释,详细说明了first_value()和last_value()的功能和不同之处。同时,对于last_value()的结果出现不一样的情况进行了解释,并提供了理解last_value()默认统计范围的方法。该文对于使用Oracle分析函数的开发人员和数据库管理员具有参考价值。 ... [详细]
  • MyBatis错题分析解析及注意事项
    本文对MyBatis的错题进行了分析和解析,同时介绍了使用MyBatis时需要注意的一些事项,如resultMap的使用、SqlSession和SqlSessionFactory的获取方式、动态SQL中的else元素和when元素的使用、resource属性和url属性的配置方式、typeAliases的使用方法等。同时还指出了在属性名与查询字段名不一致时需要使用resultMap进行结果映射,而不能使用resultType。 ... [详细]
author-avatar
手机用户2702938540
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有