一、插入数优化(insert)
平时我们插入数据的时候一般都是一个语句插一个数据,如下所示:
insert into tb_test values(1,'tom'); insert into tb_test values(2,'cat'); insert into tb_test values(3,'jerry');
如果我们需要一次性往数据库表中插入多条记录,可以从以下三个方面进行优化。
1.insert插入的优化方案
(1)优化方案一
Insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
上面这个语句我们之前是使用过的,相较于一条语句插入一个数据,一次性插入批量数据效率必然是更高的,这就不需要多次开启和提交事务了,节约时间。
(2)优化方案二
start transaction; insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry'); insert into tb_test values(4,'Tom'),(5,'Cat'),(6,'Jerry'); insert into tb_test values(7,'Tom'),(8,'Cat'),(9,'Jerry'); commit;
手动控制事务,其实这个语句的就是方法1的本质,也就是通过一次事务去提交,避免多次开启事务的情况。
(3)优化方案三
主键顺序插入,性能要高于乱序插入。这个应该没什么好多说了,排序肯定是需要耗时间的。
主键乱序插入 : 8 1 9 21 88 2 4 15 89 5 7 3 主键顺序插入 : 1 2 3 4 5 7 8 9 15 21 88 89
2 大批量插入数据
如果一次性需要插入大批量数据 ( 比如 : 几百万的记录 ) ,使用 insert 语句插入性能较低,此时可以使
用 MySQL 数据库提供的load指令进行插入。操作如下:
可以执行如下指令,将数据脚本文件中的数据加载到表结构中:
-- 客户端连接服务端时,加上参数 -–local-infile mysql –-local-infile -u root -p-- 设置全局参数local_infile为1,开启从本地加载文件导入数据的开关 set global local_infile = 1;-- 执行load指令将准备好的数据,加载到表结构中 load data local infile '/root/sql1.log' into table tb_user fields terminated by ',' lines terminated by '\n' ;
补充说明:
对于load指令的语句中,fields terminated by意思是每一个字段之间间隔符号用什么
lines terminated by意思是每一行间距是用什么。
这里我们先去查看一下local infile开了没有
select @@local_infile;
开启成功后,下面就开始建表进行数据的插入了。
CREATE TABLE `tb_user` ( `id` INT(11) NOT NULL AUTO_INCREMENT, `username` VARCHAR(50) NOT NULL, `password` VARCHAR(50) NOT NULL, `name` VARCHAR(20) NOT NULL, `birthday` DATE DEFAULT NULL, `sex` CHAR(1) DEFAULT NULL, PRIMARY KEY (`id`), UNIQUE KEY `unique_user_username` (`username`) ) ENGINE=INNODB DEFAULT CHARSET=utf8 ;
在load时,主键顺序插入性能高于乱序插入二、主键优化
在上面,我们提到,主键顺序插入的性能是要高于乱序插入的。 这一小节,就来介绍一下具体的原因,然后再分析一下主键又该如何设计。
1.数据组织方式
在 InnoDB 存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表
(index organized table IOT)。2. 页分裂 页可以为空,也可以填充一半,也可以填充 100% 。每个页包含了 2-N 行数据 ( 如果一行数据过大,会行溢出) ,根据主键排列。 A. 主键顺序插入效果 ① . 从磁盘中申请页, 主键顺序插入上述的这种现象,称之为 "页分裂",是比较耗费性能的操作。
MERGE_THRESHOLD:合并页的阈值,可以自己设置,在创建表或者创建索引时指定。4. 索引设计原则 满足业务需求的情况下,尽量降低主键的长度。 插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键。 尽量不要使用UUID做主键或者是其他自然主键,如身份证号。 业务操作时,避免对主键的修改。来源:https://blog.csdn.net/m0_73633088/article/details/137425511