MySQL批量插入数据的几种方法
生活随笔
收集整理的這篇文章主要介紹了
MySQL批量插入数据的几种方法
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
最近公司要求測試數(shù)據(jù)庫的性能,就上網(wǎng)查了一些批量插入數(shù)據(jù)的代碼,發(fā)現(xiàn)有好幾種不同的用法,插入同樣數(shù)據(jù)的耗時也有區(qū)別
別的先不說,先上一段代碼與君共享
方法一:
package com.bigdata;import java.sql.Connection; import java.sql.Driver; import java.sql.DriverManager; import java.sql.PreparedStatement;public class TestBigData {/*** @param args* @throws Exception * @throws IllegalAccessException * @throws InstantiationException */public static void main(String[] args) throws Exception {//--------------------------------連接數(shù)據(jù)庫----------------------String driver="com.mysql.jdbc.Driver";String url="jdbc:mysql://127.0.0.1:3306/test";String user="root";String password="root";//1、新建驅(qū)動Driver driverInstance = (Driver) Class.forName(driver).newInstance();//2、注冊驅(qū)動DriverManager.registerDriver(driverInstance);//3、獲取連接Connection conn = DriverManager.getConnection(url, user, password);//----------------------對數(shù)據(jù)庫進行操作-------------------//記錄開始時間Long begin=System.currentTimeMillis();//-----------插入數(shù)據(jù)----------//sql語句前綴String sqlPre="insert into tb_big_db (count,create_time,random) values ";StringBuffer sb = new StringBuffer();//設(shè)置事務(wù)為非自動提交conn.setAutoCommit(false);//使用PrepareStatement更好PreparedStatement pstate = conn.prepareStatement("");//--------------------------十萬條數(shù)據(jù)-------------//設(shè)置外循環(huán),總提交事務(wù)的次數(shù)for(int i=0;i<100;i++){for(int j=0;j<10000;j++){//構(gòu)建sql后綴sb.append("("+j*i+",SYSDATE(),"+i*j*Math.random()+"),");}//構(gòu)建完整的sqlString sql = sqlPre + sb.substring(0, sb.length()-1);//添加sqlpstate.addBatch(sql);//執(zhí)行sqlpstate.executeBatch();//提交事務(wù)conn.commit();//清空StringBuffer上一次添加的sql語句sb = new StringBuffer();}//大循環(huán)完畢,關(guān)閉連接pstate.close();conn.close();//結(jié)束時間Long end = System.currentTimeMillis();System.out.println("10萬條數(shù)據(jù),插入數(shù)據(jù)庫耗時:"+(end-begin)+"ms");}}?耗時:1952ms
說明:這速度,不堪入目啊,公司的數(shù)據(jù)庫,不管從硬件還是軟件來看,都不行吶。
方法二:
package com.bigdata;import java.sql.Connection; import java.sql.Driver; import java.sql.DriverManager; import java.sql.PreparedStatement;public class TestBigData2 {public static void main(String[] args) throws Exception{//--------------------------------連接數(shù)據(jù)庫----------------------String driver="com.mysql.jdbc.Driver";String url="jdbc:mysql://127.0.0.1:3306/test";String user="root";String password="root";//1、新建驅(qū)動Driver driverInstance = (Driver) Class.forName(driver).newInstance();//2、注冊驅(qū)動DriverManager.registerDriver(driverInstance);//3、獲取連接Connection conn = DriverManager.getConnection(url, user, password);//-----------------------------------操作數(shù)據(jù)庫-----------------//記錄開始時間Long begin = System.currentTimeMillis();//動態(tài)sql語句String sql = "insert into tb_big_db (count,create_time,random) values (?,SYSDATE(),?)";//設(shè)置事務(wù)為非自動提交conn.setAutoCommit(false);//預(yù)編譯sqlPreparedStatement pstate = conn.prepareStatement(sql);//外循環(huán)10次for(int i=0;i<10;i++){//內(nèi)循環(huán)10000次for(int j=0;i<1000;j++){pstate.setLong(1, i*j);pstate.setLong(2, i*j);//添加到批處理上pstate.addBatch();}//批處理pstate.executeBatch();//提交conn.commit();}//關(guān)閉pstate.close();conn.close();//結(jié)束時間Long end = System.currentTimeMillis();System.out.println("插入10萬條數(shù)據(jù),耗時:"+(end-begin)+"ms");} }?耗時:未知,原因是我用這個方法測試的時候,居然給我報內(nèi)存溢出異常,說明這個方法需要的內(nèi)存大,耗時高,所以我和上面的方法一做了個對比。
由于2個方法都用來prepareStatement類,該類在執(zhí)行sql語句之前會對其進行預(yù)編譯,就是說先把sql準(zhǔn)備好先,用到的時候就直接用就可以了
方法一:通過代碼分析,可以明顯看到,方法一種的sql語句通過拼接成10條sql語句,故數(shù)據(jù)庫執(zhí)行語句時,只要執(zhí)行10條就好
方法二:可以看出,它每循環(huán)一次,就要addBach()一次,速度變得更加慢,有10000條就addBatch()一萬次,再批處理10次,所以速度變得慢是理所當(dāng)然的
轉(zhuǎn)載于:https://www.cnblogs.com/wcyBlog/p/4096792.html
總結(jié)
以上是生活随笔為你收集整理的MySQL批量插入数据的几种方法的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: android第一天
- 下一篇: pig 的chararry类型不能用比较