mysql插入10万测试_[原创]java使用JDBC向MySQL数据库批次插入10W条数据测试效率
使用JDBC連接MySQL數據庫進行數據插入的時候,特別是大批量數據連續插入(100000),如何提高效率呢?
在JDBC編程接口中Statement 有兩個方法特別值得注意:
通過使用addBatch()和executeBatch()這一對方法可以實現批量處理數據。
不過值得注意的是,首先需要在數據庫鏈接中設置手動提交,connection.setAutoCommit(false),然后在執行Statement之后執行connection.commit()。
importjava.io.BufferedReader;importjava.io.IOException;importjava.sql.DriverManager;importjava.sql.PreparedStatement;importjava.sql.SQLException;importjava.util.Date;importcom.mysql.jdbc.Connection;public classMysqlBatchUtil {private String sql="INSERT INTO db_test (param1,param2,param3,param4,param5) VALUES (?,?,?,?,?)";private String charset="utf-8";private String connectStr="jdbc:mysql://localhost:3306/test";private String username="root";private String password="123456";private void doStore() throwsClassNotFoundException, SQLException, IOException {
Class.forName("com.mysql.jdbc.Driver");
connectStr+= "?useServerPrepStmts=false&rewriteBatchedStatements=true";//此處是測試高效批次插入,去掉之后執行時普通批次插入
Connection conn =(Connection) DriverManager.getConnection(connectStr, username,password);
conn.setAutoCommit(false); //設置手動提交
int count = 0;
PreparedStatement psts=conn.prepareStatement(sql);
String line= null;
Date begin=newDate();for(int i=0;i<=100000;i++){
psts.setString(1, i+"param1");
psts.setString(2, i+"param2");
psts.setString(3, i+"param3");
psts.setString(4, i+"param4");
psts.setString(5, i+"param5");
psts.addBatch();//加入批量處理
count++;
}
psts.executeBatch();//執行批量處理
conn.commit(); //提交
Date end=newDate();
System.out.println("數量="+count);
System.out.println("運行時間="+(end.getTime()-begin.getTime()));
conn.close();
}public static voidmain(String[] args) {try{newMysqlBatchUtil().doStore();
}catch(ClassNotFoundException e) {
e.printStackTrace();
}catch(SQLException e) {
e.printStackTrace();
}catch(IOException e) {
e.printStackTrace();
}
}
}
測試結果:
數量=100001運行時間=4725
一共10W,執行時間一共花費 47 秒.
這個效率仍然不高,似乎沒有達到想要的效果,需要進一步改進。
在MySQL JDBC連接字符串中還可以加入參數,
rewriteBatchedStatements=true
mysql默認關閉了batch處理,通過此參數進行打開,這個參數可以重寫向數據庫提交的SQL語句
useServerPrepStmts=false
如果不開啟(useServerPrepStmts=false),使用com.mysql.jdbc.PreparedStatement進行本地SQL拼裝,最后送到db上就是已經替換了?后的最終SQL.
在此稍加改進,連接字符串中加入下面語句(代碼構造方法中去掉注釋):
connectStr += "?useServerPrepStmts=false&rewriteBatchedStatements=true";
再次測試結果如下:
數量=100001運行時間=1213
同樣的數據量,這次執行只花費了12秒 ,由此可見處理效率大大提高,呵呵,
注:文章是博主原創,轉載請注明來源啊,謝謝親!
總結
以上是生活随笔為你收集整理的mysql插入10万测试_[原创]java使用JDBC向MySQL数据库批次插入10W条数据测试效率的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: BugkuCTF-Misc:多彩
- 下一篇: 杂项题的基本解题思路——1、文件操作与隐