[oracle/java/sql]用于上十万批量数据插入Oracle表的Java程序
程序下载:https://files.cnblogs.com/files/xiandedanteng/LeftInnerNotExist20191222.rar
原理:Oracle的Insert all语法,说明文献:
代码:
1.DBParam
- package com.hy;
- /**
- * 数据库连接参数,按你的实际情况修改
- * @author 逆火
- *
- * 2019年11月16日 上午8:09:24
- */
- public final class DBParam {
- public final static String Driver = "oracle.jdbc.driver.OracleDriver";
- public final static String DbUrl = "jdbc:oracle:thin:@127.0.0.1:1521:orcl";
- public final static String User = "ufo";
- public final static String Pswd = "1234";
- }
2.TableRecordInserter
- package com.hy;
- import java.sql.Connection;
- import java.sql.DriverManager;
- import java.sql.SQLException;
- import java.sql.Statement;
- import java.text.MessageFormat;
- import java.util.ArrayList;
- import java.util.List;
- import java.util.Random;
- import org.apache.log4j.Logger;
- // Used to insert ten thousands of records to table
- public class TableRecordInserter {
- private static Logger log = Logger.getLogger(TableCreater.class);
- private final String Table="delivery_history07";// 表名在这里改
- private final int Total=500000;// 插入数据总量在这里改
- public boolean fillTable() {
- Connection conn = null;
- Statement stmt = null;
- try{
- Class.forName(DBParam.Driver).newInstance();
- conn = DriverManager.getConnection(DBParam.DbUrl, DBParam.User, DBParam.Pswd);
- conn.setAutoCommit(false);
- stmt = conn.createStatement();
- long startMs = System.currentTimeMillis();
- clearTable(stmt,conn);
- List<String> insertSqls=generateInsertSqlList();
- betachInsert(insertSqls,stmt,conn);
- long endMs = System.currentTimeMillis();
- log.info("It takes "+ms2DHMS(startMs,endMs)+" to fill "+Total+" records.");
- } catch (Exception e) {
- e.printStackTrace();
- } finally {
- try {
- stmt.close();
- conn.close();
- } catch (SQLException e) {
- System.out.print("Can't close stmt/conn because of " + e.getMessage());
- }
- }
- return false;
- }
- private void clearTable(Statement stmt,Connection conn) throws SQLException {
- stmt.executeUpdate("truncate table "+Table);
- conn.commit();
- log.info("Cleared table:'"+Table+"'.");
- }
- private int betachInsert(List<String> insertSqls,Statement stmt,Connection conn) throws SQLException {
- int inserted=0;
- final int BatchSize=250;
- int count=insertSqls.size();
- int index=0;
- int times=count/BatchSize;
- for(int i=0;i<times;i++) {
- StringBuilder sb=new StringBuilder();
- sb.append("INSERT ALL ");
- for(int j=0;j<BatchSize;j++) {
- index=i*BatchSize+j;
- sb.append(insertSqls.get(index));
- }
- sb.append(" select * from dual");
- String sql = sb.toString();
- int n=stmt.executeUpdate(sql);
- inserted+=n;
- conn.commit();
- log.info("#"+i+" inserted " +n+" records.");
- }
- return inserted;
- }
- // 具体如何插值需要根据你的业务修改,产生本地化SQL
- private List<String> generateInsertSqlList() {
- List<String> sqlList=new ArrayList<String>();
- int index=0;
- do {
- int orderNoRange=getRandom(1,100);// 调整order_no,L89
- int orderNo=index*1000+orderNoRange;
- for(int i=0;i<orderNoRange;i++) {
- int shipper_code=getShipperCode();
- String insertSql=getInsertSql(index,orderNo,shipper_code);
- sqlList.add(insertSql);
- index++;
- }
- }while(index<Total);
- log.info("generated "+sqlList.size()+" insert sqls.");
- return sqlList;
- }
- // get partial insert sql,这里字段名需要修改
- private String getInsertSql(int id,int orderNo,int shipperCode) {
- String raw=" INTO {0}(id,name, order_no,shipper_code,createtime) values(''{1}'',''{2}'',''{3}'',''{4}'',sysdate) ";
- String ids=String.valueOf(id);
- String name="N_"+ids;
- Object[] arr={Table,ids,name,String.valueOf(orderNo),String.valueOf(shipperCode)};
- return MessageFormat.format(raw, arr);
- }
- // get a random shipper-code
- private int getShipperCode() {
- int[] arr= {1111,2222,3333,4444,5555,6666,7777,8888,9999,1010,2020,3030,4040,5050,6060,7070,8080,9090,1011,2022,3033,4044,5055,6066,7077,8088,9099,1811,2822,3833,4844,5855,6866,7877,8888,9899};// 调整shipper_code,L120
- int seed=getRandom(0,arr.length-1);
- return arr[seed];
- }
- // get a random integer between min and max
- public static int getRandom(int min, int max){
- Random random = new Random();
- int rnd = random.nextInt(max) % (max - min + 1) + min;
- return rnd;
- }
- // change seconds to DayHourMinuteSecond format
- private static String ms2DHMS(long startMs, long endMs) {
- String retval = null;
- long secondCount = (endMs - startMs) / 1000;
- String ms = (endMs - startMs) % 1000 + "ms";
- long days = secondCount / (60 * 60 * 24);
- long hours = (secondCount % (60 * 60 * 24)) / (60 * 60);
- long minutes = (secondCount % (60 * 60)) / 60;
- long seconds = secondCount % 60;
- if (days > 0) {
- retval = days + "d" + hours + "h" + minutes + "m" + seconds + "s";
- } else if (hours > 0) {
- retval = hours + "h" + minutes + "m" + seconds + "s";
- } else if (minutes > 0) {
- retval = minutes + "m" + seconds + "s";
- } else {
- retval = seconds + "s";
- }
- return retval + ms;
- }
- // Entry point
- public static void main(String[] args) {
- TableRecordInserter tri=new TableRecordInserter();
- tri.fillTable();
- }
- }
--END-- 2019年12月22日13:53:10
[oracle/java/sql]用于上十万批量数据插入Oracle表的Java程序的更多相关文章
- Oracle PL/SQL Developer 上传下载Excel
接到需求,Oracle数据库对Excel数据进行上传和下载,百度后没有很全的方案,整理搜到的资料,以备不时之需. 一.下载Oracle数据到Excel中. 下载数据到Excel在MSSql中很简单,直 ...
- Oracle 导出、导入某用户所有数据(包括表、视图、存储过程...)
Oracle 导出.导入某用户所有数据(包括表.视图.存储过程...)前提:在CMD 命令下 导出命令:exp 用户名/密码@数据库 owner=用户名 file=文件存储路径(如:F:\abcd.d ...
- MySQL将表a中查询的数据插入到表b中
MySQL将表a中查询的数据插入到表b中 假设表b存在 insert into b select * from a; 假设表b不存在 create table b as select * from a ...
- 通过Oracle sql developer从sqlserver迁移数据到oracle
通过Oracle sql developer工具从sqlserver迁移数据到oracle 序言 一般情况下,sqlserver数据迁移到oracle,我们可以使用ODI来进行.但ODI的安装.配置. ...
- SQL Server Bulk Insert批量数据导入
SQL Server的Bulk Insert语句可以将本地或远程的数据文件批量导入到数据库中,速度非常的快.远程文件必须共享才行,文件路径须使用通用约定(UNC)名称,即"\\服务器名或IP ...
- MyBatis Plus 批量数据插入功能,yyds!
最近 Review 小伙伴代码的时候,发现了一个小小的问题,小伙伴竟然在 for 循环中进行了 insert (插入)数据库的操作,这就会导致每次循环时都会进行连接.插入.断开连接的操作,从而导致一定 ...
- yii批量数据插入
yii框架批量插入数据有两种方法,第一种是循环多次插入和一次批量插入,第一种方法要注意插入数据中间有一次数据插入失败要注意回滚事务 循环插入数据 第一种方法 $model = new User(); ...
- 将Sql查询语句获取的数据插入到List列表里面
Sql查询语句获取的数据是分格式的,我们还用SqlDataReader来做,然后用IDataReader来接收读取,以下是代码: //我想查询一个用户表的信息,该用户有姓名,密码,信息三列 //1.定 ...
- java 通过数据库名获得 该数据所有的表名以及字段名、字段类型
package com.nf.lc.sql_meta_data; import java.sql.*; import java.util.HashMap; import java.util.Map; ...
随机推荐
- DTC配置
在A和B上配置DTC(控制面板→管理工具→组件服务),配置参数如下: 使防火墙里的3个规则enable
- 【Mysql】Mysql root用户误删了或只剩下没有任何操作权限的用户怎么办
一.操作步骤 1.停止mysql服务:在mysql安装目录下找到mysqld.cnf:在mysqld.cnf中找到以下片段[mysqld]:另起一行加入代码:skip-grant-tables 并保 ...
- python导入模块被加横线
2018-07-03 04:20:41 bluelilyfly 阅读数 1238 版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:h ...
- 1062 Error 'Duplicate entry '1438019' for key 'PRIMARY'' on query
mysql主从库同步错误:1062 Error 'Duplicate entry '1438019' for key 'PRIMARY'' on querymysql主从库在同步时会发生1062 La ...
- .net反射机制的简单介绍
1.什么是反射 Reflection,中文翻译为反射. 这是.Net中获取运行时类型信息的方式,.Net的应用程序由几个部分: ‘程序集(Assembly)’.‘模块(Module)’.‘类型(cl ...
- windows强制删除文件和文件夹
包括只读类型 Deletes one or more files. DEL [/P] [/F] [/S] [/Q] [/A[[:]attributes]] namesERASE [/P] [/F] [ ...
- MySQL - binlog日志简介及设置
基本概念 binlog是Mysql sever层维护的一种二进制日志,与innodb引擎中的redo/undo log是完全不同的日志:其主要是用来记录对mysql数据更新或潜在发生更新的SQL语句, ...
- 网络I/O
贴几个超级不错的博客 1.Linux IO模式及 select.poll.epoll详解 2.网络 I/O 模型 3.同步异步阻塞非阻塞 4.三种模式的区别与联系
- OpenCV 学习笔记(0)两幅图像标定配准
参考教程 依赖opencv扩展库,使用sifi匹配 保存配准信息 "./config/calibratedPara.yaml" #include <iostream> ...
- Hibernate中对象的三种状态即save(),update(),saveOrUpdate()的使用【转】
当new一个user的时候,是处于瞬时状态 当调用session.save(user)的时候,user对象会放到session里,此时处于持久状态 当提交事务的时候,user对象才会存到DB中 当调用 ...