将Excel上千条数据写入到数据库中
简要说明:因工作需要,需要一张Excel表格中的所有数据导入到数据库中。如下表,当然这只是一部分,一共一千多条。

前期处理:
首先要保证上图中的Excel表格中的数据不能为空,如果有为空的数据,可以稍微进行处理,比如将所有为空的数据替换成加一个空格。(我的这个解析器只能解析Microsoft Excel 97-2003 工作表 (.xls)这个格式的表格,如果不是这个形式的需要进行转化。)
然后就是找一个添加页面,添加一个上传附件的功能,即添加一个type类型为file的input标签。比如
<input name="file" type="file" />
下面的内容即我这次需要导入Excel表格内容时的方法。
public void excelImport(ModelMap model,HttpServletRequest request,
HttpServletResponse response) throws Exception{
MultipartHttpServletRequest mrequest = (MultipartHttpServletRequest)request;
MultipartFile uploadFile = mrequest.getFile("file");
File dirFile = FileUtil.mkDir(Common.getRealPath(request) + Constant.UPLOAD_EXCEL);
//将excel表格的内容整合到一个新建的实体类中(新建实体类对应excel表格字段内容)
ImportExcel<Oils1> importExcel=new ImportExcel<Oils1>(Oils1.class);
Map<Integer, String> fieldDesc = new HashMap<Integer, String>();
fieldDesc.put(1, "gys");//燃油供应商
fieldDesc.put(2, "jyg");//加油港
//船报油品资料
fieldDesc.put(3, "viscosity");//运动粘度50°C
fieldDesc.put(4, "density");//密度15°C
fieldDesc.put(5, "shangdian");//闪点
fieldDesc.put(6, "sulphur");//硫含量
fieldDesc.put(7, "ash");//灰分
fieldDesc.put(8, "vanadium");//钒
fieldDesc.put(9, "sodium");//钠
importExcel.setFieldDesc(fieldDesc);
//解析器
Map<String, ExcelDateResolver> resolver = new HashMap<String, ExcelDateResolver>();
importExcel.setResolver(resolver);
if(!Common.isNull(uploadFile) && !uploadFile.isEmpty()){
String newFileName = Common.getNewFileName(uploadFile.getOriginalFilename(), "");
File saveFile = new File(dirFile.getAbsoluteFile() + "/" + newFileName);
FileCopyUtils.copy(uploadFile.getBytes(), saveFile);
//解析excel 之后会生成一个list,这个list是newModel类型的。
List<Oils1> list=importExcel.parse2(saveFile.getAbsolutePath(), 2);
//System.out.println(list.size());
//整合execl数据,并将数据存入数据库中
for(int i=0;i<list.size();i++){
Oils1 e=list.get(i);
//添加供油商 因为我的实体类中有一些数据是在字典表中获取,所以需//要进行处理然后添加。如果看不懂可以绿色部分直接略过
String gys=e.getGys();
TSysDate g=oilsManager.getByDname(gys);
if(g==null){
g=new TSysDate();
g.setPid(Long.parseLong("51"));
g.setIsDel(Variable.UN_DEL);
g.setDname(gys);
oilsManager.doSave(g);
}
//添加加油港
String jyg=e.getJyg();
TSysDate ts=oilsManager.getByDname(jyg);
if(ts==null){
ts=new TSysDate();
ts.setPid(Long.parseLong("48"));
ts.setIsDel(Variable.UN_DEL);
ts.setDname(jyg);
oilsManager.doSave(ts);
}
Oils o=new Oils();
//e就是代表从list中循环出来的每个对象,从e对象中获取数据放到需//要放的实体类中
o.setAsh(e.getAsh()); //灰分
o.setDensity(e.getDensity()); //密度
o.setFlash(e.getFlash()); //闪点
o.setSulphur(e.getSulphur()); //硫
o.setViscosity(e.getViscosity()); //粘度
o.setSodium(e.getSodium()); //钠
o.setDensity(e.getDensity()); //密度
o.setBay(ts); //加油港
o.setSupplier(g); //供油商
o.setIsDel(Variable.UN_DEL);
oilsManager.doSave(o);
}
}
System.out.println("导入Excel文件[成功]");
}
详解:
第一步后台获取页面中上传的文件,并进行一一注解,从第一列开始起个别名。切记要在项目中创建一个新的实体类newModel,并将每个字段设置set、get方法。新的实体类newModel对应图片中的内容。
第二步进行解析,如下方法
public List<T> parse2(String filePath,int beginRow) throws Exception {
List<T> rets = new ArrayList<T>();
// 提取 column
Workbook wb = null;
fis = new FileInputStream(new File(filePath));
wb = create(fis);
if(wb==null){
return null;
}
// 获得了Workbook对象之后,就可以通过它得到Sheet(工作表)对象了
sheet = wb.getSheetAt(this.sheetNum);
// System.out.println("row-size="+sheet.getLastRowNum());
for(int i=beginRow;i<=sheet.getLastRowNum();i++){
Row row=sheet.getRow(i);
// System.out.println("row="+i);
Object b = beanClass.newInstance();
for (Integer idx : fieldDesc.keySet()) {
// System.out.println("idx="+idx);
row.getCell(idx).setCellType(Cell.CELL_TYPE_STRING);
Cell cell=row.getCell(idx);
// System.out.println(fieldDesc.get(idx)+"---;"+cell.getStringCellValue());
if (resolver.containsKey(fieldDesc.get(idx))) {
if(cell.getStringCellValue()!=null&&!"".equals(cell.getStringCellValue())){
Date ret = resolver.get(fieldDesc.get(idx)).parse(cell.getStringCellValue());
BeanUtils.setProperty(b, fieldDesc.get(idx),ret);
}else{
BeanUtils.setProperty(b, fieldDesc.get(idx),new Date());
}
}else{
if(cell.getStringCellValue()==null){
BeanUtils.setProperty(b, fieldDesc.get(idx),null);
}else{
BeanUtils.setProperty(b, fieldDesc.get(idx),cell.getStringCellValue());
}
}
}
rets.add((T) b);
}
return rets;
}
解析完成后,会获得一个list,将list循环并插入到实体类中对应的数据中。
以下是我这次导入时所建的所有类,以上内容如果看不太懂的话,可以直接复制之后自己研究
以下为上文中所谓的newModel,为导入Excel表格所建的实体类,有些字段是多余的,可以不要。
public class Oils1 implements Serializable{
private String oilsname; //油品名称
private String ypzl; //油品种类
private String yycd; //原油产地
private String jyg; //加油港
private String gys; //供油商
private Double sulphur; //含硫量
private Double viscosity; //粘度
private Double ash; //灰分
private Double sodium; //钠含量
private Double vanadium; //钒含量
private Double density; //密度
private Double heat; //热值
private Double flash; //闪点
private Double pour; //倾点
private Double pitch; //沥青分
private Double cetane; //十六烷值
private Double diesel; //柴油指数
private Double cloub; //浊点
public String getOilsname() {
return oilsname;
}
public String getYycd() {
return yycd;
}
public void setYycd(String yycd) {
this.yycd = yycd;
}
public String getJyg() {
return jyg;
}
public void setJyg(String jyg) {
this.jyg = jyg;
}
public String getGys() {
return gys;
}
public void setGys(String gys) {
this.gys = gys;
}
public void setOilsname(String oilsname) {
this.oilsname = oilsname;
}
public Double getSulphur() {
return sulphur;
}
public String getYpzl() {
return ypzl;
}
public void setYpzl(String ypzl) {
this.ypzl = ypzl;
}
public void setSulphur(Double sulphur) {
this.sulphur = sulphur;
}
public Double getViscosity() {
return viscosity;
}
public void setViscosity(Double viscosity) {
this.viscosity = viscosity;
}
public Double getAsh() {
return ash;
}
public void setAsh(Double ash) {
this.ash = ash;
}
public Double getSodium() {
return sodium;
}
public void setSodium(Double sodium) {
this.sodium = sodium;
}
public Double getVanadium() {
return vanadium;
}
public void setVanadium(Double vanadium) {
this.vanadium = vanadium;
}
public Double getDensity() {
return density;
}
public void setDensity(Double density) {
this.density = density;
}
public Double getHeat() {
return heat;
}
public void setHeat(Double heat) {
this.heat = heat;
}
public Double getFlash() {
return flash;
}
public void setFlash(Double flash) {
this.flash = flash;
}
public Double getPour() {
return pour;
}
public void setPour(Double pour) {
this.pour = pour;
}
public Double getPitch() {
return pitch;
}
public void setPitch(Double pitch) {
this.pitch = pitch;
}
public Double getCetane() {
return cetane;
}
public void setCetane(Double cetane) {
this.cetane = cetane;
}
public Double getDiesel() {
return diesel;
}
public void setDiesel(Double diesel) {
this.diesel = diesel;
}
public Double getCloub() {
return cloub;
}
public void setCloub(Double cloub) {
this.cloub = cloub;
}
}
以下为导入Excel表格所建的的一个类,建一个ImportExcel类,然后直接将以下方法复制粘贴进去即可。
public class ImportExcel<T> {
private Map<Integer, String> fieldDesc = new HashMap<Integer, String>();
private Class<T> beanClass;
private InputStream fis = null;
private Sheet sheet = null;
private int sheetNum=0;
//解析器
private Map<String, ExcelDateResolver> resolver = new LinkedHashMap<String, ExcelDateResolver>();
public ImportExcel(Class<T> c) {
beanClass = c;
}
public List<T> parse(String filePath,int beginRow) throws Exception {
List<T> rets = new ArrayList<T>();
// 提取 column
Workbook wb = null;
fis = new FileInputStream(new File(filePath));
wb = create(fis);
if(wb==null){
return null;
}
// 获得了Workbook对象之后,就可以通过它得到Sheet(工作表)对象了
sheet = wb.getSheetAt(this.sheetNum);
for(int i=beginRow;i<=sheet.getLastRowNum();i++){
Row row=sheet.getRow(i);
Object b = beanClass.newInstance();
for (Integer idx : fieldDesc.keySet()) {
row.getCell(idx).setCellType(Cell.CELL_TYPE_STRING);
Cell cell=row.getCell(idx);
if (resolver.containsKey(fieldDesc.get(idx))) {
if(cell.getStringCellValue()!=null&&!"".equals(cell.getStringCellValue())){
Date ret = resolver.get(fieldDesc.get(idx)).parse(cell.getStringCellValue());
BeanUtils.setProperty(b, fieldDesc.get(idx),ret);
}else{
BeanUtils.setProperty(b, fieldDesc.get(idx),new Date());
}
}else{
BeanUtils.setProperty(b, fieldDesc.get(idx),cell.getStringCellValue());
}
}
rets.add((T) b);
}
return rets;
}
public List<T> parse2(String filePath,int beginRow) throws Exception {
List<T> rets = new ArrayList<T>();
// 提取 column
Workbook wb = null;
fis = new FileInputStream(new File(filePath));
wb = create(fis);
if(wb==null){
return null;
}
// 获得了Workbook对象之后,就可以通过它得到Sheet(工作表)对象了
sheet = wb.getSheetAt(this.sheetNum);
// System.out.println("row-size="+sheet.getLastRowNum());
for(int i=beginRow;i<=sheet.getLastRowNum();i++){
Row row=sheet.getRow(i);
// System.out.println("row="+i);
Object b = beanClass.newInstance();
for (Integer idx : fieldDesc.keySet()) {
// System.out.println("idx="+idx);
row.getCell(idx).setCellType(Cell.CELL_TYPE_STRING);
Cell cell=row.getCell(idx);
// System.out.println(fieldDesc.get(idx)+"---;"+cell.getStringCellValue());
if (resolver.containsKey(fieldDesc.get(idx))) {
if(cell.getStringCellValue()!=null&&!"".equals(cell.getStringCellValue())){
Date ret = resolver.get(fieldDesc.get(idx)).parse(cell.getStringCellValue());
BeanUtils.setProperty(b, fieldDesc.get(idx),ret);
}else{
BeanUtils.setProperty(b, fieldDesc.get(idx),new Date());
}
}else{
if(cell.getStringCellValue()==null){
BeanUtils.setProperty(b, fieldDesc.get(idx),null);
}else{
BeanUtils.setProperty(b, fieldDesc.get(idx),cell.getStringCellValue());
}
}
}
rets.add((T) b);
}
return rets;
}
public Workbook create(InputStream inp) throws IOException {
if (!inp.markSupported()) {
inp = new PushbackInputStream(inp, 8);
}
if (POIFSFileSystem.hasPOIFSHeader(inp)) {
return new HSSFWorkbook(inp);
}
throw new IllegalArgumentException("你的excel版本目前poi解析不了");
}
public void setFieldDesc(Map<Integer, String> fieldDesc) {
this.fieldDesc = fieldDesc;
}
public void setResolver(Map<String, ExcelDateResolver> resolver) {
this.resolver = resolver;
}
将Excel上千条数据写入到数据库中的更多相关文章
- 解析excel文件并将数据导入到数据库中
今天领导给安排了一个临时工作,让我将一个excel里面的数据解析后放入数据库中,经过一个下午的努力成功完成,现在将代码献上,希望对大家有所帮助 一.需要导入的jar 1.commons-collect ...
- MySQL往表里插入千条数据 存储过程
工作中遇到的问题,先记录一下,方便以后查看 存在两张表,user表和friend表 user表部分字段,如上图 friend表部分字段,如上图 往friend表插入千条数据,friend表中的user ...
- 检验Excel中数据是否与数据库中数据重复
#region 记录Excel中的重复列 /// <summary> /// 记录Excel中的重复列 /// </summary> /// <param name=&q ...
- mysql中造3千条数据(3种方法)
方法一:存储过程 1.存储过程如下: delimiter $$ DROP PROCEDURE IF EXISTS data CREATE PROCEDURE data(in i int) BEGIN ...
- 关于BufferedWriter.write超过30W条数据写入过慢问题。
原创文章,转载请注明出处! ------------------------------------------------------------ 今天接到一个项目需求变更,是关于从数据库查询到30 ...
- angular $index获取ng-repeat的上一条数据
<div ng-repeat="item in dataList" ng-click="func($index,$index-1)"></di ...
- element ui 渲染超过上百条数据时页面卡顿,更流畅的加载大量数据
问题:element ui table渲染上百条数据,页面渲染开始出现延时 解决方案:使用pl-table 注意:设置use-virtual并给定table高度
- [DJANGO] excel十几万行数据快速导入数据库研究
先贴原来的导入数据代码: 8 import os os.environ.setdefault("DJANGO_SETTINGS_MODULE", "www.setting ...
- Django中从本地上传excel文件并将数据存储到数据库
Django中从本地上传excel文件并将数据存储到数据库 一.前端界面 <div class="page-container"> <form action=&q ...
随机推荐
- Javascript 基础知识2017-03-17
JavaScript语法 1.单行注释:// 多行注释:*/ 2.基本数据类型: int 整数型 (不等于四舍五入,把小数舍去) string 字符型 ...
- python中的return的返回与执行
author:headsen chen date:2018-03-21 15:12:09 notice:created by headsen chen himself and not allo ...
- install-scp
centos6 minilize system will not scp command install: yum -y install openssh-clients and another mac ...
- npm包使用语义化版本号
npm 采用语义版本管理软件包.所谓语义版本,就是指版本号为a.b.c的形式,其中a是大版本号,b是小版本号,c是补丁号. 一个软件发布的时候,默认就是1.0.0版.如果以后发布补丁,就增加最后一位数 ...
- 深入解读 Js 中的面向对象编程
前言:今天看了一篇文章觉得很不错,所以给大家分享一下,也许很多人都看过面向对象编程甚至写过这样博客,觉得面向对象编程就那样,没啥好说的,那可能是因为你对这方面知识已经了解,可以选择性跳过.那如果有更通 ...
- 【Python】 Web开发框架的基本概念与开发的准备工作
Web框架基本概念 现在再来写这篇文章显然有些马后炮的意思.不过正是因为已经学习了Flask框架, 并且未来计划学习更加体系化的Django框架,在学习过程中碰到的很多术语等等,非常有必要通过这样一篇 ...
- mysql-5.7.12安装
CentOS 7的yum源中貌似没有正常安装mysql时的mysql-sever文件,需要去官网上下载 # wget http://dev.mysql.com/get/mysql-communit ...
- Java多线程:乐观锁、悲观锁、自旋锁
悲观锁(Pessimistic Lock), 顾名思义,就是很悲观,每次去拿数据的时候都认为别人会修改,所以每次在拿数据的时候都会上锁,这样别人想拿这个数据就会block直到它拿到锁.传统的关系型数据 ...
- Linux下的 >, >>, <, ps, |, grep, /dev/null
1 要将命令行运行的结果保存到文件中,truncate模式下使用 >,append模式下使用 >> ls > ~/test.txt 2 要将文件中的内容作为标准输入,应使用 & ...
- 获取android项目的数据库地址或者数据库名
你不需要知道该路径.只是使用数据库,你可以将它们删除的列表. for (String databaseName : context.databaseList()) { context.deleteDa ...