复杂Excel转换与导入
需求
把不同客户提供Excel 直接导入到系统中生成对应的收货单或是出货单。后端创建收货端和出货单的接口已经有现成的webservice或是标准的xml;这类需要做的就是把客户提供不同种类的Excel mapping成标准格式。
要重点解决问题
不同格式的excel如何找到对应的数据项,比如一个Excel中需要字段分别在不同的sheet或是不同的位置上。
解决方案
第一个定位配置信息,sheet-name:数据从哪个sheet中读取,默认sheet1,start-tag:固定标识,查找Excel中一些特殊文本信息来定位具体的celladdress(行,列),data-offset:设置一个偏移量,在找到具体内容的地址后可能真正需要数据在后面,那就需要设置一个偏移量待读取信息, end-tag:结束位置,用于循环读取的范围。
第二个映射字段明,XmlNode Name:就是目标字段明,data-field:Excel中对应的字段名称(含有表头的行),data-type:目标字段的类型,data-formatter:格式化截取excel Cell中的内容 比如:需要通过substring,或splitl来取其中的内容。
第三个表示单个表头,还是循环的表体 replicate="true" 表示需要循环读取。
大致的处理过程
先根据配置规则把Excel中需要的信息提取出来并生成一个XML文档,如果标准的接口XML结构和数据都比较复杂,那么还需要使用XSLT语言来做更复杂的mapping,满足后端服务的要求。
实际运行的过程
原始Excel
配置规则XML
转换成初步XML
实现的代码
代码非常的简单,还是第一个版本,以后再慢慢优化和重构
class Program
{
static async Task Main(string[] args)
{
var path = @"d:\9C箱单0000880680.xlsx";
var configpath = @"d:\XslImportRule1.xml";
var xdoc = XDocument.Load(configpath);
var root = xdoc.Root.Name;
var descxml = new XDocument();
descxml.Add(new XElement(xdoc.Root.Name));
var workbook = new XSSFWorkbook(path);
Process(workbook,null, xdoc.Root, , descxml.Root,null);
descxml.Save("d:\\output.xml");
return;
}
static void Process(IWorkbook book, ISheet sheet, XElement element, int depth, XElement root,DataRow dr)
{
var pelment = element.Parent;
var name = element.Name;
var atts = element.Attributes();
var replicate = atts.Where(x => x.Name == "replicate").FirstOrDefault()?.Value;
var sheetname = atts.Where(x => x.Name == "sheet-name").FirstOrDefault()?.Value;
var starttag = atts.Where(x => x.Name == "start-tag").FirstOrDefault()?.Value;
var start = atts.Where(x => x.Name == "start").FirstOrDefault()?.Value;
var endtag = atts.Where(x => x.Name == "end-tag").FirstOrDefault()?.Value;
var end = atts.Where(x => x.Name == "end").FirstOrDefault()?.Value;
var fieldname = atts.Where(x => x.Name == "data-field").Select(x => x.Value).FirstOrDefault();
var datatype = atts.Where(x => x.Name == "data-type").Select(x => x.Value);
var defaultvalue = atts.Where(x => x.Name == "data-default").FirstOrDefault()?.Value;
var formatter = atts.Where(x => x.Name == "data-formatter").FirstOrDefault()?.Value;
var offset = atts.Where(x => x.Name == "data-offset").FirstOrDefault()?.Value;
XElement copyelement = null; //if (element.Parent != null )
//{
// copyelement = new XElement(name);
// root.Add(copyelement);
//}
if (!string.IsNullOrEmpty(replicate) && !string.IsNullOrEmpty(sheetname)) {
sheet = book.GetSheet(sheetname);
} if (!element.HasElements)
{
copyelement = new XElement(name);
root.Add(copyelement);
// element is child with no descendants
if (dr == null)
{
CellAddress celladdress = null;
if (!string.IsNullOrEmpty(starttag))
{
celladdress = findXslx(sheet, starttag);
}
else if (!string.IsNullOrEmpty(start))
{
celladdress = new CellAddress(new CellReference(start));
}
if (celladdress != null)
{
var r = ;
var c = ;
if (!string.IsNullOrEmpty(offset))
{
var sp = offset.Split(';');
foreach (var ts in sp)
{
var sparray = ts.Split(':');
if (sparray[].Equals("c", StringComparison.OrdinalIgnoreCase))
{
c = Convert.ToInt32(sparray[]);
}
else
{
r = Convert.ToInt32(sparray[]);
}
}
}
var cell = sheet.GetRow(celladdress.Row + r).GetCell(celladdress.Column + c);
var val = getCellValue(cell);
if (string.IsNullOrEmpty(val) && !string.IsNullOrEmpty(defaultvalue))
{
val = defaultvalue;
}
if (!string.IsNullOrEmpty(val) && !string.IsNullOrEmpty(formatter))
{
var codescript = formatter.Replace("$", "\"" + val + "\"");
var fval = CSharpScript.EvaluateAsync<string>(codescript).Result;
val = fval;
}
copyelement.SetValue(val);
}
else if (!string.IsNullOrEmpty(defaultvalue))
{
copyelement.SetValue(defaultvalue);
}
}
else
{
if(dr.Table.Columns.Contains(fieldname))
{
var val = dr[fieldname].ToString();
if (string.IsNullOrEmpty(val) && !string.IsNullOrEmpty(defaultvalue))
{
val = defaultvalue; }
copyelement.SetValue(val);
}
else if(!string.IsNullOrEmpty(defaultvalue))
{
copyelement.SetValue(defaultvalue);
}
} }
else
{
depth++;
if (replicate == "true")
{
var datatable= filldatatable(sheet, starttag, start, endtag, end, offset);
if (datatable.Rows.Count > )
{
foreach (DataRow datarow in datatable.Rows)
{
copyelement = new XElement(name);
foreach (var child in element.Elements())
{
if (copyelement != null)
{
Process(book, sheet, child, depth, copyelement, datarow);
}
else
{
Process(book, sheet, child, depth, root, datarow);
} }
root.Add(copyelement);
}
}
}
else
{
if (element.Parent != null)
{
copyelement = new XElement(name);
root.Add(copyelement);
}
foreach (var child in element.Elements())
{
if (copyelement != null)
{
Process(book,sheet, child, depth, copyelement,null);
}
else
{
Process(book,sheet, child, depth, root,null);
} }
} depth--;
}
} private static DataTable filldatatable(ISheet sheet, string starttag, string start, string endtag, string end, string offset)
{
CellAddress startaddress = null;
CellAddress endaddress = null;
if (!string.IsNullOrEmpty(starttag))
{
startaddress = findXslx(sheet, starttag);
}
else if (!string.IsNullOrEmpty(start))
{
startaddress = new CellAddress(new CellReference(start));
}
else
{
startaddress = new CellAddress(new CellReference("A0"));
}
if (!string.IsNullOrEmpty(endtag))
{
endaddress = findXslx(sheet, endtag);
}
else if (!string.IsNullOrEmpty(end))
{
endaddress = new CellAddress(new CellReference(end));
}
else
{
endaddress = null;
}
var offsetr = ;
var offsetc = ;
if (!string.IsNullOrEmpty(offset))
{
var sp = offset.Split(';');
foreach (var ts in sp)
{
var sparray = ts.Split(':');
if (sparray[].Equals("c", StringComparison.OrdinalIgnoreCase))
{
offsetc = Convert.ToInt32(sparray[]);
}
else
{
offsetr = Convert.ToInt32(sparray[]);
}
}
}
var firstrow = startaddress == null ? sheet.FirstRowNum : startaddress.Row + offsetr;
var lastrow = (endaddress == null) ? sheet.LastRowNum : endaddress.Row;
var table = new DataTable();
var lastcell = ; //row.LastCellNum;
var firstcell = ; //row.FirstCellNum + offsetc;
for (int r = firstrow; r < lastrow; r++)
{
var row = sheet.GetRow(r);
if (row == null) continue; if (r == firstrow)
{
lastcell = row.LastCellNum;
firstcell = row.FirstCellNum + offsetc;
for (int c = firstcell; c < lastcell; c++)
{
var cell = row.GetCell(c);
if (cell == null) continue;
var strval = getCellValue(cell).Trim();
if (!string.IsNullOrEmpty(strval))
{
table.Columns.Add(new DataColumn(strval));
}
}
}
else
{
var dataRow = table.NewRow();
var array = new string[table.Columns.Count];
//for (var c = 0; c < table.Columns.Count; c++)
//{
// var cell = row.GetCell(firstcell+c);
// var val = getCellValue(cell).Trim();
// array[c] = val;
//}
for (int c = firstcell; c < lastcell; c++)
{
var cell = row.GetCell(c);
var val = getCellValue(cell).Trim();
array[c- firstcell] = val;
}
dataRow.ItemArray = array;
table.Rows.Add(dataRow);
}
}
return table;
} private static CellAddress findXslx(ISheet sheet, string key)
{
var lastrow = sheet.LastRowNum;
var firstrow = sheet.FirstRowNum;
for (int r = firstrow; r < lastrow; r++)
{
var row = sheet.GetRow(r);
if (row == null) continue;
var lastcell = row.LastCellNum;
var firstcell = row.FirstCellNum;
for (int c = firstcell; c < lastcell; c++)
{
var cell = row.GetCell(c);
if (cell == null) continue;
var strval = getCellValue(cell).Trim();
//if (strval.Trim().Equals(key, StringComparison.OrdinalIgnoreCase))
//{
// return cell.Address;
//}
if (match(key, strval))
{
return cell.Address;
}
}
}
return null;
}
private static string getCellValue(ICell cell)
{
if (cell == null)
{
return string.Empty;
}
var dataFormatter = new DataFormatter(CultureInfo.CurrentCulture); // If this is not part of a merge cell,
// just get this cell's value like normal.
if (!cell.IsMergedCell)
{
return dataFormatter.FormatCellValue(cell);
} // Otherwise, we need to find the value of this merged cell.
else
{
// Get current sheet.
var currentSheet = cell.Sheet; // Loop through all merge regions in this sheet.
for (int i = ; i < currentSheet.NumMergedRegions; i++)
{
var mergeRegion = currentSheet.GetMergedRegion(i); // If this merged region contains this cell.
if (mergeRegion.FirstRow <= cell.RowIndex && cell.RowIndex <= mergeRegion.LastRow &&
mergeRegion.FirstColumn <= cell.ColumnIndex && cell.ColumnIndex <= mergeRegion.LastColumn)
{
// Find the top-most and left-most cell in this region.
var firstRegionCell = currentSheet.GetRow(mergeRegion.FirstRow)
.GetCell(mergeRegion.FirstColumn); // And return its value.
return dataFormatter.FormatCellValue(firstRegionCell);
}
}
// This should never happen.
throw new Exception("Cannot find this cell in any merged region");
}
} static bool match(string pattern, string input)
{
if (String.Compare(pattern, input) == )
{
return true;
}
else if (String.IsNullOrEmpty(input))
{
if (String.IsNullOrEmpty(pattern.Trim(new Char[] { '*' })))
{
return true;
}
else
{
return false;
}
}
else if (pattern.Length == )
{
return false;
}
else if (pattern[] == '?')
{
return match(pattern.Substring(), input.Substring());
}
else if (pattern[pattern.Length - ] == '?')
{
return match(pattern.Substring(, pattern.Length - ),
input.Substring(, input.Length - ));
}
else if (pattern[] == '*')
{
if (match(pattern.Substring(), input))
{
return true;
}
else
{
return match(pattern, input.Substring());
}
}
else if (pattern[pattern.Length - ] == '*')
{
if (match(pattern.Substring(, pattern.Length - ), input))
{
return true;
}
else
{
return match(pattern, input.Substring(, input.Length - ));
}
}
else if (pattern[] == input[])
{
return match(pattern.Substring(), input.Substring());
}
return false;
}
}
}
代码库
https://github.com/neozhu/excelcompleximport
最近还会继续更新
复杂Excel转换与导入的更多相关文章
- piap.excel 微软 时间戳转换mssql sql server文件时间戳转换unix 导入mysql
piap.excel 微软 时间戳转换mssql sql server文件时间戳转换unix 导入mysql 需要不个mssql的sql文件导入mysql.他们的时间戳格式不同..ms用的是自定义的时 ...
- SQL SERVER 与ACCESS、EXCEL的数据导入导出转换
* 说明:复制表(只复制结构,源表名:a 新表名:b) select * into b from a where 1<>1 * 说明:拷贝表(拷贝数据,源表名:a 目标表名:b) ...
- TestLink学习七:TestLink测试用例Excel转换XML工具
TestLink对于测试用例的管理来说,是蛮强大的,但是在导入导出这块,功能有点弱,本文针对测试用例的导入,转载了一个Excel转换成xml工具. 1.根据到处的测试用例xml,定义一下我的Excel ...
- 将Excel中数据导入数据库(三)
上篇文章将Excel中数据导入数据库时,将从Excel读入的数据均转换成了数据库相应字段的类型,其实这是没有必要的,因为对于数据库各种类型的插入,均可以字符串格式插入.比如表WQ_SWMSAR_A字段 ...
- 将Excel中数据导入数据库(二)
在上篇文章中介绍到将Excel中数据导入到数据库中,但上篇文章例子只出现了nvachar类型,且数据量很小.今天碰到将Excel中数据导入数据库中的Excel有6419行,其中每行均有48个字段,有i ...
- 转:TestLink1.9.3测试用例:Excel转换XML工具<二>实现代码
TestLink1.9.3测试用例:Excel转换XML工具<二>实现代码 http://blog.csdn.net/candle806/article/details/7490599 以 ...
- 转:Excel转换XML工具<一>
http://blog.csdn.net/candle806/article/details/7441695最近在整理测试用例,所以想找一个合适的工具来完成对测试需求.测试用例的管理.对比了一翻,发现 ...
- 把Excel的数据导入到数据库
将Excel作为数据源,将数据导入数据库,是SSIS的一个简单的应用,下图是示例Excel,数据列是code和name 第一部分,Excel中的数据类型是数值类型 1,使用SSDT创建一个packag ...
- SQL SERVER 和ACCESS、EXCEL的数据导入导出
SQL SERVER 与ACCESS.EXCEL之间的数据转换SQL SERVER 和ACCESS的数据导入导出[日期:2007-05-06] 来源:Linux公社 作者:Linux 熟 悉 ...
随机推荐
- SQL语句中,如何使用含有if....else...判断语句
在我们开发中,有时要对数据库中的数据按照条件进行查询,用到if else类似的语句进行判断,那么if else语句只有在存储过程,触发器之类的才有,但是要在sql上当满足某种条件上要取不同的字段值,刚 ...
- 嵌入式LCD闪烁--emWin使用内存设备避免闪烁
0.引子 近日在论坛看到有人说屏幕闪烁,问道怎么解决.在嵌入式gui使用方面,屏幕闪烁一般多出现在多个窗口层叠.多图层层叠.更新图层时.受限于接口速度,即使屏幕有很高的刷新率,也做不到无闪烁,所以要从 ...
- python环境变量忘记配置
Python安装没有勾选配置环境变量安装 解决方法一: 于是,便用安装包卸载后重新安装. 重新安装勾选 安装成功 方法二: 配置环境变量 A.右键点击“我的电脑”,点击“属性”: B.在弹出的界面中点 ...
- SpringBoot启动的时候出现log4j警告(配置文件找不到)
SpringBoot启动的时候报如下的警告 在启动SpringBoot项目的时候,idea出现如下警告信息,也就是log4j 配置文件找不到的问题 log4j:WARN No appenders co ...
- [Unity] Unity 2019.1.14f 在Terrain中使用Paint Texture的方法
1.点击Terrain中的Paint Texture按钮2.将按钮下面的下拉菜单选择paint texture3.点击Edit Terrain Layers按钮T4.点击弹出菜单的Create Lay ...
- SpringBoot 整合 MyCat 实现读写分离
MyCat一个彻底开源的,面向企业应用开发的大数据库集群.基于阿里开源的Cobar产品而研发.能满足数据库数据大量存储:提高了查询性能.文章介绍如何实现MyCat连接MySQL实现主从分离,并集成Sp ...
- 【狂神说】JAVA Mybatis 笔记+源码
简介 自学的[狂神JAVA]MyBatis GitHub源码: https://github.com/Donkequan/Mybatis-Study 分享自写源码和笔记 配置用的 jdk13.0.2 ...
- 【笔记3-31】Python语言基础-元组tuple
创建元组 my_tuple = () my_tuple1 = 1, 2, 3, 4, 5, 6 元组解包 与元组元素数量一致 a,s,d,f,g,h = my_tuple1 a, b, c, *f = ...
- Nginx Rewrite规则的break和last示例
break和last各自的作用 官方解释 last:stops processing the current set of ngx_http_rewrite_module directives fol ...
- WePY的开发环境的安装
2020-03-24 1.安装Node.js 官网:https://nodejs.org/ 两个版本 LTS为稳定的长期支持版本 Current为最新的版本 安装完毕后,cmd下输入 node -v ...