复杂Excel转换与导入
需求
把不同客户提供Excel 直接导入到系统中生成对应的收货单或是出货单。后端创建收货端和出货单的接口已经有现成的webservice或是标准的xml；这类需要做的就是把客户提供不同种类的Excel mapping成标准格式。
要重点解决问题
不同格式的excel如何找到对应的数据项，比如一个Excel中需要字段分别在不同的sheet或是不同的位置上。
解决方案
第一个定位配置信息，sheet-name：数据从哪个sheet中读取，默认sheet1,start-tag:固定标识,查找Excel中一些特殊文本信息来定位具体的celladdress(行，列)，data-offset:设置一个偏移量，在找到具体内容的地址后可能真正需要数据在后面，那就需要设置一个偏移量待读取信息， end-tag:结束位置，用于循环读取的范围。
第二个映射字段明，XmlNode Name:就是目标字段明，data-field:Excel中对应的字段名称（含有表头的行）,data-type:目标字段的类型，data-formatter:格式化截取excel Cell中的内容 比如：需要通过substring,或splitl来取其中的内容。
第三个表示单个表头，还是循环的表体 replicate="true" 表示需要循环读取。
大致的处理过程
先根据配置规则把Excel中需要的信息提取出来并生成一个XML文档，如果标准的接口XML结构和数据都比较复杂，那么还需要使用XSLT语言来做更复杂的mapping，满足后端服务的要求。
实际运行的过程
原始Excel
配置规则XML
转换成初步XML
实现的代码
代码非常的简单，还是第一个版本，以后再慢慢优化和重构
class Program
{
static async Task Main(string[] args)
{
var path = @"d:\9C箱单0000880680.xlsx";
var configpath = @"d:\XslImportRule1.xml";
var xdoc = XDocument.Load(configpath);
var root = xdoc.Root.Name;
var descxml = new XDocument();
descxml.Add(new XElement(xdoc.Root.Name));
var workbook = new XSSFWorkbook(path);
Process(workbook,null, xdoc.Root, , descxml.Root,null);
descxml.Save("d:\\output.xml");
return;
}
static void Process(IWorkbook book, ISheet sheet, XElement element, int depth, XElement root,DataRow dr)
{
var pelment = element.Parent;
var name = element.Name;
var atts = element.Attributes();
var replicate = atts.Where(x => x.Name == "replicate").FirstOrDefault()?.Value;
var sheetname = atts.Where(x => x.Name == "sheet-name").FirstOrDefault()?.Value;
var starttag = atts.Where(x => x.Name == "start-tag").FirstOrDefault()?.Value;
var start = atts.Where(x => x.Name == "start").FirstOrDefault()?.Value;
var endtag = atts.Where(x => x.Name == "end-tag").FirstOrDefault()?.Value;
var end = atts.Where(x => x.Name == "end").FirstOrDefault()?.Value;
var fieldname = atts.Where(x => x.Name == "data-field").Select(x => x.Value).FirstOrDefault();
var datatype = atts.Where(x => x.Name == "data-type").Select(x => x.Value);
var defaultvalue = atts.Where(x => x.Name == "data-default").FirstOrDefault()?.Value;
var formatter = atts.Where(x => x.Name == "data-formatter").FirstOrDefault()?.Value;
var offset = atts.Where(x => x.Name == "data-offset").FirstOrDefault()?.Value;
XElement copyelement = null; //if (element.Parent != null )
//{
// copyelement = new XElement(name);
// root.Add(copyelement);
//}
if (!string.IsNullOrEmpty(replicate) && !string.IsNullOrEmpty(sheetname)) {
sheet = book.GetSheet(sheetname);
} if (!element.HasElements)
{
copyelement = new XElement(name);
root.Add(copyelement);
// element is child with no descendants
if (dr == null)
{
CellAddress celladdress = null;
if (!string.IsNullOrEmpty(starttag))
{
celladdress = findXslx(sheet, starttag);
}
else if (!string.IsNullOrEmpty(start))
{
celladdress = new CellAddress(new CellReference(start));
}
if (celladdress != null)
{
var r = ;
var c = ;
if (!string.IsNullOrEmpty(offset))
{
var sp = offset.Split(';');
foreach (var ts in sp)
{
var sparray = ts.Split(':');
if (sparray[].Equals("c", StringComparison.OrdinalIgnoreCase))
{
c = Convert.ToInt32(sparray[]);
}
else
{
r = Convert.ToInt32(sparray[]);
}
}
}
var cell = sheet.GetRow(celladdress.Row + r).GetCell(celladdress.Column + c);
var val = getCellValue(cell);
if (string.IsNullOrEmpty(val) && !string.IsNullOrEmpty(defaultvalue))
{
val = defaultvalue;
}
if (!string.IsNullOrEmpty(val) && !string.IsNullOrEmpty(formatter))
{
var codescript = formatter.Replace("$", "\"" + val + "\"");
var fval = CSharpScript.EvaluateAsync<string>(codescript).Result;
val = fval;
}
copyelement.SetValue(val);
}
else if (!string.IsNullOrEmpty(defaultvalue))
{
copyelement.SetValue(defaultvalue);
}
}
else
{
if(dr.Table.Columns.Contains(fieldname))
{
var val = dr[fieldname].ToString();
if (string.IsNullOrEmpty(val) && !string.IsNullOrEmpty(defaultvalue))
{
val = defaultvalue; }
copyelement.SetValue(val);
}
else if(!string.IsNullOrEmpty(defaultvalue))
{
copyelement.SetValue(defaultvalue);
}
} }
else
{
depth++;
if (replicate == "true")
{
var datatable= filldatatable(sheet, starttag, start, endtag, end, offset);
if (datatable.Rows.Count > )
{
foreach (DataRow datarow in datatable.Rows)
{
copyelement = new XElement(name);
foreach (var child in element.Elements())
{
if (copyelement != null)
{
Process(book, sheet, child, depth, copyelement, datarow);
}
else
{
Process(book, sheet, child, depth, root, datarow);
} }
root.Add(copyelement);
}
}
}
else
{
if (element.Parent != null)
{
copyelement = new XElement(name);
root.Add(copyelement);
}
foreach (var child in element.Elements())
{
if (copyelement != null)
{
Process(book,sheet, child, depth, copyelement,null);
}
else
{
Process(book,sheet, child, depth, root,null);
} }
} depth--;
}
} private static DataTable filldatatable(ISheet sheet, string starttag, string start, string endtag, string end, string offset)
{
CellAddress startaddress = null;
CellAddress endaddress = null;
if (!string.IsNullOrEmpty(starttag))
{
startaddress = findXslx(sheet, starttag);
}
else if (!string.IsNullOrEmpty(start))
{
startaddress = new CellAddress(new CellReference(start));
}
else
{
startaddress = new CellAddress(new CellReference("A0"));
}
if (!string.IsNullOrEmpty(endtag))
{
endaddress = findXslx(sheet, endtag);
}
else if (!string.IsNullOrEmpty(end))
{
endaddress = new CellAddress(new CellReference(end));
}
else
{
endaddress = null;
}
var offsetr = ;
var offsetc = ;
if (!string.IsNullOrEmpty(offset))
{
var sp = offset.Split(';');
foreach (var ts in sp)
{
var sparray = ts.Split(':');
if (sparray[].Equals("c", StringComparison.OrdinalIgnoreCase))
{
offsetc = Convert.ToInt32(sparray[]);
}
else
{
offsetr = Convert.ToInt32(sparray[]);
}
}
}
var firstrow = startaddress == null ? sheet.FirstRowNum : startaddress.Row + offsetr;
var lastrow = (endaddress == null) ? sheet.LastRowNum : endaddress.Row;
var table = new DataTable();
var lastcell = ; //row.LastCellNum;
var firstcell = ; //row.FirstCellNum + offsetc;
for (int r = firstrow; r < lastrow; r++)
{
var row = sheet.GetRow(r);
if (row == null) continue; if (r == firstrow)
{
lastcell = row.LastCellNum;
firstcell = row.FirstCellNum + offsetc;
for (int c = firstcell; c < lastcell; c++)
{
var cell = row.GetCell(c);
if (cell == null) continue;
var strval = getCellValue(cell).Trim();
if (!string.IsNullOrEmpty(strval))
{
table.Columns.Add(new DataColumn(strval));
}
}
}
else
{
var dataRow = table.NewRow();
var array = new string[table.Columns.Count];
//for (var c = 0; c < table.Columns.Count; c++)
//{
// var cell = row.GetCell(firstcell+c);
// var val = getCellValue(cell).Trim();
// array[c] = val;
//}
for (int c = firstcell; c < lastcell; c++)
{
var cell = row.GetCell(c);
var val = getCellValue(cell).Trim();
array[c- firstcell] = val;
}
dataRow.ItemArray = array;
table.Rows.Add(dataRow);
}
}
return table;
} private static CellAddress findXslx(ISheet sheet, string key)
{
var lastrow = sheet.LastRowNum;
var firstrow = sheet.FirstRowNum;
for (int r = firstrow; r < lastrow; r++)
{
var row = sheet.GetRow(r);
if (row == null) continue;
var lastcell = row.LastCellNum;
var firstcell = row.FirstCellNum;
for (int c = firstcell; c < lastcell; c++)
{
var cell = row.GetCell(c);
if (cell == null) continue;
var strval = getCellValue(cell).Trim();
//if (strval.Trim().Equals(key, StringComparison.OrdinalIgnoreCase))
//{
// return cell.Address;
//}
if (match(key, strval))
{
return cell.Address;
}
}
}
return null;
}
private static string getCellValue(ICell cell)
{
if (cell == null)
{
return string.Empty;
}
var dataFormatter = new DataFormatter(CultureInfo.CurrentCulture); // If this is not part of a merge cell,
// just get this cell's value like normal.
if (!cell.IsMergedCell)
{
return dataFormatter.FormatCellValue(cell);
} // Otherwise, we need to find the value of this merged cell.
else
{
// Get current sheet.
var currentSheet = cell.Sheet; // Loop through all merge regions in this sheet.
for (int i = ; i < currentSheet.NumMergedRegions; i++)
{
var mergeRegion = currentSheet.GetMergedRegion(i); // If this merged region contains this cell.
if (mergeRegion.FirstRow <= cell.RowIndex && cell.RowIndex <= mergeRegion.LastRow &&
mergeRegion.FirstColumn <= cell.ColumnIndex && cell.ColumnIndex <= mergeRegion.LastColumn)
{
// Find the top-most and left-most cell in this region.
var firstRegionCell = currentSheet.GetRow(mergeRegion.FirstRow)
.GetCell(mergeRegion.FirstColumn); // And return its value.
return dataFormatter.FormatCellValue(firstRegionCell);
}
}
// This should never happen.
throw new Exception("Cannot find this cell in any merged region");
}
} static bool match(string pattern, string input)
{
if (String.Compare(pattern, input) == )
{
return true;
}
else if (String.IsNullOrEmpty(input))
{
if (String.IsNullOrEmpty(pattern.Trim(new Char[] { '*' })))
{
return true;
}
else
{
return false;
}
}
else if (pattern.Length == )
{
return false;
}
else if (pattern[] == '?')
{
return match(pattern.Substring(), input.Substring());
}
else if (pattern[pattern.Length - ] == '?')
{
return match(pattern.Substring(, pattern.Length - ),
input.Substring(, input.Length - ));
}
else if (pattern[] == '*')
{
if (match(pattern.Substring(), input))
{
return true;
}
else
{
return match(pattern, input.Substring());
}
}
else if (pattern[pattern.Length - ] == '*')
{
if (match(pattern.Substring(, pattern.Length - ), input))
{
return true;
}
else
{
return match(pattern, input.Substring(, input.Length - ));
}
}
else if (pattern[] == input[])
{
return match(pattern.Substring(), input.Substring());
}
return false;
}
}
}
代码库
https://github.com/neozhu/excelcompleximport
最近还会继续更新
复杂Excel转换与导入的更多相关文章
- piap.excel 微软 时间戳转换mssql sql server文件时间戳转换unix 导入mysql
piap.excel 微软 时间戳转换mssql sql server文件时间戳转换unix 导入mysql 需要不个mssql的sql文件导入mysql.他们的时间戳格式不同..ms用的是自定义的时 ...
- SQL SERVER 与ACCESS、EXCEL的数据导入导出转换
* 说明:复制表(只复制结构,源表名:a 新表名:b) select * into b from a where 1<>1 * 说明:拷贝表(拷贝数据,源表名:a 目标表名:b) ...
- TestLink学习七：TestLink测试用例Excel转换XML工具
TestLink对于测试用例的管理来说,是蛮强大的,但是在导入导出这块,功能有点弱,本文针对测试用例的导入,转载了一个Excel转换成xml工具. 1.根据到处的测试用例xml,定义一下我的Excel ...
- 将Excel中数据导入数据库（三）
上篇文章将Excel中数据导入数据库时,将从Excel读入的数据均转换成了数据库相应字段的类型,其实这是没有必要的,因为对于数据库各种类型的插入,均可以字符串格式插入.比如表WQ_SWMSAR_A字段 ...
- 将Excel中数据导入数据库（二）
在上篇文章中介绍到将Excel中数据导入到数据库中,但上篇文章例子只出现了nvachar类型,且数据量很小.今天碰到将Excel中数据导入数据库中的Excel有6419行,其中每行均有48个字段,有i ...
- 转：TestLink1.9.3测试用例：Excel转换XML工具<二>实现代码
TestLink1.9.3测试用例:Excel转换XML工具<二>实现代码 http://blog.csdn.net/candle806/article/details/7490599 以 ...
- 转：Excel转换XML工具<一>
http://blog.csdn.net/candle806/article/details/7441695最近在整理测试用例,所以想找一个合适的工具来完成对测试需求.测试用例的管理.对比了一翻,发现 ...
- 把Excel的数据导入到数据库
将Excel作为数据源,将数据导入数据库,是SSIS的一个简单的应用,下图是示例Excel,数据列是code和name 第一部分,Excel中的数据类型是数值类型 1,使用SSDT创建一个packag ...
- SQL SERVER 和ACCESS、EXCEL的数据导入导出
SQL SERVER 与ACCESS.EXCEL之间的数据转换SQL SERVER 和ACCESS的数据导入导出[日期:2007-05-06] 来源:Linux公社 作者:Linux 熟 悉 ...
随机推荐
- 【开源】使用Angular9和TypeScript开发RPG游戏
RPG系统构造 通过对于斗罗大陆小说的游戏化过程,熟悉Angular的结构以及使用TypeScript的面向对象开发方法. 项目地址 人物 和其他RPG游戏类似,游戏里面的人物角色大致有这样的一些属性 ...
- wpf xaml CS0426 错误原因
wpf 程序集中 类命名空间名称和类名不能相同,否则在 xaml生成 i.g.cs时,会导致 自动生成代码无法推到处是类型还是命名空间的问题. 触发这个错误的条件是类命名空间 与 类名相同 并 ...
- 关于PS切图
现在前端项目中碰到越来越多的图片处理问题,虽然找自己公司UI小哥哥小姐姐可以解决,但是每次都找不仅要看别人有没有时间,更得看人家脸色 唉,自己摸索着来吧(多图,流量党请注意切换WiFi): 通常切图的 ...
- go第三方常用包
配置 go-ini/ini 用于读取 ini 格式配置文件. 地址:https://github.com/Go-ini/ini tomal 用于读取 conf 格式配置文件. 地址:https://g ...
- Django魔法
(●'◡'●)
- 最大比率传输（Maximum Ratio Transmission， MRT）原理分析
转载请注明出处. 最大比率发射(Maximum Ratio Transmission, MRT)是文献中经常看见的一个词,今天就在这里做一下笔记. 参考文献为:T. K. Y. Lo, "M ...
- node 模块载入原理【1】
简单介绍 我们会从简单的模块载入原理来开始,尝试阅读下 Node.js 源代码.首先我们知道 Node.js 的源代码主要是由 C++ 和 JavaScript 编写的,JS 部分主要在 lib 目录 ...
- 如何在Linux系统上安装nginx
安装Nginx 下载Nginx 到官网http://nginx.org/下载对应nginx包,推荐使用稳定版本进入官网之后界面如下 点击download进行到下一页 然后下载所需要的版本(强烈建议 ...
- [React]Context机制
在React中,Context机制是为了方便在组件树间传递数据. 例子 import React from 'react' const themes={ light:"亮色主题", ...
- spring 事务源码赏析（二）
我们在spring 事务源码赏析(一) 中分析了spring事务是如何找到目标方法,并如何将事务的逻辑织入到我们的业务逻辑中.本篇我们将会看到spring事务的核心实现: 1.事务传播机制的实现 2. ...