SSIS WITH VERTICA的注意事项总结



项目中使用到SSIS访问vertica,以下是我使用中总结的一些注意事项:
1.vertica对约束的处理方式与之前的DBMS是不同的。
以上的截图说明,在使用ado.net provider连接vertica进行数据加载的时候,ssis 返回的信息是不准确的。这不是provider的问题,使用odbc时也遇到过类似的问题。
a.在SSIS中图显示全部绿色,表示执行成功,但是到vertica中查询,却没有发现一条记录。
后仔细检查发现,source中的数据违反了vertica中的一个not null 约束,数据没有进去,但是没有报错误提示。 Ssis path中显示343条记录,但是实际上只有341条记录,也有两条记录违反约束。
但是没有错误提示。
b.给表添加了unique(primary)约束,但是数据仍然可以是重复的。vertica官方文档说是vertica这样做加快了处理速度,减少了检查约束造成的性能损失,有利于大量数据加载。
你可以使用ANALYZE_CONSTRAINTS('shcema.tablename')来检查表中的违约情况。
那是不是就需要你保证数据在进入之前是符合条件的?还是需要怎么处理?
2.vertica is case sensitive when compare row content.
Select table_name from tables where table_name='abc' or table_name='Abc'
是不同的
3.vertica中的merge有些限制与mssqlserver是不同的,它不允许使用subquery,也不允许对表中有identity或bind senquence的column存在的时候进行merge.
You should find some workaround to do this when you need merge to load data.
a.not need subquery, you can use temp table.
b.not used identity column, you can remove them , or unbind the column and sequence.
You should know that , when you create a identity column, in fact, vertica create a sequence and bind this to your column.
4.jdbc ,ado.net provider中处理的数据精度和vsql client tool是不一样的,timestamp类型默认可以接受6位以内的微秒精度。但是在jdbc 或 ado.net provider 作为连接的工具中查询时,你是无法看到这些秒后面的小数值的,如果你使用这种字段作为增量加载的依据,你会发现有一定的误差。
我暂时的处理方案是让它转成varchar类型后接收,这样不会丢失精度。
5.vertica支持到sql92标准,很多sql statement 的写法是与sqlserver的Tsql是不同的,以下是我发现的一些常见的不同之处,很多是因为那是TSQL中的实现,不是标准的sql.
a.top n in tsql, you should change to limit n when you want to restrict the record counts. b.you can not delete records in CTE. This is also tsql's specification. c.update and delete statement different with tsql. tsql: delete from a from mytablea as a join mytableb as b on a.column1=b.column1 and a.column2=b.column2 and …. vsql: delete from mytablea where exists (select null from mytableb as b where mytablea.column1=b.column1 and a.column2=b.column2 ) tsql: update a set a.c3=b.c3 ,a.c4=b.c4 from mytablea as a join mytableb as b on a .c1=b.c1 and a.c2=b.c2 Vsql: Update mytablea Set mytablea.c3=b.c3 ,mytablea.c4=b.c4 From mytableb as b Where mytablea.c1=b.c2 And mytablea.c2=b.c2
6.vertica中没有bit类型,可以使用布尔替换,它创建索引的时候不能指定desc或asc,它默认是创建为升序的。Identity column不用指定数据类型, 现在会默认为bigint。
Create table mytable(rowid identity(1,1),rowname varchar(10))
SSIS WITH VERTICA的注意事项总结的更多相关文章
- SSIS with vertica
使用ODBC进行连接,因为SSIS中没有直接的ODBC connection,所以使用ADO.NET的连接器. 九分钟才跑了四百来条数据. 这个图反应了SSIS的数据流速度还是可以的,但是瓶颈就在OD ...
- 内存中 OLTP - 常见的工作负荷模式和迁移注意事项(二)
----------------------------我是分割线------------------------------- 本文翻译自微软白皮书<In-Memory OLTP – Comm ...
- 第二篇 Integration Services:SSIS数据泵
本篇文章是Integration Services系列的第二篇,详细内容请参考原文. 简介SSIS用于移动数据.数据流任务提供此功能.因为这个原因,当介绍SSIS时我喜欢从数据流任务开始.数据流任务的 ...
- SSIS 学习(8):事务【转】
事务,在数据库开发与应用中,发挥了重要的作用,但在Integration Services 包开发过程中,我们还一直没有提到过这个概念,它是不是还是如此,能让各数据库兄弟和睦相处,团结一致,同进退.共 ...
- 在SSIS包中使用 Checkpoint从失败处重新启动包
使用SSIS做ETL的过程中会遇到各种各样的错误,对于一些大数据量的Job失败以后我们不希望重新运行,因为重新运行的时间开销是非常大的,我们只希望从失败的部分开始运行,这样可以省去很多的时间. SSI ...
- 微软BI 之SSIS 系列 - 通过 OLE DB 连接访问 Excel 2013 以及对不同 Sheet 页的数据处理
文章更新历史 2014年9月7日 - 加入了部分更新内容,在文章最后提到了关于不同 Office Excel 版本间的连接问题. 开篇介绍 这篇文章主要总结在 SSIS 中访问和处理 Excel 数据 ...
- SSIS 遍历目录,把文件内容导入数据库
最近接手一个项目,程序的基本框架是:程序A导出数据,以.tsv格式存储,数据列之间以tab间隔:程序B吃文档,把数据导入到数据库中,并把处理过的文档备份/移动到指定的目录中.为了快速开发,程序B设计成 ...
- 【译】第二篇 Integration Services:SSIS数据泵
本篇文章是Integration Services系列的第二篇,详细内容请参考原文. 简介SSIS用于移动数据.数据流任务提供此功能.因为这个原因,当介绍SSIS时我喜欢从数据流任务开始.数据流任务的 ...
- HP Vertica Analytics Platform 评測
1.vertica概念 面向数据分析的数据仓库系统解决方式 2.vertica关键特性 Ø 标准的SQL接口:能够利用已有的BI.ETL.Hadoop/MapReduce和OLTP环境 Ø 高可用 ...
随机推荐
- 那些教程没有的php1-基础知识补漏
php.net 字符串 heredoc结构 类似双引号,其中的变量会被解析.严格遵循下边的格式,结束标识符这行除了可能有一个分号(;)外,绝对不能包含其它字符. <?php $str = < ...
- ahjesus js 快速求幂
/* 快速幂计算,传统计算方式如果幂次是100就要循环100遍求值 快速幂计算只需要循环7次即可 求x的y次方 x^y可以做如下分解 把y转换为2进制,设第n位的值为i,计算第n位的权为x^(2^(n ...
- SQL数据库基础(六)
子查询,又叫做嵌套查询. 将一个查询语句做为一个结果集供其他SQL语句使用,就像使用普通的表一样,被当作结果集的查询语句被称为子查询. 子查询有两种类型: 一种是只返回一个单值的子查询,这时它可以用在 ...
- java微信开发(wechat4j)——得到微信请求参数
微信平台会在请求的post数据中带有一些参数,例如用户的openid之类的信息,当你使用了wechat4j之后,得到这些信息是非常方便的. public class Lejian extends We ...
- Sharepoint 2013 创建TimeJob 自动发送邮件
创建Time Job 继承继承SPJobDefinition 并且实现里边的 Execute方法 部署 可以手动部署,把程序集放到GAC,手动激活feature 如果部署的时候说feature已经存在 ...
- Arcengine实现创建网络数据集札记(一)
一 引子 网络数据集,GIS空间分析基础的理论和知识,是最短路径分析.连通性分析等其他空间分析技术的数据基础. 以往,网络数据集的研究很少,此次项目开发过程中,对网络数据集以及arcengine创建网 ...
- SeismicPro地震剖面显示程序
SeismicPro是一个地震剖面显示软件,可从标准SEGY地震数据体中抽取纵测线和横测线的二维剖面,并以波形.变面积和变密度等多种方式进行专业化显示,可进行一键式显示方式切换,并可进行定制开发叠加井 ...
- IO流-输入输出
java的I/O技术可以将数据保存到文本.二进制.ZIP压缩文件中,下面来说说一些基本的常识(今天只讲理论).先来说说流,何为流?“流就是一组有序的数据序列,根据操作的类型,可以分为输入(Input) ...
- Android 文件访问权限的四种模式
Linux文件的访问权限* 在Android中,每一个应用是一个独立的用户* drwxrwxrwx* 第1位:d表示文件夹,-表示文件* 第2-4位:rwx,表示这个文件的拥有者(创建这个文件的应用) ...
- 深入理解Activity -动手写实例来感受Activity的启动模式
介绍 上篇提到了Activity的任务,任务栈,以及启动模式.对这些概念有了了解以后,自己写一下例子来感受一下,就当作复习和加深印象了.如果对概念不熟悉的可以参考:深入理解Activity-任务,回退 ...