System优化
从系统方面考虑,性能通常取决于connection的连接效率和Integration Service所在机器的负荷程度,常见的原因有:
多用户同时使用
不同的网络协议
网络上有多个路由及转换
源和目标数据库的I/O效率低
源和目标文件系统的I/O效率低
domain内node的I/O效率低
通常在如下方面进行优化:
1 提高网速
通过monitor检测网速是否正常,若不正常可考虑以下几种方式:
1) 如果session使用数据库作为源或目标,可减少Integration Service和目标及源的网络跳数,也可将数据库迁往服务器系统
2) 如果session使用文件作为源或目标,且Integration Service在单个节点上运行,可将文件存储在与Integration Service相同机器上
因为本地访问的速度通常是网络访问的5-20倍
如果文件是在其他的服务器上,则需要通过网络进行访问,而网络的好坏是会影响到性能的
因此,针对这种情况,可先将文件传到Integration Service所在机器上并增加磁盘空间,然后在运行session
3) 如果session包含多个分区,需确保网络有足够的带宽处理整个网络范围内的来自个分区的数据传输
2 使用多CPU
多CPU可让多个session及管道分区同时运行
但是,多CPU会导致I/O方面的问题,因为多CPU可使多个session及管道分区同时进行,如果它们都要进行I/O处理的话会降低整体的I/O效率
因此,要适当减少需要同时进行I/O操作的session及管道分区的数量
3 减少分页
当物理内存不足时,操作系统会进行分页操作。减少分页操作会减少系统的I/O操作
可增加物理内存或释放内存,内存的使用情况可通过系统工具进行监控
通常在下列情况下需要增加内存:
1) session中使用了需要大缓存的组件,如lookup
2) session使用了多个分区
4 使用CPU绑定
在多CPU的UNIX操作系统环境中,Integration Service使用了大量的系统资源。可通过CPU绑定来控制Integration Service对系统资源的使用
因为会导致在同一台机器的其他应用内存不足
如果目标或源数据库也在Integration Service所在的服务器,可使用CPU绑定来限制数据库所使用的资源
不同的操作系统有不同的命令行操作来进行CPU绑定,具体请参照个操作系统的官方文档
System优化的更多相关文章
- hbase definitive guide 笔记
ext3 file system 优化 ext3 在用在hbase上可以做如下优化: 1. mount的时候加上noatime选项.这可以减少管理开销 2. 用命令tune2fs -m 0 /dev/ ...
- C#、.Net代码精简优化(空操作符(??)、as、string.IsNullOrEmpty() 、 string.IsNullOrWhiteSpace()、string.Equals()、System.IO.Path 的用法)
一.空操作符(??)在程序中经常会遇到对字符串或是对象判断null的操作,如果为null则给空值或是一个指定的值.通常我们会这样来处理: .string name = value; if (name ...
- Spring+SpringMVC+MyBatis+easyUI整合优化篇(一)System.out.print与Log
日常啰嗦 距离上一次更新博客有一段时间了,主要是因为最近有开发任务,另外,这段时间也在学习docker的相关知识,所以博客就没有继续写了,推荐一本书<Docker技术入门与实战>(第二版) ...
- System Generator 参数优化
System Generator 参数优化 通过命令行调试参数 然后编译,查看资源消耗.
- Spring+SpringMVC+MyBatis+easyUI整合优化篇(一)Java语言中System.out.print与Log的比较
作者:13 GitHub:https://github.com/ZHENFENG13 版权声明:本文为原创文章,未经允许不得转载. 前言 距离上一次更新博客有一段时间了,主要是因为最近有开发任务,另外 ...
- 高并发场景下System.currentTimeMillis()的性能问题的优化 以及SnowFlakeIdWorker高性能ID生成器
package xxx; import java.sql.Timestamp; import java.util.concurrent.*; import java.util.concurrent.a ...
- 高并发场景下System.currentTimeMillis()的性能问题的优化
高并发场景下System.currentTimeMillis()的性能问题的优化 package cn.ucaner.alpaca.common.util.key; import java.sql.T ...
- 雪花算法对System.currentTimeMillis()优化真的有用么?
前面已经讲过了雪花算法,里面使用了System.currentTimeMillis()获取时间,有一种说法是认为System.currentTimeMillis()慢,是因为每次调用都会去跟系统打一次 ...
- Entity Framework优化一:引发了“System.Data.Entity.Core.EntityCommandExecutionException”类型的异常
错误信息: “System.Data.Entity.Core.EntityCommandExecutionException”类型的异常在 EntityFramework.SqlServer.dll ...
随机推荐
- Awesome CLI
请移步https://github.com/zhuxiaoxi/awesome-online-tools 欢迎一同维护这个列表 jq JSON工具 shellcheck 更好用的Shell语法检查 c ...
- Lightning Conductor 洛谷P3515 决策单调性优化DP
遇见的第一道决策单调性优化DP,虽然看了题解,但是新技能√,很开森. 先%FlashHu大佬,反正我是看了他的题解和精美的配图才明白的,%%%巨佬. 废话不多说,看题: 题目大意 已知一个长度为n的序 ...
- GWAS分析基本流程及分析思路
数据预处理(DNA genotyping.Quality control.Imputation) QC的工作可以做PLINK上完成Imputation的工作用IMPUTE2完成 2. 表型数据统计分析 ...
- 【NOIP2013模拟】终极武器(经典分析+二分区间)
No.2. [NOIP2013模拟]终极武器 题意: 给定你一些区间,然后让你找出\(1\sim 9\)中的等价类数字. 也就是说在任何一个区间里的任何一个数,把其中后\(k\)位中的某一位换成等价类 ...
- Pandas系列(七)-计算工具介绍
内容目录 1. 统计函数 2. 窗口函数 3. 加深加强 数据准备 # 导入相关库 import numpy as np import pandas as pd #Pandas 中包含了非常丰富的计算 ...
- AngularJS DI(依赖注入)实现推测
AngularJS DI(依赖注入) http://www.cnblogs.com/whitewolf/archive/2012/09/11/2680659.html 回到angularjs:在框架中 ...
- MVC控制器返回一个list 视图接收
控制器 public ActionResult InfoFrame() { List<Users> list = new List<Users>(); if (Session[ ...
- python3 asyncio-协程模块测试代码
import time import asyncio #统计运行时间的装饰器 def run_time(func): def wrapperfunc(*argv, **kwargv): now = l ...
- webpack 代码优化压缩方法
在配置基于webpack的react单页面脚手架时,公共依赖库代码打包至vender.js中,页面逻辑代码打包至app.js中,使用webpack-bundle-analyzer分析发现,两个js中包 ...
- Linux性能工具图册-便于查阅
该图表示了,Linux系统哪种问题用哪种工具