InfiniBand, RDMA, iWARP, RoCE , CNA, FCoE, TOE, RDMA, iWARP, iSCSI等概念 2017-12-15 15:37:00 jhzh951753 阅读数 1358更多 分类专栏: 存储   版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/jhzh951753/article/details/78813666 核心基础概念 FCoE:以…
CNA, FCoE, TOE, RDMA, iWARP, iSCSI等概念及 Chelsio T5 产品介绍 2016年09月01日 13:56:30 疯子19911109 阅读数:4823 标签: RDMA高速网络ChelsioCNAiWARP 更多 个人分类: 个人总结工具计算机网络   版权声明:本文为博主原创文章,未经博主允许不得转载. https://blog.csdn.net/wuzhimang/article/details/52399064 鉴于研究所的需求,最近开始研究Chel…
InfiniBand技术和协议架构分析 2017年06月06日 20:54:16 Hardy晗狄 阅读数:15207 标签: 云计算存储Infiniband 更多 个人分类: 存储云计算   版权声明:本文为博主原创文章,转载请注明作者和出处. https://blog.csdn.net/swingwang/article/details/72887367 Infiniband开放标准技术简化并加速了服务器之间的连接,同时支持服务器与远程存储和网络设备的连接. IB技术的发展 1999年开始起草…
https://blog.csdn.net/swingwang/article/details/72935461 InfiniBand主流厂商和产品分析 2017年06月08日 22:03:46 Hardy晗狄 阅读数:8318 标签: Infiniband云计算网络 更多 个人分类: 云计算   版权声明:本文为博主原创文章,转载请注明作者和出处. https://blog.csdn.net/swingwang/article/details/72935461 Mellanox成立于1999年…
InfiniBand 主流厂商 和 产品分析   Mellanox成立于1999年,总部设在美国加州和以色列,Mellanox公司是服务器和存储端到端连接InfiniBand解决方案的领先供应商.2010年底Mellanox完成了对著名Infiniband交换机厂商Voltaire公司的收购工作,使得Mellanox在HPC.云计算.数据中心.企业计算及存储市场上获得了更为全面的能力. 还有一家InfiniBand技术厂商就是Intel,Intel拿出1.25亿美元收购QLogic的Infini…
深入浅出全面解析RDMA 置顶 2018年06月04日 11:36:54 MasterT-J 阅读数 17193更多 所属专栏: RDMA   RDMA(RemoteDirect Memory Access)技术全称远程直接内存访问,就是为了解决网络传输中服务器端数据处理的延迟而产生的.它将数据直接从一台计算机的内存传输到另一台计算机,无需双方操作系统的介入.这允许高吞吐.低延迟的网络通信,尤其适合在大规模并行计算机集群中使用.RDMA通过网络把资料直接传入计算机的存储区,将数据从一个系统快速移…
一:首先根据系统发行版本下载对应的驱动,下载地址如下: http://www.mellanox.com/page/products_dyn?product_family=26&mtag=linux_sw_drivers 本次下载的驱动版本为:MLNX_OFED_LINUX-1.5.3-4.0.42-sles11-x86_64.tgz 二:添加针对当前内核的IB驱动 1.把下载好的mellanox驱动解压缩 linux:~ # tar xzvf MLNX_OFED_LINUX-1.5.3-4.0.…
Infiniband开放标准技术简化并加速了服务器之间的连接,同时支持服务器与远程存储和网络设备的连接. IB技术的发展 1999年开始起草规格及标准规范,2000年正式发表,但发展速度不及Rapid I/O.PCI-X.PCI-E和FC,加上Ethernet从1Gbps进展至10Gbps.所以直到2005年之后,InfiniBand Architecture(IBA)才在集群式超级计算机上广泛应用.全球Top 500大效能的超级计算机中有相当多套系统都使用上IBA. 随着越来越多的大厂商正在加…
计算所科研实践随笔 被淹没在论文海里的两个星期. 早上7:10分起床,草草洗漱,7:30出发,开始漫长的1小时通勤.从地铁站的安检口起,队便排的极长,让人看得头皮发麻.下到了轨道旁稍好,但每趟呼啸而来的地铁里都是满满当当,常常要等2,3趟我才能有幸站上去.我从不奢望座位.在等一趟不那么满的地铁的过程中,有时很满的地铁来了,门易开人墙难开,门快关时有些赶得急的人就踏上地铁背过身来拼命地往后压,最后强行挤出了个位置来,我在外面看得见那努力的表情. 虽说这行为不大雅观,素质上可能偏向于负面,但我脑子里…
重新审视RDMA的网络支持 本文为SIGCOMM 2018会议论文. 笔者翻译了该论文.由于时间仓促,且笔者英文能力有限,错误之处在所难免:欢迎读者批评指正. 本文及翻译版本仅用于学习使用.如果有任何不当,请联系笔者删除. Abstract (摘要) The advent of RoCE (RDMA over Converged Ethernet) has led to a signifcant increase in the use of RDMA in datacenter networks…
文章出处:https://mp.weixin.qq.com/s/pW-tQR4AYr1Gtd4dpHVW7w 摘要:远程直接内存访问(即Remote Direct Memory Access)是一种直接内存访问技术,它将数据直接从一台计算机的内存传输到另一台计算机,无需双方操作系统的介入. RDMA简介 传统的TCP/IP技术在数据包处理过程中,要经过操作系统及其他软件层,需要占用大量的服务器资源和内存总线带宽,数据在系统内存.处理器缓存和网络控制器缓存之间来回进行复制移动,给服务器的CPU和内…
Intel Omni-Path Architecture (OPA) 是一种与InfiniBand相似的网络架构 可以用来避免以下PCI总线一些缺陷: 1.由于采用了基于总线的共享传输模式,在PCI总线上不可能同时传送两组以上的数据,当一个PCI设备占用总线时,其他设备只能等待: 2.随着总线频率从33MHz提高到66MHz,甚至133MHz(PCI-X),信号线之间的相互干扰变得越来越严重,在一块主板上布设多条总线的难度也就越来越大: 3.由于PCI设备采用了内存映射I/O地址的方式建立与内存…
前言: 什么是RDMA? 简单来说,RDMA就是指不通过操作系统(OS)内核以及TCP/IP协议栈在网络上传输数据,因此延迟(latency)非常低,CPU消耗非常少. 下面给出一篇简单介绍RDMA的文章之中英文对照翻译. Introduction to Remote Direct Memory Access (RDMA) | RDMA概述 1. What is RDMA? | 什么是RDMA Direct memory access (DMA) is an ability of a devic…
IPoIB Internet Protocol over InfiniBand 就是指利用物理IB网络(IB卡,线缆,交换机,更甚者IB3层交换)通过ip协议进行连接,并进行数据传输! SDP Sockets Direct Protocol由InfiniBand行业协会trade Association软件工作组指定,主要是针对InfiniBand架构. SDP利用IB卡的RDMA特性进行数据的高速传输,低延迟数据交换,推广到iWARP Internet Wide Area RDMA Proto…
什么是RDMA? 来源 https://blog.csdn.net/u011459120/article/details/78469098 1. 概述 RDMA是Remote Direct Memory Access的缩写,通俗的说可以看成是远程的DMA技术,为了解决网络传输中服务器端数据处理的延迟而产生的.RDMA允许用户态的应用程序直接读取或写入远程内存,而无内核干预和内存拷贝发生.起初,只应用在高性能计算领域,最近,由于在大规模分布式系统和数据中心中网络瓶颈越来越突出,逐渐走进越来越多人的…
RDMA (Remote Direct Memory Access) 全称为 远程直接内存访问 其出现的目的:为了解决网络传输中服务端数据处理的延迟而产生的.其将数据直接从一台计算机的内存传输到另一台计算机,无需双方操作系统的介入.这允许高吞吐.低延迟的网络通信,尤其适合在大规模并行计算机集群中使用.RDMA通过网络把资料直接传入计算机的存储区,将数据从一个系统快速移动到远程系统存储器中,而不对操作系统造成任何影响,这样就不需要用到多少计算机的处理能力.它消除了外部存储器复制和上下文切换的开销,…
毫无疑问地,用来取代iSCSI/iSER(iSCSI Extensions for RDMA)技术的NVMe over Fabrics着实让RDMA又火了一把.在介绍NVMe over Fabrics之前,先科普一下RDMA. 1. DMA和RDMA的概念 1.1 什么是DMA? Direct Memory Access(DMA) is a capability provided that allows data to be sent directly from an attached devi…
来源: https://zcopy.wordpress.com/ 说明: 本文不是对原文的逐字逐句翻译,而是摘取核心部分以介绍RDMA Send操作(后面凡是提到RDMA send, 都对应于IBA里的send操作).文中给出的例子非常浅显易懂,很值得一读. 1. What is RDMA | 什么是RDMA RDMA is Remote Direct Memory Access which is a way of moving buffers between two applications…
点我查看秘籍连载 I/O操作和DMA.RDMA 用户进程想要执行IO操作时(例如想要读磁盘数据.向磁盘写数据.读键盘的输入等等),由于用户进程工作在用户模式下,它没有执行这些操作的权限,只能通过发起对应的系统调用请求操作系统帮忙完成这些操作.这里因为系统调用产生中断将陷入到内核,进行一次上下文切换操作. 内核进程帮忙执行IO操作时,由于IO操作相比于CPU来说是极慢的操作,CPU不应该等待在这个过程中,而是切换到其它进程上去执行其它任务.这里再次涉及到一次上下文切换:从内核态回到用户态的其它进程…
https://technet.microsoft.com/zh-cn/library/hh831487.aspx Windows Server 2012 内置新增功能,称为 SMB 直通,用来支持使用具有远程直接内存存取 (RDMA) 功能的网络适配器.使用 RDMA 的网络适配器能够全速运行, 延迟时间非常低,CPU 使用量非常少. 对于 Hyper-V 或 Microsoft SQL Server 等工作负载,这让远程文件服务器如同本地存储一样.SMB 直通包括: 提高吞吐量:利用高速网络…
1.0 Overview and history    ------------------------ fio was originally written to save me the hassle of writing special test case programs when I wanted to test a specific workload, either for performance reasons or to find/reproduce a bug. The proc…
欢迎大家前往腾讯云+社区,获取更多腾讯海量技术实践干货哦~ 作者:由鹅厂网事发表在云+社区 "鹅厂网事"由深圳市腾讯计算机系统有限公司技术工程事业群网络平台部运营,我们希望与业界各位志同道合的伙伴交流切磋最新的网络.服务器行业动态信息,同时分享腾讯在网络与服务器领域,规划.运营.研发.服务等层面的实战干货,期待与您的共同成长. 毫无疑问,人工智能是近年IT界最火的研究方向,特别在2016年Alpha GO这一标志性事件后,国内外科技巨头持续加大对人工智能的投入.目前,人工智能的主要方向如图像识别…
SMB(*nix平台和Win NT4.0又称CIFS)协议是Windows平台标准文件共享协议.Linux平台通过samba来支持.SMB最新版本v3.0,在v2.0基础上针对WAN和分布式有改进.详细内容如下: 透明故障切换: SMB3.0提供故障切换功能,在一台服务器故障情况下,客户端请求可以平滑切换到另外一台服务器,可以实现0宕机时间,切换过程少量IO会有延迟.该功能要求SMB服务器是一个集群,客户端和服务器都采用SMB3.0,共享开启“Continuous Availability”.S…
最近多次安装.使用infiniband网卡,每次都要到处寻找相关资料,所以决定做此总结,方便查找. 1. 基础知识 首先,得了解什么是RDMA,贴几个资料: 深入浅出全面解析RDMA RDMA技术详解(一):RDMA概述 RDMA技术详解(二):RDMA Send Receive操作 然后得了解如何实现,这两个可以有个初步了解: RDMA编程:事件通知机制 RDMA read and write with IB verbs 编程过程,真正有用的还是官方的手册: RDMA Aware Networ…
源代码及NVMe协议版本 SPDK : spdk-17.07.1 DPDK : dpdk-17.08 NVMe Spec: 1.2.1 基本分析方法 01 - 到官网http://www.spdk.io/下载spdk-17.07.1.tar.gz 02 - 到官网http://www.dpdk.org/下载dpdk-17.08.tar.xz 03 - 创建目录nvme/src, 将spdk-17.07.1.tar.gz和dpdk-17.08.tar.xz解压缩到nvme/src中,然后用Open…
const char *ibv_get_device_name(struct ibv_device *device); 描述 函数用来获取一个与RDMA设备相关联的名字 注意 这个名字在一台特定的机器中是唯一的(相同的名字不会分配给其他设备): 这个名字在跨InfiniBand fabric并不是唯一的: 当一台电脑上拥有多于一台的RDMA设备时,修改RDMA设备在电脑上的位置(例如,总线上的位置),可能会导致关联的name改变: 为了区分设备,建议使用设备的GUID进行区分,函数ibv_get…
分布式文件系统 分布式文件系统(Distributed File System)是指文件系统管理的物理存储资源并不直接与本地节点相连,而是分布于计算网络中的一个或者多个节点的计算机上.目前意义上的分布式文件系统大多都是由多个节点计算机构成,结构上是典型的客户机/服务器模式.流行的模式是当客户机需要存储数据时,服务器指引其将数据分散的存储到多个存储节点上,以提供更快的速度,更大的容量及更好的冗余特性. 分布式文件系统的产生 计算机通过文件系统管理.存储数据,而现在数据信息爆炸的时代中人们可以获取的…
MapReduce基本原理和高性能网络下优化: Mapreduce概述 Mapreduce式谷歌开源的一项重要技术,是一个编程模型,用来进行大数据量的计算,对于大数据量的计算通常采用的处理方式式并行计算,对于许多开发者来说,自己完全实现一个并行计算程序难度太大.而MapReduce就是一种简化并行计算的模型,它使得那些没有多少并行计算经验的开发人员也可以开发出并行计算应用程序,通过简化编程模型,降低了开发并行应用程序的难度. 工作原理 并行计算模型通常从并行计算的设计和分析出发,将各种并行计算机…
上篇介绍了PolarDB数据库及其后端共享存储PolarFS系统的基本架构和组成模块,是最基础的部分.本篇重点分析PolarFS的数据IO流程,元数据更新流程,以及PolarDB数据库节点如何适配PolarFS这样的共享存储系统. PolarFS的数据IO操作 写操作 一般情况下,写操作不会涉及到卷上文件系统的元数据更新,因为在写之前就已经通过libpfs的pfs_posix_fallocate()这个API将Block预分配给文件,这就避免在读写IO路径上出现代价较高的文件系统元数据同步过程.…