Broadcom以太网交换芯片培训

 

目录

1、交换芯片架构............................................................................................................. 2

2、L2转发流程............................................................................................................... 3

2.1 L2转发原理........................................................................................................ 3

2.2 L2转发相关的表项............................................................................................. 5

2.2.1 port表..................................................................................................... 5

2.2.2 egress port表.......................................................................................... 6

2.2.3 L2地址表................................................................................................. 6

2.2.4 VLAN表................................................................................................... 7

3、L3转发流程............................................................................................................... 8

4、L2组播转发流程...................................................................................................... 10

5、L3组播转发流程...................................................................................................... 10

6、流分类处理流程....................................................................................................... 13

本文以broadcom56504/56300交换芯片为重点，介绍一下交换芯片的工作原理。

1、交换芯片架构

交换芯片由GE/XE接口（MAC/PHY）模块、CPU接口模块、输入输出匹配/修改模块、MMU模块、L2转发模块、L3转发模块、安全模块、流分类模块等模块组成，其结构如图1所示：

图1 交换芯片的组成

 

56504包含24个GE端口，4个10G端口，10G端口既可以用于堆叠，也可以用于上联/级联。

56504交换芯片与CPU的接口称为CMIC接口。交换芯片与CPU通过PCI总线连接。其他类型交换芯片与CPU的接口可以是：SPI+MII、I2C+MII、系统总线+MII、SMI+MII等。交换芯片的包处理流程如图2所示：

图2 交换芯片的包处理流程简图

 

　　包由端口进入交换芯片之后，首先进行包头字段匹配，为流分类做准备；然后经过一个安全引擎进行包过滤；符合安全的包进行L2交换或者L3路由，并经过流分类处理器对匹配的包做相关动作（比如丢弃、限速、修改VLAN等）；对于可以转发的包根据802.1P或DSCP放到不同队列的buffer中，调度器根据优先级或者WRR等算法进行队列调度，在端口发出该包之前执行流分类修改动作，最终从相应端口发送出去。

2、L2转发流程

2.1 L2转发原理

对于交换芯片来说，L2转发是一个最基本的功能。L2功能主要包括ingress过滤、MAC学习和老化、根据MAC+VLAN转发、广播与洪泛、生成树控制等基本功能。

L2转发的具体流程如图3所示：

图3 L2转发流程

从端口进入交换芯片的包首先检查TAG，对于tagged包，判断是否是802.1p的包，（802.1p的包vid为0），对于untagged的包和802.1p的包，根据系统配置加上tag（这些配置包括：基于MAC的vlan、基于子网的vlan、基于协议的vlan和基于端口的vlan）。经过这一步以后，到交换芯片内部的包都变成802.1Q的tagged包了（vid为1－4094，4095保留），如果设置了ingress过滤，就会检查本端口是否在该vid对应的VLAN中，对于本端口不在该vid对应的VLAN中的包就丢弃。对于没有设置ingress过滤，或者设置ingress过滤但本端口在该vid对应的VLAN中的包进行STP端口状态检查，对于BPDU(网桥协议数据单元)以外的包，只有端口处于forwarding状态，才允许包进入。然后进行原MAC地址检查，以原MAC＋VID的哈希为索引查找L2 TABLE，如果没有找到，就把这个表项（原MAC＋VID）以及对应的端口写到L2 TABLE中，这个过程称为MAC地址学习。当然地址学习的方法有很多种，可以是硬件学习，也可以是软件学习，可以根据PORT表中的CMI字段的配置来进行。

下一步进行目的MAC地址检查：目的MAC地址为广播地址（0xffffffff）的包，在vlan内广播出去；目的MAC地址为组播地址的包，进行组播流程的处理；对于单播包，查找L2 TABLE，如果没有找到，就在vlan内进行洪泛；如果找到，检查表项中的L3 bit是否设置，如果设置了L3 bit，就进行L3流程的转发；否则就转发到L2 TABLE表项中的端口去，在egress方向，也有egress过滤设置（默认是使能的），如果egress端口不在vlan中也是不能转发的。至此，L2转发流程完成了。

与地址学习相反的过程是地址老化。地址老化的机制是：ASIC内部有个定时器，称为age timer，命令行可以对这个寄存器进行设置，每次查找L2 TABLE时（包括原地址查找和目的地址查找，可以配置），如果命中，就会设置hit标志。当老化时间到后，ASIC把hit标志清除，当下一个老化时间到后，ASIC把hit为0的地址设置为无效，这就是为什么实际地址老化的时间为1～2倍agingTime的原因。

2.2 L2转发相关的表项

2.2.1 port表

图4 port表

 

Port表是一个非常重要的表，有很多与端口相关的控制都在这里设置。每个端口对应一个表项，按端口号进行索引。下面介绍一下重要的设置：

1) PVID：设置PORT_VID

2) 缺省优先级：设置PORT_PRI

3) 流分类使能：设置FILTER_ENABLE

4) VLAN转换使能：设置VT_ENABLE和VT_MISS_DROP

5) Ingress过滤使能：设置EN_IFILTER

6) 信任COS还是信任DSCP：对于IPV4：TRUST_DSCP_V4=0:信任COS；TRUST_DSCP_V4=1:信任DSCP，对于IPV6：同样设置TRUST_DSCP_V6。

7) Ingress方向mirror使能：设置MIRROR

8) MAC地址学习方式：设置CML

9) IP组播是否使用VLAN信息：设置IPMC_DO_VLAN

10) L3转发使能：设置V4L3_ENABLE和V6L3_ENABLE

11) 是否丢弃BPDU：设置DROP_BPDU

12) 控制是否转发带tag和不带tag的包：设置PORT_DIS_TAG和PORT_DIS_UNTAG

13) Pause帧控制：设置PASS_CONTROL_FRAMES

14) 基于子网的VLAN使能：设置SUBNET_BASED_VID_ENABLE

15) 基于MAC的VLAN使能：设置MAC_BASED_VID_ENABLE

16) 设置堆叠口：HIGIG_PACKET

17) 设置NNI口：NNI_PORT

18) 修改优先级使能：MAP_TAG_PACKET_PRIORITY

19) 堆叠口modid设置：MY_MODID

20) Out tpid设置：OUTER_TPID

21) 基于MAC和基于子网的VLAN优先级设置：VLAN_PRECEDENCE

22) 是否允许单臂桥功能：PORT_BRIDGE

23) IP组播位图设置：IGNORE_IPMC_L2_BITMAP和IGNORE_IPMC_L3_BITMAP

2.2.2 egress port表

图5 egress port表

 

EGR_PORT是一组寄存器，每个端口一个，用于EGRESS方向的控制，有几个重要设置介绍如下：

1) 设置egress端口类型：PORT_TYPE＝0，UNI端口；PORT_TYPE＝1，NNI端口 (用户侧接口和网络侧接口, UNI就是面向客户侧，NNI面向网络侧。对PTN来说，UNI就是客户过来的业务，没有打上PW/LSP等标签；NNI则打上PW和LSP标签内容)

2) 设置egress过滤：EN_EFILTER＝1

2.2.3 L2地址表

图6 L2地址表

 

56504的L2地址表大小为16K，5630X的L2地址表大小为8K，地址表使用MAC+VID的hash值作为索引查表。实际上56504的L2地址表hash值为4K，每个hash值对应4条地址，这样最多可以保存4条hash冲突的地址。地址表中每个表项都保存了MAC_ADDR和VLAN_ID。MAC学习的时候使用原MAC+VID的hash查表，把表中的MAC+VID与包中的MAC+VID进行比较，如果完全相等，表示找到了。然后看端口（TGID_PORT）是否相等，如果不相等表示地址发生了迁移，对于动态学习的地址需要更新port；如果相等表示命中，更新hit标志。其他几个重要的功能介绍如下：

1) 设置静态地址：STATIC_BIT＝1

2) 设置L3转发标志：L3＝1

3) 设置本地址的包都转发到CPU去：CPU=1

4) 设置本地址匹配的包丢弃：SRC_DISCARD=1、DST_DISCARD=1

5) 设置本地址匹配的包对某些端口阻塞：MAC_BLOCK_INDEX

6) 设置本地址匹配的包镜像：MIRROR＝1

7) 设置组播索引：L2MC_PTR

8) 地址有效标志：VALID＝1

2.2.4 VLAN表

Vlan表分为ingress和egress两个部分，分别对应入口控制和出口控制。

图7 ingress vlan表

 

Ingress Vlan表中主要包含了端口列表，用于ingress filter功能。PFM是用于控制组播洪泛的开关。PFM＝0，组播在vlan内洪泛；PFM＝1，注册的组播按组播表转发，未注册的组播在vlan内洪泛；PFM＝2，注册的组播按组播表转发，未注册的组播丢弃。STG用于标识本vlan所属的生成树组。

图8 egress vlan表

Egress vlan表中除了PFM和STG外，还包含了出口方向的端口位图，以及哪些端口以untag的方式发送本vlan的包。

3、L3转发流程

图9 L3转发流程

如果查目的MAC地址表的时候发现L3bit置位了，就进入到L3转发流程。与L2交换相比，L3交换可以实现跨VLAN转发，而且它的转发依据不是根据目的MAC地址，而是根据目的IP。L3转发的流程是：首先对L3头部进行校验，校验和错的包直接丢弃；然后进行原IP地址查找，如果主机路由表中没有找到，会上报给CPU，CPU会进行相应的处理，并更新接口表；下一步进行目的IP地址查找，如果主机路由表中没有找到，就会在子网路由表中进行查找，在子网路由表中进行最长子网匹配的查找算法，如果在子网路由表中还没有找到，也送给CPU进行处理，如果在主机路由表或子网路由表中找到了，就会得到下一跳的指针。如果ECMP使能的话，会得到ECMP的指针和ECMP的个数，从而根据hash算法得到一个下一跳指针。下一条表项中包含了下一跳的MAC地址和接口表的索引。在包转发出去的时候，用下一跳的MAC地址替换掉包的目的MAC地址。用接口表中的MAC地址和VLAN替换掉包的原MAC地址和VLAN。

与L3有关的几个重要的表：

图10 L3单播主机路由表

 

图11 L3子网路由表

图12 ECMP表

 

图13 EGRESS 下一跳表 

图14 接口表

图15 INGRESS 下一跳表

4、L2组播转发流程

在L2转发流程中，查找目的MAC＋VID的时候，如果表项的目的MAC是一个组播地址，该表项有一个组播指针指向组播表，组播表中有一个端口位图，表示哪些端口属于该组播组。组播组中的端口位图与VLAN中的端口位图相与的结果是实际转发的端口位图。静态配置的或协议动态添加的组播地址通过SSP写到MAC地址表中，组播成员通过SSP写到组播表中。L2组播表的结构如下：

图16 L2组播表

5、L3组播转发流程

L3组播支持有源树和共享树。所谓有源树是指根据源IP地址和组地址来确定一个组播组，而共享树是指仅根据组地址来确定一个组播组。芯片也支持反向路径检查（Reverse Path Forwarding check），所谓反向路径检查是指通过检查源IP地址确定源端口，从而不要向源端口转发的技术。

L3组播的转发流程是，先查L2表，对于组播地址而且是L3 bit置位的，查L3表。L3表给出IPMC_INDEX。根据这个索引查L3_IPMC表，L3_IPMC表给出L2_BITMAP和L3_BITMAP。对于L2_BITMAP，按照L2组播流程转发；对于L3_BITMAP，根据IPMC_INDEX和BITMAP得到IPMC_GROUP的VLAN_INDEX，最后根据VLAN_INDEX查找IPMC_VLAN表，IPMC_VLAN表包含了VLAN的位图，芯片在进行L3组播的时候，对VLAN的位图中的每个成员进行组播复制。

图17 L3组播表

图18 L3组播复制

L3单播和组播的转发流程综合起来，如下图所示：

图19 L3单播和组播的转发流程

IPMC转发相关的表的结构如下： 　　

图20 L3 TABLE

L3 TABLE表项大小8K（5650X）/2K（5630X）。

图21 IPMC TABLE

IPMC TABLE表项大小1K。

图22 IPMC _GROUP TABLE

IPMC _GROUP TABLE表项大小1K。

图23 IPMC _VLAN TABLE

IPMC _VLAN TABLE表项大小2K。

6、流分类处理流程

在5650X/5630X中，流分类是通过CFP实现的，CFP是ContentAware Filter Processor的缩写。所谓ContentAware就是对packet的内容进行智能匹配的技术。5650X/5630X中的流分类分为5个阶段，流程如图：

图24 CFP流程

这5个部分分别是智能协议识别选择器、CAM查找引擎、策略引擎、meter和统计引擎、动作裁决引擎。在ingress端口，智能协议识别选择器对进来的包的前128bit按照协议字段进行选择和标记，CAM查找引擎按照用户给的key匹配协议选择器的内容，如果找到了，就执行策略引擎的动作，并可以实验meter和统计引擎进行限速、标记颜色和统计。5650X有16个CAM查找引擎，5630X有8个CAM查找引擎，它们可以并行执行，执行的动作如果有冲突的话，由动作裁决引擎进行裁决。 

与协议内容识别选择器有关的表是：

图25 协议内容识别选择器

图26 FP_TCAM表

下面这个是策略引擎表项：

图27 FP_TCAM_PLUS_POLICY表 

下面这个是meter表和counter表：

图28 FP_METER表

图29 FP_COUNTER表 

动作裁决的优先级如下：

1. DROP

2. Else REPLACE

3. Else REDIRECT

4. Then EGRESSMASK

5. Then COPY_TO_CPU