Netty学习五：Buffers

1. Netty中的缓冲

在Netty中并没有使用Java自带的ByteBuffer,而是自己实现提供了一个缓存区来用于标识一个字节序列，并帮助用户操作原始字节或者自定义的POJO。

Java NIO的ByteBuffer问题

• 长度固定，不能动态扩展和收缩
• 只有一个标识位置的指针，读写时要手动调用相关方法
• API功能有限，需要自己实现更高级的功能

如上图，channel与对端的I/O读写都要操作Buffers。当有读操作时，把数据从内核区读取到用户区，当有写操作时，把数据从用户区写到内核区。

2. ByteBuf

ByteBuf是Netty的实现的最基本的数据缓冲，它包括Heap Buffer和Direct Buffer。

ByteBuf实现了高级的功能和API，是Java NIO ByteBuffer更高级的封装和实现。

2.1 ByteBuf结构

如上图是ByteBuf的结构，其中：

• readerIndex:读指针，最开始时等于0
• writerIndex:写指针，最开始时等于0
• capacity：代表这块内存区域的大小

2.2 写入数据

当写入N个数据后，writerIndex向后移动，但要保证writerIndex<capacity,这时可读数据为writerIndex，可写数据长度为capacity-writerIndex

2.3 读取数据

每读一个数据，readerIndex向后移动，但readerIndex<=writerIndex,可读数据writerIndex-readerIndex这时readerIndex-0则是可丢弃的数据段

2.4 动态扩展

如果数据继续写入缓冲区，而缓存区的writable区间已经被判断空间不足，那就有两个方法可以解决：

• 动态扩展缓冲区，由ByteBuf实现

  重新创建一个新的ByteBuffer，并将之前的ByteBuffer复制到新创建的ByteBuffer中，最后释放老的ByteBuffer

• 重用discard 区域，需要调用discardReadBytes方法

2.5 Heap Buffer

Heap Buffer:堆内存字节缓存区，特点是内存的分配和回收速度快，但在I/O读写时需要额外一次内存复制，将堆内存对应的缓冲区复制到内核Channel中。

2.6 Direct Buffer

Direct Buffer:直接内存字节缓存区，直接从Socket Channel中读写数据，少了一次内存复制，但内存的分配和回收速度慢一些。

2.7 Composite Buffer

Composite Buffer:复合缓冲区，我们可以创建多个不同的ByteBuf，然后提供一个这些ByteBuf 组合的视图。复合缓冲区就像一个列表，我们可以动态的添加和删除其中的ByteBuf

2.8 引用计数

ByteBuf扩展了ReferenceCountered接口，这个接口定义的功能主要是引用计数。
通过refCnt的数值来计算ByteBuf，如果refCnt等于1了，调用deallocate来回收ByteBuf，对于池化的ByteBuf则放入内存池，其他则释放内存。

3. 缓冲对象池

Netty使用Recycler来实现轻量级缓冲对象池。

3.1 Recycler

• Handle

  定义接口

• Stack

  Stack具体维护着对象池数据，向Recycler提供push和pop两个主要访问接口，pop用于从内部弹出一个可被重复使用的对象，push用于回收以后可以重复使用的对象

• elements

  对象池数组

3.1.1 get

• 首先获得当前线程关联的stack
• 从stack中pop出一个handle
• 如果没有则k新建一个
• 从handle中取出对象

3.1.2 recycle

• 对象通过引用计数来管理，如果发现引用计数等于1了，就通知Recycler回收对象
• 将对象放入stack中
• 如果超过当前池的大小但还没达到最大值，则新建池，并拷贝对象

3.2 内存池总结

Netty中每个线程都关联着一个内存对象池，用来操作缓冲对象

Netty中的I/O操作都需要涉及缓冲区，如果不使用内存池技术，系统将频繁的创建和回收buffer，对buffer的管理将十分困难。对于HeapBuf和Directbuf都分配和释放频率，并且对于Directbuf弥补一定的分配回收代价。

4. Zero-Copy

• Netty 提供了 CompositeByteBuf 类, 它可以将多个 ByteBuf 合并为一个逻辑上的 ByteBuf, 避免了各个 ByteBuf 之间的拷贝

• 通过 wrap 操作, 我们可以将 byte[] 数组、ByteBuf、ByteBuffer等包装成一个 Netty ByteBuf 对象, 进而避免了拷贝操作

• ByteBuf 支持 slice 操作, 因此可以将 ByteBuf 分解为多个共享同一个存储区域的 ByteBuf, 避免了内存的拷贝

• 通过 channel的tranferTo 实现文件传输, 可以直接将文件缓冲区的数据发送到目标 Channel, 避免了传统通过循环 write 方式导致的内存拷贝问题.