iceoryx源码阅读(三)——共享内存通信(一)
0 导引
iceoryx源码阅读(四)——共享内存通信(二)
iceoryx源码阅读(五)——共享内存通信(三)
iceoryx源码阅读(六)——共享内存创建
iceoryx源码阅读(七)——服务发现机制
1 整体通信结构
订阅-发布结构实现一对多的通信模式,消息发布者可以将消息推送到多个订阅者。基于共享内存的订阅-发布通信结构如下图所示:

每一对订阅者和发布者之间通过队列联系,队列元素为发送数据的描述。发送者往队列中推入描述,订阅者取出描述,据此从共享内存获取真正的消息数据。队列中为什么不直接存放消息数据本身呢?原因一则是消息的长度是不确定的,二则是一对多通信结果下,直接将消息存放在队列中更浪费空间。
2 RelativePointer
上节说到队列存放消息存放位置的描述,可以是地址吗?
2.1 原理
使用共享内存内存前,需要映射到进程的虚拟地址空间,如下图所示:

不同进程映射的区域不同,iceoryx使用数字唯一标识共享内存。实际上,iceoryx每个应用进程维护一张注册表,保存各个共享内存的起止地址,这里的数字就是共享内存在注册表中的索引。为了定位某个Chunk,还需要该Chunk相对共享内存首地址的偏移量。共享内存索引和偏移就定义了RelativePointer——用于定位共享内存的指定位置,相关代码如下所示:
template <typename T>
class RelativePointer final
{
public:
using ptr_t = T*;
using offset_t = std::uintptr_t;
explicit RelativePointer(ptr_t const ptr) noexcept;
T* computeRawPtr() const noexcept;
private:
segment_id_underlying_t m_id{NULL_POINTER_ID};
offset_t m_offset{NULL_POINTER_OFFSET};
};
上述代码中,除了共享内存索引和偏移外,还加了两个函数:
- 构造函数,通过普通指针构造
RelativePointer对象。 - 根据
RelativePointer获取其所代表的普通指针。
2.2 PointerRepository
上节我们引入了注册表的概念,了解了其作用,本节具体看看其实现。
constexpr uint64_t MAX_POINTER_REPO_CAPACITY{10000U};
template <typename id_t, typename ptr_t, uint64_t CAPACITY = MAX_POINTER_REPO_CAPACITY>
class PointerRepository final
{
private:
struct Info
{
ptr_t basePtr{nullptr};
ptr_t endPtr{nullptr};
};
public:
bool registerPtrWithId(const id_t id, const ptr_t ptr, const uint64_t size) noexcept;
cxx::optional<id_t> registerPtr(const ptr_t ptr, const uint64_t size = 0U) noexcept;
private:
iox::cxx::vector<Info, CAPACITY> m_info;
uint64_t m_maxRegistered{0U};
};
m_info就是注册表,元素类型为Info,存放共享内存的起始地址和结束地址。这里,我们贴了两个注册指针的函数——registerPtrWithId和registerPtr——分别用于打开共享内存和创建共享内存时调用。
2.3 构造函数
构造函数根据普通指针构造相对指针实例,其代码实现如下:
职责:
RelativePointer实例的构造。
入参:
ptr:普通指针。
template <typename T>
inline RelativePointer<T>::RelativePointer(ptr_t const ptr) noexcept
: RelativePointer([this, ptr]() noexcept -> RelativePointer {
const segment_id_t id{this->searchId(ptr)};
const offset_t offset{this->getOffset(id, ptr)};
return RelativePointer{offset, id};
}())
{
}
template <typename T>
inline segment_id_underlying_t RelativePointer<T>::searchId(ptr_t const ptr) noexcept
{
if (ptr == nullptr)
{
return NULL_POINTER_ID;
}
return getRepository().searchId(ptr);
}
template <typename id_t, typename ptr_t, uint64_t CAPACITY>
inline id_t PointerRepository<id_t, ptr_t, CAPACITY>::searchId(const ptr_t ptr) const noexcept
{
for (id_t id{1U}; id <= m_maxRegistered; ++id)
{
if ((ptr >= m_info[id].basePtr) && (ptr <= m_info[id].endPtr))
{
return id;
}
}
return RAW_POINTER_BEHAVIOUR_ID;
}
template <typename T>
inline typename RelativePointer<T>::offset_t RelativePointer<T>::getOffset(const segment_id_t id,
ptr_t const ptr) noexcept
{
if (static_cast<segment_id_underlying_t>(id) == NULL_POINTER_ID)
{
return NULL_POINTER_OFFSET;
}
const auto* const basePtr = getBasePtr(id);
return reinterpret_cast<offset_t>(ptr) - reinterpret_cast<offset_t>(basePtr);
}
template <typename T>
inline T* RelativePointer<T>::getBasePtr(const segment_id_t id) noexcept
{
return static_cast<ptr_t>(getRepository().getBasePtr(static_cast<segment_id_underlying_t>(id)));
}
template <typename id_t, typename ptr_t, uint64_t CAPACITY>
inline ptr_t PointerRepository<id_t, ptr_t, CAPACITY>::getBasePtr(const id_t id) const noexcept
{
if ((id <= MAX_ID) && (id >= MIN_ID))
{
return m_info[id].basePtr;
}
return nullptr;
}
逐段代码分析:
LINE 01 ~ LINE 09: 构造函数,调用成员函数
searchId和getOffset计算该指针在注册表中的索引id和偏移,以此初始化两个成员。LINE 11 ~ LINE 33: 这部分就是遍历注册表中所有共享内存,找到包含给定地址的共享内存区域的,返回其id。
LINE 35 ~ LINE 62: 从注册表中找出指定id共享内存首地址,入参指针减去首地址,计算得到偏移。
2.4 get函数
职责:
获取RelativePointer实例对应的普通指针。
返回:
普通指针。
template <typename T>
inline T* RelativePointer<T>::get() const noexcept
{
return static_cast<ptr_t>(computeRawPtr());
}
template <typename T>
inline T* RelativePointer<T>::computeRawPtr() const noexcept
{
return getPtr(segment_id_t{m_id}, m_offset);
}
template <typename T>
inline T* RelativePointer<T>::getPtr(const segment_id_t id, const offset_t offset) noexcept
{
if (offset == NULL_POINTER_OFFSET)
{
return nullptr;
}
const auto* const basePtr = getBasePtr(id);
return reinterpret_cast<ptr_t>(offset + reinterpret_cast<offset_t>(basePtr));
}
整体代码分析:
上面代码逻辑和2.3节类似,通过id从注册表中获取共享内存首地址,加上偏移量得到普通指针。
3 ShmSafeUnmanagedChunk
上一篇文章中,我们介绍了SharedChunk,用于管理共享内存。本节将介绍ShmSafeUnmanagedChunk,用于基于共享内存的通信。可以认为是从两个角度描述Chunk。
3.1 队列数据
第1节中的队列中存放的描述数据结构就是ShmSafeUnmanagedChunk,具体代码(去除和本节无关的代码)如下:
struct ChunkQueueData : public LockingPolicy
{
cxx::VariantQueue<mepoo::ShmSafeUnmanagedChunk, MAX_CAPACITY> m_queue;
};
3.2 RelativePointerData
ShmSafeUnmanagedChunk只有唯一的成员变量m_chunkManagement,其类型为RelativePointerData:
class ShmSafeUnmanagedChunk
{
private:
memory::RelativePointerData m_chunkManagement;
};
RelativePointerData的成员就是一个整数,如下:
class RelativePointerData
{
private:
uint64_t m_idAndOffset{LOGICAL_NULLPTR};
};
但是第2节我们知道,描述消息数据在共享内存中的位置,我们需要注册表中的索引id和偏移offset,一个整数怎么够呢?实际上,这个整数按位分成两部分,前48位表示offset,后16位表示id,如下图所示:

据此,我们来看求取id和offset的实现:
using identifier_t = uint16_t;
static constexpr uint64_t ID_BIT_SIZE{16U};
static constexpr identifier_t ID_RANGE{std::numeric_limits<identifier_t>::max()};
static constexpr offset_t OFFSET_RANGE{(1ULL << 48U) - 1U};
RelativePointerData::identifier_t RelativePointerData::id() const noexcept
{
return static_cast<identifier_t>(m_idAndOffset & ID_RANGE);
}
RelativePointerData::offset_t RelativePointerData::offset() const noexcept
{
return (m_idAndOffset >> ID_BIT_SIZE) & OFFSET_RANGE;
}
都是一些位运算,其中ID_RANGE和OFFSET_RANGE分别为后16为和48位为1的数字,取名为ID_MASK和OFFSET_MASK(掩码)更合适。
3.3 构造函数
发送数据的核心就是将SharedChunk转化为ShmSafeUnmanagedChunk,推入队列容器中。这就是ShmSafeUnmanagedChunk的构造函数的职责。
职责:
使用SharedChunk实例构造ShmSafeUnmanagedChunk实例。
入参:
ShmSafeUnmanagedChunk::ShmSafeUnmanagedChunk(mepoo::SharedChunk chunk) noexcept
{
if (chunk)
{
memory::RelativePointer<mepoo::ChunkManagement> ptr{chunk.release()};
auto id = ptr.getId();
auto offset = ptr.getOffset();
m_chunkManagement =
memory::RelativePointerData(static_cast<memory::RelativePointerData::identifier_t>(id), offset);
}
}
整体代码分析:
上述代码就是使用第2节中介绍的构造函数,根据普通指针构造RelativePointer,然后得到id和offset,以此构造RelativePointerData:
static constexpr identifier_t MAX_VALID_ID{ID_RANGE - 1U};
static constexpr offset_t MAX_VALID_OFFSET{OFFSET_RANGE - 1U};
constexpr RelativePointerData::RelativePointerData(identifier_t id, offset_t offset) noexcept
: m_idAndOffset(static_cast<uint64_t>(id) | (offset << ID_BIT_SIZE))
{
if ((id > MAX_VALID_ID) || (offset > MAX_VALID_OFFSET))
{
m_idAndOffset = LOGICAL_NULLPTR;
}
}
结合3.2节对RelativePointerData的介绍,上述构造函数是显然的。
3.4 releaseToSharedChunk
接收端需要将ShmSafeUnmanagedChunk转为SharedChunk,这就是releaseToSharedChunk的职责。
职责:
通过ShmSafeUnmanagedChunk构造SharedChunk实例。
返回:
SharedChunk实例。
SharedChunk ShmSafeUnmanagedChunk::releaseToSharedChunk() noexcept
{
if (m_chunkManagement.isLogicalNullptr())
{
return SharedChunk();
}
auto chunkMgmt = memory::RelativePointer<mepoo::ChunkManagement>(m_chunkManagement.offset(),
memory::segment_id_t{m_chunkManagement.id()});
m_chunkManagement.reset();
return SharedChunk(chunkMgmt.get());
}
根据id和offset构造RelativePointer实例,然后通过2.4节介绍的get方法获得指向ChunkManagement指针,据此构造SharedChunk实例(SharedChunk唯一的成员数据就是ChunkManagement指针,见:SharedChunk的数据成员)。
4 小结
本文介绍基于共享内存通信的主要数据结构,下文我们将介绍数据发送函数和接收函数的实现。
iceoryx源码阅读(三)——共享内存通信(一)的更多相关文章
- 26 BasicUsageEnvironment基本使用环境——Live555源码阅读(三)UsageEnvironment
26 BasicUsageEnvironment基本使用环境--Live555源码阅读(三)UsageEnvironment 26 BasicUsageEnvironment基本使用环境--Live5 ...
- 25 BasicUsageEnvironment0基本使用环境基类——Live555源码阅读(三)UsageEnvironment
25 BasicUsageEnvironment0基本使用环境基类——Live555源码阅读(三)UsageEnvironment 25 BasicUsageEnvironment0基本使用环境基类— ...
- 24 UsageEnvironment使用环境抽象基类——Live555源码阅读(三)UsageEnvironment
24 UsageEnvironment使用环境抽象基类——Live555源码阅读(三)UsageEnvironment 24 UsageEnvironment使用环境抽象基类——Live555源码阅读 ...
- SparkSQL(源码阅读三)
额,没忍住,想完全了解sparksql,毕竟一直在用嘛,想一次性搞清楚它,所以今天再多看点好了~ 曾几何时,有一个叫做shark的东西,它改了hive的源码...突然有一天,spark Sql突然出现 ...
- Qt源码阅读(三) 对象树管理
对象树管理 个人经验总结,如有错误或遗漏,欢迎各位大佬指正 @ 目录 对象树管理 设置父对象的作用 设置父对象(setParent) 完整源码 片段分析 对象的删除 夹带私货时间 设置父对象的作用 众 ...
- CoreCLR源码探索(三) GC内存分配器的内部实现
在前一篇中我讲解了new是怎么工作的, 但是却一笔跳过了内存分配相关的部分. 在这一篇中我将详细讲解GC内存分配器的内部实现. 在看这一篇之前请必须先看完微软BOTR文档中的"Garbage ...
- SpringMVC源码阅读(三)
先理一下Bean的初始化路线 org.springframework.beans.factory.support.AbstractBeanDefinitionReader public int loa ...
- JDK源码阅读(三) Collection<T>接口,Iterable<T>接口
package java.util; public interface Collection<E> extends Iterable<E> { //返回该集合中元素的数量 in ...
- 23 使用环境 UsageEnvironment——Live555源码阅读
23 使用环境 UsageEnvironment——Live555源码阅读(三)UsageEnvironment 23 使用环境 UsageEnvironment——Live555源码阅读(三)Usa ...
- Struts2源码阅读(一)_Struts2框架流程概述
1. Struts2架构图 当外部的httpservletrequest到来时 ,初始到了servlet容器(所以虽然Servlet和Action是解耦合的,但是Action依旧能够通过httpse ...
随机推荐
- MySQL学习路线一条龙
引言 在当前的IT行业,无论是校园招聘还是社会招聘,MySQL的重要性不言而喻. 面试过程中,MySQL相关的问题经常出现,这不仅因为它是最流行的关系型数据库之一,而且在日常的软件开发中,MySQL的 ...
- HMS Core 3D精准室内定位技术,打造“店铺级”出行体验
2022年4月28日,在华为折叠旗舰及全场景新品发布上,华为Mate Xs 2折叠屏手机搭载由HMS Core定位服务(Location Kit)提供的3D精准室内定位技术,为用户提供了"店 ...
- Hive 查看,删除分区
查看所有分区 show partitions 表名; 删除一般会有两种方案 1.直接删除hdfs文件 亲测删除hdfs路径后 查看分区还是能看到此分区 可能会引起其他问题 此方法不建议 2. 使用删除 ...
- 实验k8s ————— k8s 搭建[一]
前言 以前学习k8s记录的.这里简单整理一下搭建,当时是我们学习环境的搭建,正式环境得专门的运维人员来,毕竟人家考虑的东西不一样. 正文 这里用kubeadm进行搭建,更加详细信息,在这里: http ...
- Matlab绘图(2)通过代码进行局部放大绘图、多文件绘图
Matlab进阶绘图 在这次的绘图练习中,我们需要考虑一次性将所有数据文件逐一读入,然后对每幅图图片进行放大处理. 参数设置 这里包括每幅图的标题,图例,读入文件的名称,等等 title_d = {' ...
- asyncio async和await列表推导式实现异步高并发执行
import asyncio import random import time # 需求:有一个crontab调度器,每隔1秒,拉起1个job,要求这些job可以并发爬取网页 async def c ...
- Faiss 向量库编译安装
Faiss 是 Facebook 开源的一套高效相似性搜索以及向量聚类的开发库,支持各类相似性搜索的算法,Faiss 项目本身是使用 C++ 编写的,但是提供 Python 的绑定,可以直接使用 nu ...
- 建设工程工程量清单计价规范2008最新分析报告ppt
2008版<计价规范>颁布的背景 国务院从2003年起,在全国范围开展清理拖欠工程款.清理拖欠农民工工资的活动.最高人民法院于2004年9月29日发布了<关于审理建设工程施工合同纠纷 ...
- three.js使用Instanced Draw+Frustum Cull+LOD来渲染大场景(开源)
大家好,本文使用three.js实现了渲染大场景,在移动端也有较好的性能,并给出了代码,分析了关键点,感谢大家~ 关键词:three.js.Instanced Draw.大场景.LOD.Frustum ...
- 第11課-Channel Study For Create Custom Restful Service
这节课我们一起学习利用Mirth Connect的HTTP Listener源通道与JavaScript Writer目的通道搭建自定义Restful风格webapi服务. 1.新建名为'Custom ...