AI芯片体系结构目标图形处理

AI芯片体系结构目标图形处理

AI chip architecture targets graph processing

可编程图形流处理器（GSP）能够执行“直接图形处理、片上任务图管理和执行以及任务并行性”。设计GSP是为了满足人工智能处理的需求，而这些需求以前是GPU、CPU或DSP无法满足的。

GSP体系结构由一系列图形流处理器、专用数学处理器、硬件控制和各种类型的数据缓存组成。GSP可以提供：“真正的任务级并行，最小限度地使用片外存储器，深度优先的硬件图形调度，完全可编程的体系结构。”

图形计算

虽然人工智能有许多不同类型的神经网络，所有的神经网络都是基于图形的，这允许开发人员利用图形原生结构在单个架构上构建多个神经网络和整个工作流。

然而，在图形计算领域，人工智能处理中需要“数据流图的优化和编译”。

GSP声称在三个方面与其他基于图形的数据流处理器有所不同。

首先，“完全可编程的”，能够执行“广泛的任务”。

其次，它是“动态可编程的……在一个时钟周期内”

第三，“提供流媒体的集成”，这使得最小化延迟成为可能。这种巨大的效率倍增器是通过“数据流机制”实现的，在这种机制中，非计算性数据移动被最小化或消除。

GSP体系结构的图形本机特性可以最小化数据在外部DRAM之间的来回移动。外部只需要第一个输入和最终输出，而中间的其他数据只是临时的中间数据。这将大大减少内存带宽和功耗。

在芯片、板和系统级别上尽可能降低延迟、减少内存需求和能源需求。

试点项目的经验教训

通过尽早推出GSP嵌入式桌面设备，“我们获得了进入真正客户及其工作负载需求的入场券。”

通过这些试点，基于GSP的平台有更多的应用程序和细分市场。其普惠制解决的市场范围从汽车和智能视觉（监视）到企业计算。

GSP可以满足从云中的数据中心到收集数据的边缘的所有地方施加的较低的能量限制。

GSP的驱动力正在迅速改变深度学习技术，包括新的拓扑、神经网络和算法。如此快节奏的技术进步常常促使客户希望芯片能做XYZ。这就是完全可编程的GSP架构发挥作用的地方。

例如，在汽车领域，GSP将应用于智能远程信息处理、ADAS、驾驶员监控和乘客评估。关键是许多汽车应用的单一GSP体系结构。

例如，单芯片可以结合激光雷达传感器输入和点云进行ISP处理、语义分割和传感器融合。这是通过视频目标检测和激光测距两个并行执行的数据流图来实现的。

由于GSP的主要市场是汽车（汽车客户总是要求确定性），GSP架构是“确定性的”。

最终开发了一个名为“Blaize NetDeploy”的工具。许多客户已经花了数周时间在优化GPU上经过训练的人工智能模型，并将其转换为在推理机上部署。一个软件工具，可以加速量化、修剪和压缩神经网络的过程。