TVM图优化与算子融合 计算图的定义 Computational graphs: a common way to represent programs in deep learning frameworks 对于图优化来说,有很多种图优化手段: Operator Fusion Constant Parameter Path Pre-Computation Static Memory Reuse Analysis Data Layout Transformation AlterOpLayout S…
首先给出一个TVM 相关的介绍,这个是Tianqi Chen演讲在OSDI18上用的PPThttps://files.cnblogs.com/files/jourluohua/Tianqi-Chen-TVM-Stack-Overview.rar 对于图优化来说,位于整个软件编译栈比较高的层次: 首先给出计算图的定义 Computational graphs: a common way to represent programs in deep learning frameworks 对于图优化来…
MXNet 图优化与算子融合Graph Optimization and Quantization based on subgraph and MKL-DNN Purpose MKL-DNN引入了两个高级特性:融合计算和降精度核.这些特性可以显著地提高各种深度学习拓扑在CPU上的推理性能. 然而,MXNet由于图表示的局限性和以往缺乏图的优化,仍然不能从中受益.幸运的是,MXNet的新子图特性使这些改进现在成为可能. 本文说明基于子图的解决方案,以利用MKL-DNN在MXNet中的功能.一般来说…