ISSCC2024 Computing-In-Memory Session 趋势整理

ISSCC2024 Computing-In-Memory Session 趋势整理

今天上午ISSCC2024远东区推介会，主要关注了一下Computing-In-Memory Session。CIM今年被放在了Session 34，会上主持人透露CIM方向一共投稿了50篇，最后录用了9篇，算下来录用率不到20%，不得不感慨一句相当之卷。

言归正题，以下是今年CIM Session录取的9篇论文：

两篇亮点文章：

接下来是我的初步分析和整理。

1. 存储介质
   
   从存储介质的角度来说，9篇文章有5篇是纯SRAM（34.1 & 34.3-6），34.2虽然也是纯CMOS，但存储用的是更少晶体管的Gain Cell，34.9则是在工艺上做了Flash和SRAM的集成。剩下两篇中34.7是eDRAM，34.8是RRAM。
   
   整体上来看SRAM CIM仍然是大头，RRAM和eDRAM也是CIM常客不表，34.9在14nm FinFET工艺上做了Flash存储，并结合了Flash CIM和SRAM CIM，感觉很novel，34.2使用了Gain Cell，大概了解了一下这是一种纯晶体管无电容的DRAM Cell，可以参考这篇文章，虽然相比SRAM需要动态刷新，但有更高的存储密度，也是第一次在CIM中见到使用这个的。

2. 存算类型
   
   Digital CIM一共四篇，分别是34.1，34.2，34.6和34.8，占据半壁江山。
   
   Analog CIM一共三篇，分别是34.5，34.8，34.9，看似与Digital不遑多让，但考虑到34.8是RRAM CIM，34.9是SRAM+Flash的特殊工艺，两者因为工艺器件的原因自然的选择了Analog，整体上来看如果是标准逻辑工艺，Digital仍然是大势。
   
   有趣的是，剩下有两篇结合了Digital和Analog的Hybrid CIM，34.3和34.6。其中34.6就是笔者的论文，哈哈。Hybrid CIM的主要目标是探索Analog CIM和Digital CIM这两大主流方向的优势互补。实际上ISSCC2023就有论文提出了Hybrid CIM，今年在这个方向上探索的人略有增加。

3. 浮点存算
   
   今年的工作可以显著看到更多人关注浮点CIM，有接近半数的文章是浮点CIM，包括34.1，34.2，34.6，34.8。
   
   正如之前的博客所说浮点是一个23年就发现的显著趋势，支持浮点运算的CIM因为可以运行更高精度要求的模型，在可支持的应用上也变得更广了，今年大家继续深挖这个技术也是情理之中。

4. 计算负载
   
   还有一个有趣的点是34.3和34.5都考虑了对CNN和Transformer两类计算负载的支持。我们都知道CNN和Transformer目前是CV和NLP两个领域各自的SOTA（虽然CNN目前隐隐约约有被ViT干掉的风险），这两类模型在计算方法上大相径庭，怎么在CIM上同时支持两者确实是一个有趣的问题。

最后做个总结，ISSCC作为集成电路的奥林匹克，还是很有风向标作用的，可以通过这个窗口看到围绕CIM这个技术大家一直在持续探索更多的东西，作为一个热点技术，CIM这个领域的竞争还是非常激烈的，今年侥幸能够中上一篇，也算对得起一起奋斗的老师同学了。

如果要谈点感悟的话，那就是博闻强识，触类旁通很重要，仅仅困在一个小领域里很难冒出好的idea，需要多多接触多多学习其他领域的知识，并且勤加思考，举一反三。