可在内存上运行AI应用的计算架构面世

柯文

内存计算技术迎来一次重大突破。近日，IBM研究团队宣布发明了一种可以运行在100万个相变内存上的无监督式机器学习算法，并且成功地在一系列未知数据流中发现了时间相关性。与目前最先进的传统计算机相比，这种内存计算原型技术有望在计算速度和能耗利用效率方面提升200倍，非常适合实现人工智能（AI）应用中的高密度、低功耗、大规模的并行计算系统。

内存计算（IMC）或者说可计算储存，是近年来新兴的一个概念，其原理是运用内存设备的物理特性进行资料的储存和处理。不过，该研究及团队不采用过去那种内建缓存，并通过总线连接外部内存的阶层式架构，而是省略总线设计，直接把内存和CPU核心做在一起，尽最大的可能消除计算过程中因数据迁移所造成的延迟。

另一方面，相变内存本身就兼具DRAM类内存的速度，以及NAND的非易失性存储特性，通过将相变内存直接和CPU集成，形成一种特殊的计算硬件结构，计算和存储同时可在相同的结构上发生，不需要额外的传输、读取再写入的动作。因此从计算到存储所需要的指令操作、带宽消耗等现象都得以减少。对AI计算这种数据迁移量庞大的应用来说，省去了这些操作，自然整体计算效率就可以大大提升，且因为没有总线，也没有额外的读写操作，系统功耗也能大大减少。

如果所有的计算、读写工作都发生在同一个区块上，不用迁移，自然也不会有延迟。这种概念完全不同于目前主流电子系统和设备的运行原理，我们所熟知的桌面计算机、笔记本计算机和手机等电子设备都采用了冯·诺伊曼结构。使用该构架的设备在运行时，各种数据会在内存和计算单元之间不断穿梭，大量的数据调用会降低计算速度并且增加能量消耗。

其实，这就是一个具体而微小的电子大脑结构。在此次测试中，研究人员使用的 相变内存设备同样是由两个电极包夹着一层锗锑碲复合材料构成。一股微弱的电流就可以加热整个设备，复合材料内部状态随着温度上升而发生改变，从无定形态变成晶态。研究人员再次利用了结晶动力学原理进行运算。而这里所用到的计算原理和先前人造神经元几乎一模一样。

IBM研究员、论文作者之一Evangelos Eleftheriou博士表示：“这是 AI 物理学研究中的重要一环，这项研究有助于探索新的硬件材料、设备和构架。技术瓶颈导致了摩尔定律的失效，因此我们需要从处理器与内存这种‘一分为二’的结构出发，从本质做出改变，来突破当今计算机的局限性。鉴于我们的内存计算技术的简单性、高速度和低能耗，最终实验结果十分显著——非常接近于在冯·诺依曼计算机上运行的基准方法。”

IBM研究团队本次实验的具体细节都在最新发表的论文中进行了描述，《自然通讯》也于近日对论文进行了同行评审。为了展示这项技术，论文作者选取了两个基于时间的例子，并且将该技术得出的结果与传统机器学习方法得出的结果进行了比较。

“内存普遍被视为是储存数据的地方。但是这项研究的结果显示，我们可以利用内存设备的物理学特性，执行一个相当高级别的计算原语。计算的结果也储存在内存中，从这个角度来看，该技术概念受到了大脑计算方式的启发。”Abu Sebastian博士说。他是一名探索性记忆和认知技术科学家，也是论文的主要作者。