由IBM加州研究院设计的这款新型芯片已经得到了开发，它有着极大的潜力来改变未来的人工智能技术应用范围，并且在很大程度上可以彻底改变它的有效使用方式。

我们正处在人工智能的“寒武纪”大爆发期间。在过去的十年中，人工智能从概念性的研究和小型测试发展到企业级别的应用案例。然而，在设计用于运行AI系统的硬件时，其成本却飙升。尽管摩尔定律，即处理器电路密度每年翻一番的技术理论已放缓，但该技术仍被广泛应用于硬件设计。

然而，位于加利福尼亚州阿尔马登的IBM研究院的实验室进行多年的创新性研究有可能会彻底改变我们的系统是如何有效延伸出强大人工智能硬件系统的。

半导体工业诞生以来计算机芯片主要遵循相同的基本结构其中处理单元和存储待处理信息的存储器是离散存储的尽管这种结构允许更简单的设计这些设计几十年来能够很好地扩展但它创造了所谓的冯诺依曼瓶颈在这种瓶颈中需要时间和精力在内存、处理器以及芯片内部的任何其他设备之间来回打乱数据IBM研究院的Dharmendra Modha及其同事的工作旨在改变这种状况从大脑的计算方式中汲取灵感“它开辟了一条与冯·诺依曼架构完全不同的道路”Modha说

过去八年里Modha一直在研发一种新型数字AI芯片，名为NorthPole，它是基于Modha之前在2014年研究的最终产品TrueNorth的延伸，后者是Modha之前的最后一款大脑启发式芯片。经过在流行的ResNet-50图像识别和YOLOv4对象检测模型测试中的显示，新的原型设备比当前市场上任何其他芯片都具有更高的效率、更低的空间使用率以及更快的延迟，并且运行速度是TrueNorth的4,000倍快。

北极芯片在《科学》杂志发表的第一组结果表明了巨大的技术进步，它通过其高效的能源、空间和时间效率为现代计算提供了突破性改进。与12纳米GPU或14纳米CPU相比，NorthPole的性能高出近两倍。使用ResNet-50基准架构测试后，北极芯片在每焦耳所需功率解释的帧数上提升了25%，能耗也下降了一半。 在延迟方面，NorthPole表现出色，即使在具有更高技术工艺的高性能GPU上，其每十亿个晶体管每秒解释的帧性能也优于主要流行架构。

它如何能比当前的芯片提供更高的计算效率?北极最大的区别之一是所有内存都集成于芯片内,而不是单独连接。如果没有冯诺依曼瓶颈,North Pole可以在市场上现有的其他芯片上更快进行人工智能推理。北极采用12纳米节点工艺制造,在800平方毫米中包含22亿个晶体管。它拥有256个内核，每个周期可以执行高达2,048的八位操作，并有可能将四分之一和四倍的两位精度操作的数量增加一倍。 Modha说:“这是一个芯片上的网络”。

PCIe 卡上 北极星芯片 （来自 IBM 网站）

"从架构上讲，北坡模糊了计算与内存之间的界限。Modha说。“在单个核级别，NorthPole看起来像接近计算的内存，私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596而在芯片外部，在输入输出层，它被显示为活动内存。这使得北坡容易集成到系统中，并显著降低了主机上的负载。”"

不过北极星的最大优势也是它的一个缺点：只能轻松地从船上的内存中提取信息。如果芯片必须访问另一个地方的信息，那么北极星上所有可能的加速效果都将被削弱。通过一种叫做横向扩展的方法，北极星实际上可以支持更大的神经网络。具体来说，这种方法是将它们分解为适合北极星模型内存的较小子网，并且将这些子网连接到多个北极星芯片上。因此，尽管北极星上有足够的内存来运行许多特定应用所需的模型，但这颗芯片并不意味着万事通。Modha说，“我们无法在此上运行GPT-4，但是我们可以满足企业所需的许多模型。”当然，北极星只是为了推理。

这意味著这款设备并不需要笨重的液态冷却系统，即风扇与散热器足以胜任工作；这意味着它能够在某些较小的空间内部署使用。

北冰洋

虽然研究人员正在研究北极芯片的使用情况，并且它的结构非常适合新兴的人工智能应用领域，比如视觉分析或自然语言处理，但对于已经成熟的人工智能技术如语音识别和图像分类，北欧芯片的结构也适用得很广。

北极队主要研究与计算机视觉相关的用途，部分原因是该项目的资金来自美国国防部。考虑的一些关键应用是检测、图像分割和视频分类。此外，他们还在其他领域进行测试，例如自然语言处理（仅编码器BERT模型）和语音识别（在DeepSpeech2上）。当前该团队正在探索将仅解码器大型语言模型映射到北极横向扩展系统的可能性

当你设想人工智能任务时，各种奇幻的场景不断出现在脑海中，从自动驾驶汽车到机器人、数字助理或空间计算。许多在边缘应用中需要实时处理大量数据的应用可能非常适合使用NorthPole。例如，它可能是将现有的机器从仅在小规模下运行的无人驾驶汽车转移到能够应对罕见情况的设备上，这些情况下人类驾驶员通常会感到极其困惑，甚至是在熟练操作的情况下，也需要复杂的地图和路线指导。这样的边缘情况是NorthPole未来最佳的应用领域。 NorthPole可以用于卫星农业监控、动物种私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596群管理和车辆运输，确保道路的安全性更高效、更有序，安全地运营机器人，并检测网络威胁以实现更安全的商业活动。

下一项任务是什么。

这只是 Modha 在北冰洋的工作的开始，目前最先进的 CPU 是 3 纳米级别的，IBM 已经在 2 纳米节点上对它进行了多年的研究。这意味著除了基本的架构创新外，NorthPole 还可以实施几代芯片处理技术，来进一步提高效率和性能。

但对于莫达来说，这是他在职业生涯过去的19年间主导的连续统一体的一个重要里程碑。在那段时间里，他一直在研究数字大脑启发的芯片，并知道大脑是我们所知中最节能的处理器，并寻找以数字方式复制它的方法。TrueNorth完全受大脑中神经元结构启发，并且其中的数字“突触”数量与蜜蜂的大脑一样多。但2015年，在旧金山公园的一把长椅上，莫达坐在那，说他认为将最好的传统处理设备与大脑中的处理结构结合起来是有道理的，记忆和处理分布在整颗大脑中。答案是“具有硅速度的大脑启发计算”。

在这接下来的八年里，Modha和他的同事们致力于这一目标并努力实现它。他们在亚玛顿工作了很长时间，直到今年才开始发表任何讲座或论文。他们每个人都有不同的专长和观点，但是通过合作，这个团队是一个整体。因此作为一个整体，他们的贡献远远超过了其组成部分的总和。现在，该计划的目标是展示NorthPole可以做什么，并探索如何将设计转换为更小的芯片生产工艺，以及进一步地探讨架构的可能性。

这项工作源自一个简单的设想——如何制造能够像人脑那样工作的计算机——经过长期的基础研究后，已经提出了答案。这个想法实际上只有今天才能在像IBM研究院这样的地方实现，那里有足够的时间和空间来探索计算中的重大问题，并带我们去它们可以去的地方。“NorthPole是硅晶片镜子中大脑的微弱表示。”Modha说。