(资料图)

他表示：“在硬件的推动下，AI 取得了巨大的进步，但同时也受限于深度学习硬件。”

该实验展示了一种能够进一步加速生成式 AI 中所用 transformer 模型的节能方法，所使用的四位运算是有望在未来取得成果的几种简化的数值计算方法之一。

展望未来，Dally 介绍了使用对数数学加快计算速度和节省能源的方法，NVIDIA 在 2021 年的一项专利中详细介绍了这种方法。

Dally 表示：“对于计算机工程师来说，这是一个有趣的时代，这是因为虽然我们正在推动 AI 这场巨大的革命，但还没有完全意识到这场革命的规模有多大。”

测试表明，在相同功率下，Grace 系统在各种 CPU 工作负载下的吞吐量比当前的 x86 服务器高出两倍。此外，Arm 的 SystemReady 计划证明了 Grace 系统无需任何更改就能运行现有的 Arm 操作系统、容器和应用。

Hot Chips 于 8 月 27 日至 29 日举办，并提供一整天的现场培训课程。其中也包含了 NVIDIA 专家于大会首日发表了关于 AI 推理和芯片间互连协议的演讲。