400-8855-170
简体中文

新闻资讯

时间:2022.12.15

振华航空芯闻:模拟AI芯片是必然选择

自计算机时代来临以来,全世界一直致力于精密计算机芯片的研发。正如我们所知,数字世界是无穷无尽的 1 和 0 的结果,芯片上处理的常数和具有明确的答案。但是在精确度不太重要的情况下可以进行什么样的计算呢?


在计算中,处理过程中花费的大部分时间和精力都花在了在设备的处理器和内存之间来回移动电子上。多年来,IBM 的研究人员一直致力于开发模拟内存计算机芯片,计算是在内存本身中进行的。这些芯片的目标既是为了节省能源,也是为了构建可用于训练和推理人工智能系统的设备。


我们使用计算机计算的内容始终需要精确。


您无法猜测火箭的飞行路径,或者希望您的税务软件能够计算出您当年应该支付的金额。但生活中有些事情并不一定要那么准确。例如,如果你在一个国家学习如何开车,你就会知道即使你从未见过另一个国家,你也很可能能够弄清楚停车标志看起来像另一个国家。


在今年的 IEEE 国际电子设备会议 (IEDM) 上,IBM 研究人员展示了详细介绍未来高效模拟芯片如何用于深度学习(用于训练和推理)的工作。


构建人工智能推理系统


在构建 AI 系统时,您必须根据数据训练模型。首次训练模型时,模型推断您想要什么的能力很差,无论是识别猫的照片还是寻找新的药物创意。您可能必须运行该模型,根据您的结果调整其权重,然后再次运行该模型,重复直到它达到您所追求的准确度水平。因此,在已经训练好的模型上运行推理比从头开始训练模型要容易一些也就不足为奇了。


但这并非没有挑战的任务。研究员 Julian Buechel 在 IEDM 上发表了一篇论文,称 IBM 的一组研究人员一直在研究如何将模型的权重准确地映射到模拟存储芯片上以运行推理任务。


该团队的工作表明相变存储器设备有可能用于将神经网络的突触权重映射到模拟传导设备值。这些电导值需要准确,在过去,研究人员不得不向设备的每个cell发送电脉冲以弄清楚它是如何加权的,这可能很耗时。回读时,每个电池不会输出大量电流,这也意味着在尝试确定它们的权重时出错的可能性很高。


该团队没有读取每个cell,而是测试了是否有可能一次读取神经网络一层中的所有细胞。毕竟,重要的是对应于每一层的矩阵向量乘法运算的整体精度,而不是单个单元格的唯一精度,它可能会在测量一个设备和下一个设备之间的时间上动摇,或者在测量中有微小的偏差一个细胞和下一个细胞之间的电阻。通过该组的方法,模型的每一层都可以并行测试,他发现在神经网络(例如 CIFAR10 上的 ResNet9)的测试中,模型在模拟硬件上运行的准确率更高,更准确。比过去在模拟硬件上的努力更精确。该方法也与技术无关。


虽然这种方法还远非完美,但它是使推理精度更接近数字加速器的关键一步,最终实现模拟内存计算芯片的商业化。


构建用于训练 AI 的系统


创建可以训练 AI 的系统比构建可以推断的系统更具挑战性。由 Takashi Ando 领导的 IBM 研究人员与位于奥尔巴尼的 AI 硬件中心的合作伙伴公司 Tokyo Electron (TEL) 合作,一直致力于研究如何在模拟硬件上训练 AI。在训练 AI 模型时,您将数据输入网络,对其进行分类,然后通过网络反向传播误差以微调权重。(推理实际上是训练的一个子集,您只需使用训练旅程的分类部分。)


使用传统算法微调模型需要一个具有完美对称电导变化的设备来准确更新权重,但目前还没有这样的设备。该领域的研究人员倾向于使用现有技术,例如传统的 ReRAM 设备,但 IBM 团队尝试了一些不同的方法。该团队采用全栈方法,协同优化算法和硬件。这是已知的第一个在最先进的 CMOS 技术上应用为 AI 训练定制的算法和硬件的工作。


在使用模拟硬件训练神经网络时,您需要寻找误差函数的梯度;如果它们很陡,则可以大量更新权重。传统上,梯度和权值信息存储在同一个模拟设备中,对设备的对称性要求很高。该团队一直在研究一种称为 Tiki-Taka 的算法(是的,就像不断来回传球的足球风格),旨在通过将梯度和权重信息分离到两个不同的系统中来放宽对称性要求。


对于实验,该团队一直在定制一个基于 14 纳米 CMOS 的 ReRAM 阵列来测试他们的想法。


使用基于 ReRAM 阵列统计数据的模拟,研究人员发现,通过优化 ReRAM 材料,他们可以在 MNIST 数据上获得 97% 的准确率(浮点准确率 98.2%)和 Tiki-Taka 算法同时进行。TEL 利用其制造实力和与位于奥尔巴尼的 IBM Research 的长期密切合作关系,正在帮助开发新型 ReRAM 材料的沉积和蚀刻工艺。需要做更多的工作来实现大型 DNN 的浮点精度,但在 IEDM 上介绍这项工作的 Nanbo Gong 表示,该团队确定了实现这一目标的途径。


通过这两项努力,IBM 研究院离我们可以在节能模拟硬件上训练和运行 AI 系统的未来越来越近。

振华航空今日热卖型号:

XC6SLX100-2FGG484I

XC6SLX150-2FGG484I

XC6SLX150-3FGG676C

XC6SLX150-3FGG676I

XC6SLX9-2TQG144C

XC6SLX9-2FTG256C

XC6SLX16-2CSG324I

公司:深圳振华航空半导体有限公司

公司热线:400-8855-170

联系方式:18926507567     QQ:549400747

公司网址:www.zhjgic.com

公司主营FPGA和存储芯片,诚信经营,大量现货库存,欢迎您随时咨询。


微信

扫一扫

微信加好友
联系电话:
400-8855-170