位置:编程技术网 > 物联网 > 正文 >

为什么AI加速芯片还很少获得有意义的采用?

2020年01月24日 05:42来源:未知手机版

淮安生活网,新安怡吸奶器消毒,绿色家园手抄报资料

>语音播放文章内容

由深声科技提供技术支持

您的浏览器不支持 audio 元素。

雷锋网按,目前市场上已经有许多初创公司都提供了AI加速器,然后得到大规模应用的非常少,这其中算法的迁移、初创公司能否提供开发套件都是很关键的原因,另外,供应商和芯片公司之间深层次的理解差异也是造成芯片规模没有获得大规模采用的原因。Codeplay的Andrew Richards给出了自己的见解。

对于AI芯片初创公司来说,将重点放在芯片的峰值性能以及Benchmark(基准性能测试)上,可能会吸引那些在寻找深度学习训练或推理硬件的人。不过,开发人员可能会遇到数周甚至数月开发的程序,无法高效地运行,甚至遇上根本无法在新设备上运行的情况。这并不令人意外,因为将算法移植到芯片上超越了编译器的能力。

这并不是缺乏工具、时间或资源这些常见的问题,而是有一些深层次的原因,包括AI芯片的设计方式,开发人员如何尝试新架构,以及如何生产都存在一些基础漏洞。

Codeplay的Andrew Richards解开了一些长久以来的疑惑,以及解答了为什么很少有AI加速器获得有意义的采用的原因。

让我们从关于这种意识形态,技术上的不匹配的一些观察开始。而且它扎根于大多数著名的AI加速器公司。

几乎所有AI芯片初创公司的团队都来自DSP和嵌入式设备领域(比如,Graphcore的首席执行官曾任职于PicoChip和XMOS;Wave Computing的团队主要也是做嵌入式系统)。从工作负载或者市场的角度来看(尤其是对推理而言),这几乎是完美的专业知识,但对于AI加速芯片,这是一种全新的计算思维方式。在DSP中,几乎所有信号处理都在设备上进行,设计也专门围绕它进行,主控CPU只是在不进行复杂控制的时候打开或关闭。

Richards说:“对于这些AI硬件供应商而言,雇用看起来能解决所有问题的人会有用得多。” 他指出,HPC社区聚集了大量人才,因为他们花了多年的时间让大型超级计算机使用GPU执行复杂、大规模并行的应用程序,这些应用程序通常具有非常独特的软件环境。

简而言之,他们从开发人员的角度了解了工作负载的分配及其含义,将合适的工作负载转移到合适的设备上并非易事,并且可能需要一年甚至更长的时间才能在新的体系结构上建立工作负载。游戏领域的开发人员也是如此,他们是第一个为GPU上的游戏解决卸载问题的人。

这把我们带到了第二个关键点,要进行验证、测试到AI芯片最终投入生产时,已经过去了一年的时间。为此,芯片初创公司需要强大的商业模式来实现目标。因为开发人员可能会创建一个新的体系结构,这意味着他们必须提供devkit(开发套件)和Demo硬件。这是嵌入式背景的员工无法为AI加速器初创公司服务的另一个领域。

Richards说,GPU这么快起步的原因之一是因为Nvidia能够提供芯片,然后让开发者们围绕它开发自己的程序。随着时间的推移,Nvidia所做的令人难以置信的工作是,为几乎所有可以通过GPU加速的工作负载开发了一个丰富的生态系统,使开发人员更容易移植自己的代码。

让开发人者只购买一两个或四个芯片是理想的选择,但这无法成为初创公司的业务模式,这不适用于昂贵的加速器。因此,这是一个先有鸡还是先有蛋的问题。

“如果你是AI软件开发人员,那么你的工作就是尝试。而且,当你这样做时,你将购买少量的芯片用于开发。现在,AI芯片公司创立不是只为销售一两个芯片。对于AI初创公司而言,做到这一点非常困难,这需要通过分销的模式才能只能销售一个处理器。”

如果开发者无法拥有devkit和测试设备,即使是他们团队中最具架构意识的硬件人员,也可能无法让应用程序在硬件上运行。同时,如果没有时间进行测试,开发周期可能需要一年甚至更长的时间。

所有这些都意味着,对于开发人员而言,使用GPU 和CPU以外的任何东西都将是一件很难的事。

本文地址:http://www.reviewcode.cn/wulianwang/114280.html 转载请注明出处!

今日热点资讯