位置:编程技术网 > 研发管理 > 正文 >

AI需求带动内存运算架构崛起

2019年03月16日 13:20来源:未知手机版

筑龙网免费下载契默契,相亲3陈佩斯朱时茂小品全集,北碚明天天气,三张牌,倪虹洁,姜昆相声全集,花莲天气预报,二手车行情

 大数据(big data)应用持续推动内存更密切结合运算资源的架构需求,但人工智能(AI)和机器学习更进一步展现了硬件和硬件架构如何在成功部署中发挥关键作用。然而,关键的问题在于内存应该要设计在哪里?

根据美光科技(Micron Technology)最近委托Forrester Research进行的研究发现,有89%的受访者认为运算和内存在架构上密切整合至关重要。Forrester Research的这项调查还发现,针对硬件限制使得AI与机器学习能力受限的讨论中,最常被提及的就是内存和存储技术。超过75%的受访者认为目前的内存与存储技术有必要进行升级或重新架构,才能突破应用上的限制。

特别是AI让大数据和分析原已面对的挑战更形复杂,因为机器学习经由神经网络在庞大的数据矩阵上执行乘积累加运算。这些运算不断地重复执行,伴随更多的结果出现,同时从数据处理中学习,最终产生一种每次都能达到最佳路径和最佳选择的算法。

美光科技企业策略副总裁Colm Lysaght说,由于数据越来越庞大,取得足够可用内存的常见解决方案就是增加更多的DRAM。这使得性能的瓶颈开始从原始运算转移到数据的所在位置。他说: 内存和存储正是数据所在之处。由于这些庞大的数据组合必须处理,我们只得一再地将其传送至CPU进行处理后返回。

只要找到让运算和内存更紧密结合的方法,就意味着能够更加省电,因为数据不必再密集地来回传送了。Lysaght说, 它还提高了性能,因为更多的处理任务都可以在需要之处才发生。

美光科技认为,诸如DRAM和3D NAND SSD等现有的内存和存储技术,为AI架构提供了可用硬件。该公司同时还研究其他更新的技术,例如许多新创公司也支持的内存处理器(PIM)架构

Lysaght指出, 有许多不同的方法可以创建更好的架构。例如神经形态处理器,可在内部使用神经网络,并将内部核心数分解为更多的较小核心。他说:由于必须处理大量的资料矩阵,因此,更理想的解决方案是让更多核心周而复始地执行相对简单的运算。

例如一家对开发新架构感兴趣的内存公司Crossbar最近与Gyrfalcon Technology、mtes Neural Networks (mtesNN)和RoboSensing等公司合作,共同成立了一个名为 SCAiLE (SCalable AI for Learning at the Edge)的AI联盟,致力于开发一款加速、节能的AI平台。

Crossbar策略营销和业务开发副总裁Sylvain Dubois表示,该联盟将结合先进的加速硬件、可变电阻式内存(ReRAM)以及优化的神经网络,共同打造具有免监督学习和事件辨识功能的节能解决方案。

Dubois表示,无论是智能音箱、智能相机还是智能电视,许多公司面临的挑战在于希望直接将AI导入装置上,但又不知道如何着手。该联盟的目标就在于提供一个将所有必要部份整合在一起的平台。

Crossbar的贡献在于内存 特别是ReRAM,它将透过文本、关键词、GPS坐标以及来自传感器的可视数据(非结构化)等各种输入,以处理在机器学习系统中产生的数据。

Dubois还设计了一种内存数组架构,让特定处理程序代码可在边缘装置中,以高度平行的方式针对每一个案例进行读取。他说: 如果彼此匹配,就会知道在边缘装置进行哪些处理。但如果无法顺利匹配,那么就成了我们所说的学习曲线。

在云端执行更多分析

以相机传感器为例,他指出这种系统将会在ReRAM数组的备用位置存储新事件或一组功能。Dubois说: 等到下一次在这台相机面前出现类似的事件时,相机本身就能检测到,而无需在云端进行任何训练。 。

因此,Dubois表示,如果出现了需要快速决策的意外事件,例如具有安全顾虑的交通现场时,这提供了一种全然不同的AI处理途径,因为它并不必依赖于云端中的大量训练能力。

本文地址:http://www.reviewcode.cn/yanfaguanli/36915.html 转载请注明出处!

今日热点资讯