位置:编程技术网 > 数据库 > 正文 >

清华首次提出“类脑计算完备性”及计算系统层次结构,登上Nature

2020年10月17日 13:55来源:未知手机版

罗德曼 麦当娜,佳能镜头24-105,2017年4月20日

机器之心报道
编辑:泽南、蛋酱
自一年多以来,这已是清华大学的类脑计算研究最近第三次被自然杂志收录。
10 月 14 日,在最新一期《自然》杂志上,出现了一项类脑计算体系结构的突破性进展。
来自清华大学、北京信息科学与技术国家研究中心、美国特拉华大学(University of Delaware)科研团队的研究者在论文《A system hierarchy for brain-inspired computing》(一种类脑计算系统层次结构)中提出了「类脑计算完备性」(neuromorphic completenes)概念。该研究被认为会加速类脑计算,及通用人工智能等方向的研究。
目前,发展通用人工智能(AGI)通常有两种方法:神经科学导向和计算机科学导向。由于两种方法在公式和编码方式上存在根本差异,它们依赖于不同且不兼容的平台,阻碍了 AGI 的发展。论文链接:https://www.nature.com/articles/s41586-020-2782-y
该研究的第一作者为清华大学计算机系研究员张悠慧,与清华大学教授、清华大学类脑计算中心主任施路平共同为该论文的通讯作者。
神经形态计算从生物大脑中获取灵感,为计算机技术和体系结构的下一波发展提供了方向。类脑计算与传统计算机架构不同,后者是围绕图灵完备和完善的冯诺依曼结构,前者目前还没有没有广义的系统层次结构,或对类脑性计算的完整性的理解。这会影响类脑计算软件和硬件之间的兼容性,从而阻碍了大类脑式计算的开发效率。
面对这一挑战,清华大学等机构的研究者们提出了「类脑计算完备」概念,它放宽了对硬件完整性的要求,并提出了相应的系统层次结构,其中包括图灵完备的软件抽象模型和通用的抽象神经形态架构。
使用这种层次结构,我们可以将各种程序描述为统一的表示形式,并转换为任何神经形态完整硬件上的等效可执行文件。这意味着,这一体系可以确保编程语言的可移植性、硬件完整性和编译可行性。
为了支持在各种典型硬件平台上执行不同类型的程序,研究人员实现了一系列工具链软件,进而证明了该系统结构的优势。
全新的系统层次结构
在这项研究中,研究者提出了一种具有高度通用性和普适性的类脑计算系统层次结构,该结构包括三个层次:软件、硬件和编译。
与传统的计算系统层次结构不同,对于类脑计算系统层次结构而言,软件层指的是神经形态应用和开发框架(如 Nengo 和 PyTorch)。相应地,研究者提出将 POG 作为软件的中间表征, EPG 作为硬件的中间表征(CFG,控制流图),并引入编译工具将 POG 转换为 EPG。对于硬件层,研究者提出了抽象神经形态结构(ANA),包括调度单元、处理单元、内存和互连网络,作为神经形态硬件(TrueNorth、SpiNNaker、Tianjic 和 Loihi)抽象。
考虑到类脑计算的相似性,研究者进一步提出了「类脑计算完备性」的概念,引入了逼近等价(approximation equivalence)和近似等价(precise equivalence)。类脑计算机系统与传统计算机系统的层次结构对比。
软件
图中的软件是指编程语言或框架,以及以它们为基础构建的算法或模型。在这一层面上,研究者提出了一个统一的、通用的软件抽象模型——POG(programming operator graph)——来适配多种类脑算法和模型设计。POG 由统一的描述方法和事件驱动的并行程序执行模型组成,该模型集成了存储和处理。它描述了什么是类脑程序并定义了如何执行该程序。由于 POG 是图灵完备的,它能够最大程度上支持多种应用、编程语言和框架。
硬件
硬件部分包括所有类脑芯片和架构模型。研究者设计了抽象神经形态结构作为硬件抽象。它有一个 EPG( execution primitive graph),用作和上一层之间的接口,来描述它可以执行的程序。EPG 有一个混合的「control-flow–dataflow」表示,用来最大化其对不同硬件的适应性,同时也符合一个流行的硬件趋势——混合架构。

本文地址:http://www.reviewcode.cn/shujuku/177660.html 转载请注明出处!

今日热点资讯