注册  |  登录

首页   /   主题聚焦   /   学术信息

清华大学集成电路学院唐建石、吴华强团队发表物理储备池计算研究综述

2024-03-18  浏览人数:

清华新闻网3月18日电 储备池计算(Reservoir computing)是一种适用于高效处理时序信号的仿生神经网络,物理储备池计算能够高效地挖掘电子器件的动态特性作为计算资源,用于硬件实现循环神经网络,通过复杂的递归动力学机制对输入信号进行非线性映射和信息编码,具有高效简洁、易于实现全模拟和全并行计算等优势,逐渐成为类脑计算领域的一个热点研究方向,在人工智能、边缘计算、非线性系统等领域具有广泛的应用前景。

20240312-物理储备池计算研究综述-集成电路学院-图1 作为一种新型类脑计算架构,物理备池计算系统包含输入、输出和储备池层,可高效处理时序信号.png

图1.作为一种新型类脑计算架构,物理储备池计算系统包含输入、输出和储备池层,可高效处理时序信号

近日,清华大学集成电路学院唐建石副教授、吴华强教授与合作者在《自然·电子》(Nature Electronics)发表了题为“基于新型电子器件的物理储备池计算”(Physical reservoir computing with emerging electronics)的综述文章,系统梳理了基于新型电子器件的物理储备池计算的起源、发展与未来展望,重点分析了储备池架构、物理节点、输出层等构筑一个完整物理储备池系统的关键技术。

文章首先将物理储备池计算的实现架构分为四大类,包括时延耦合储备池(Delay-coupled RC)、动态器件储备池(Dynamic devices RC)、材料内计算储备池(In materia RC)、旋转神经元储备池(Rotating neurons RC),这些架构定义了储备池层中物理节点的拓扑连接关系。国内外研究团队尝试各种不同物理节点在这些架构下实现储备池,包括忆阻器、自旋电子器件、铁电场效应晶体管、纳米线网络等,用于模拟神经元的非线性和动态特性。除物理节点外,文章还介绍了物理储备池计算中预处理技术和输出层的设计方法,探讨了相应的优化策略与基准任务。在此基础上,文章详细对比了文献中各种实现物理储备池计算的硬件开销和综合性能,提出了系统设计的工具箱。

20240312-物理储备池计算研究综述-集成电路学院-图2 四种典型的物理储备池计算架构.png

图2.四种典型的物理储备池计算架构

从硬件实现方式的角度看,储备池计算的发展大致经历三个阶段,自2001年提出储备池计算的原型—回声状态网络(ESN)后,最初十年的研究聚焦于算法方面,采用全数字的实现方式;第二个十年的研究进一步尝试了不同的架构和物理节点在模拟域实现储备池层,但输出层仍采用数字方式实现,代表数模混合的实现阶段;近几年的研究则开始更多关注一个全模拟的完整物理储备池计算系统,包括采用模拟型忆阻器阵列作为输出层,以降低整体功耗和硬件开销。当前,物理储备池计算正处于蓬勃发展阶段,国内外研究已充分论证物理储备池计算的原理和可行性,未来在架构、算法、物理节点、硬件实现、应用等方面具有广阔的发展机遇,其性能边界与应用领域将会得到进一步拓展。

20240312-物理储备池计算研究综述-集成电路学院-图3 储备池计算的发展脉络与未来机遇.jpg

图3.储备池计算的发展脉络与未来机遇

近年来,清华大学集成电路学院研究团队围绕储备池计算开展了深入研究,构筑了基于动态忆阻器的并行储备池计算系统,提出了旋转神经元储备池架构,研制了基于动态和非易失型忆阻器的完整储备池系统,并首次实现了端到端的全模拟信号处理。

清华大学集成电路学院唐建石副教授为论文通讯作者,清华大学“水木学者”博士后梁向鹏为论文第一作者,共同作者包括清华大学集成电路学院吴华强教授、钱鹤教授、高滨副教授及苏州大学功能纳米与软物质研究院仲亚楠副教授,清华大学集成电路学院为本论文的第一单位。研究得到国家自然科学基金委、科技部科技创新2030-重大项目、北京信息科学与技术国家研究中心、科学探索奖、高精尖创新中心“未来芯片学者支持计划”等的支持。

论文链接:

https://www.nature.com/articles/s41928-024-01133-z

转自:清华大学

2024年03月18日 14:13:05


返回列表