储层计算(Reservoir Computing,RC)是一个从循环神经网络理论中得出来的计算框架。该框架有可能减少数据处理时间,同时还可以提高神经形态设备的能效。
北京大学的研究人员推出了一种基于α-硒化铟(α-In2Se3)的新型人工突触,有助于更有效地在神经形态设备中重建生物神经过程。这种突触可能对储层计算应用具有非常重要的意义。
北京大学教授、人工智能研究院类脑智能芯片研究中心主任杨玉超说:「我们的想法源于对一种简单策略的需求,该策略可用于利用物理系统的动态响应进行计算,而物理储层计算是实现这一目标的有前途的框架,In2Se3是一种非常有趣的材料,也是储层计算的良好平台,其丰富的物理特性支持创建多模式、多尺度的储层计算系统,我们希望这将扩展物理储层计算的应用场景。」
该研究以「 An optoelectronic synapse based on α-In2Se3 with controllable temporal dynamics for multimode and multiscale reservoir computing 」为题,发布在《Nature Electronics》上。
论文链接:https://www.nature.com/articles/s41928-022-00847-2
基于新兴设备的神经形态计算可以克服冯·诺依曼瓶颈——必须在内存和处理单元之间传输数据所产生的限制,并有助于提供节能的数据处理。
储层计算依赖于人工突触的使用,可以直接运行深度学习算法,而无需在内存和处理单元之间传输数据。
二维铁电材料具有有趣的物理特性、小型化能力以及在记忆和神经形态计算方面的潜在应用。特别是范德瓦尔斯半导体材料 α-In2Se3 具有许多优越的光电、铁电和半导体特性,使其成为制造这些人工突触的理想候选材料。
「In2Se3 同时具有两个有趣的固有物理特性,即铁电开关和光电响应,」杨玉超教授解释道。「我们构建了一个平面设备,利用平面内铁电极化进行电突触,同时还引入光作为第三终端以实现光电响应。这种独特的结构有效地结合了两种物理特性,可以利用铁电和光电的耦合来实现异突触塑性和更高水平的计算功能。」
图 1:具有异突触可塑性的 α-In2Se3 突触。(来源:论文)
在这里,研究人员报告了一种基于铁电 α-In2Se3 的光电突触,具有动态时间响应,可提供多模和多尺度信号处理。突触中铁电和光电过程之间的紧密耦合可用于实现异突触可塑性,其弛豫时间尺度可通过光强度或背栅电压进行调节。
图 2 和图 3 揭示了同一突触装置中电和光刺激的时间动力学,这分别归因于 α-In2Se3 的铁电和光电特性,因此提供了两个自由度来调节装置动力学。更重要的是,如果这两个不同的物理过程之间存在相互作用,则耦合可能会产生更复杂的突触功能。
图 2:基于铁电 α-In2Se3 的电突触。(来源:论文)
图 3:基于 α-In2Se3 光学响应的光电突触。(来源:论文)
事实上,当设备上的光照被视为第三个调节终端,而 α-In2Se3 突触通过电刺激进行调节时(图 4),可以实现异突触可塑性。研究结果表明,可以采用恒定光来通过电刺激来调制铁电开关过程。
图 4:具有光/背栅作为调制终端的 α-In2Se3 器件的异质突触可塑性。(来源:论文)
当人工神经网络 (ANN) 用于处理多模式输入时,关键挑战在于实现多感官融合。每个模态的特征提取可以由储层单独进行,其中每个储层响应一种类型的输入信号(例如,'EEEE','LLLL'),然后将特征组合并按读出层。值得注意的是,如果一个储层可以同时响应不同类型的输入信号,则可以实现混合输入(例如,'EEEL'、'EELL'和'ELLL')储层计算,其中可以同时进行特征提取和多感官融合在储层内实现,因此提高了效率。
为了评估他们的人工突触的性能,研究人员构建了一个多模式的储层计算系统。然后,他们在手写数字识别任务和二维码识别任务中测试了该系统的性能。他们发现它取得了可喜的成果,成功地处理了这两项数据处理任务,准确率超过 80%。
图 5:混合输入储层计算的多模式手写数字识别。(来源:论文)
为了更有效地提取特征并进一步提高计算性能,需要在多个时间尺度上运行的 RC 系统来提取各种尺度的特征。然而,构建在不同时间尺度工作的 RC 系统需要具有可调弛豫时间的设备。传统短期器件中的弛豫时间只能通过控制制造条件来调整,但在特定器件中是固定的。然而,α-In2Se3 器件的弛豫时间可以通过光或背栅电压轻松调整,完全满足 RC 系统在不同时间尺度下运行的要求。
图 6:使用具有可调弛豫时间的忆阻器进行多时间尺度储层计算。(来源:论文)
作为这项研究的一部分实现的人工突触,可能很快会为储层计算开辟新的有趣的可能性。此外,可以进一步开发使用该突触创建的储层计算系统,以处理其他复杂的信息处理和数据分析任务。
「我们对多模式和多尺度储层计算系统的展示,从根本上扩展了储层计算系统的处理能力,」杨玉超教授补充道。「在我们最近的研究中,我们专注于计算应用,但在未来,我们还希望实现一个完全集成的神经形态系统,包括信息感知。」
相关报道:https://techxplore.com/news/2022-11-optoelectronic-synapse-reservoir-based-alpha-indium.html