首尔国立大学Ho Won Jang等：面向可行性硬件神经网络权重调控优化的两端锂基人工突触

Two Terminal Lithium Mediated Artifcial Synapses with Enhanced Weight Modulation for Feasible Hardware Neural Networks

Ji Hyun Baek, Kyung Ju Kwak, Seung Ju Kim, Jaehyun Kim, Jae Young Kim, In Hyuk Im, Sunyoung Lee, Kisuk Kang*, Ho Won Jang*

Nano-Micro Letters (2023)15: 69

https://doi.org/10.1007/s40820-023-01035-3

1. 首次成功展示并全面探索了具有两端垂直结构、能够实现多种突触行为（包括仿生突触可塑性）的锂基人工突触。

2. 基于LiₓCo₂薄膜中锂元素逐级减少的特性，通过权重控制尖峰序列精确控制多种突触特性，实现了非凡的权重控制能力。

3. 在人工神经网络模拟中，基于LiₓCoO₂的神经形态系统表现出极低的非线性和编程误差，显示出与理论最大值相当的卓越准确性，表明该神经网络在硬件实现上的可行性。

涉及锂离子电化学反应的人工突触被认为具有卓越的突触特性，利用锂离子插层的三端突触晶体管通过利用稳定的离子迁移实现非分布式权重更新，表现出可靠的突触特性。然而三端配置结构复杂，阻碍了硬件神经形态系统所需的交叉阵列的实现。与此同时，在垂直两端突触器件中通过有效的锂离子插层实现所需的突触性能以进行阵列集成仍然具有很大的挑战性。首尔国立大学Ho Won Jang & Kisuk Kang等提出了硬件神经网络实现基于Au/LiₓCoO₂/Pt结构的两端人工突触。通过精确地控制锂离子在LiₓCoO₂薄膜内的插层和去插层，实现了改进的权重控制功能，该器件表现出非凡的神经形态学行为。文中对各种类型的突触可塑性及其非线性、对称性和动态范围等关键因素进行了模拟和评估。值得注意的是，在卷积神经网络和多层感知器的模拟中，基于LiₓCoO₂的神经形态系统由于高线性和低编程误差而表现出优于三端突触晶体管的性能。

I 人工两端离子突触

图1显示了LiCoO₂薄膜的器件结构和表征。图中显示了两端Au(TE)/LiCoO₂/Pt(BE)人工突触的结构示意图、光学显微镜图像以及LiCoO₂晶粒的SEM形貌图等。锂离子在晶粒内沿着垂直于c轴的板状结构发生横向的各向异性扩散，平行于c轴的Li离子的垂直传输是通过晶界进行的，并且不会穿透CoO₂板。因此，具有精细晶粒尺寸的高度(003)定向的LiCoO₂薄膜使Li离子的扩散路径最小化，从而实现低能耗锂离子的快速插层和脱插层。此外，LiCoO₂外表面的CoO₂纹理防止了Li离子自发重新插入到LiCoO₂基质中，从而保证了器件的非易失特性。

图1. LiCoO₂薄膜的器件结构和表征。Au(TE)/LiCoO₂/Pt(BE)垂直两端人工突触的(a)结构示意图和光学显微镜图像，以及(b)彩色编码SEM图像；(b)中展示了 (001)取向的LiCoO₂薄膜的俯视和截面SEM图像；(c) LiCoO₂晶体的结构示意图；(d) (001)取向的LiCoO₂薄膜的XRD图谱；(e) LiCoO₂薄膜的AFM图像，其中RMS=2.2nm。

在结构为Au/LiₓCoO₂/Pt的人工突触（图2a）中，LiₓCoO₂权重控制层根据外部刺激改变器件导电性，可用于模拟突触可塑性。如图2b所示，突触连接强度随着10个负直流电压扫描逐渐增强，表现出突触增强行为；而在10个正直流电压扫描后，突触连接强度降低，表现出突触抑制行为；器件的导电性分别增加或减少了5倍。图2c展示了Au/LiₓCoO₂/Pt结构中人工突触的权重控制机制示意图。施加负电压到顶电极时，Li⁺离子从LiₓCoO₂晶格中去离子化并插入到Au薄膜中，增加了LiₓCoO₂层的导电性；施加正电压时，Li⁺离子从Au电极中提取出来并重新插入LiₓCoO₂薄膜中，降低了薄膜的导电性。并在对该人工突触器件施加周期性序列脉冲时，可以引起周期性突触增强和抑制。而由于锂离子容易迁移，该器件表现出相对较低的工作电压和快速的响应速度。

图2. Au/LiₓCoO₂/Pt人工突触的突触权重调节。(a) 生物突触与人工突触的示意图；(b) 10个连续负（正）直流电压扫描下突触权重的增强（抑制）以及电导率的增加（减少）比率。扫描速率为0.5 V/s；(c)  Au/LiₓCoO₂/Pt突触器件权重控制机制示意图；(d) 突触增强和抑制的周期性行为特征。

II 活动依赖的突触可塑性

图3与图4展示了Au/LiₓCoO₂/Pt突触器件在不同尖峰条件下的突触可塑性。图3a中展示了短期可塑性(STP), 器件在单个刺激下瞬时增强，突触权重在3s内恢复到初始状态，对随后的突触权重没有影响。而频繁刺激（图3b）会导致突触权重的长期增强(LTP)，其维持时间长达70s。在零散的刺激情况下，Li离子在LiₓCoO₂薄膜和Au电极之间的界面处积累和扩散，而非穿透Au膜。另一方面，频繁的刺激使得积累的Li离子注入Au电极，从而促进非易失性权重改变。在图3c中，尖峰频率依赖性可塑性(SRDP)的特性表明，控制突触权重的脉冲频率越高，突触连接强度就越强。向器件施加一对尖峰刺激，当二者时间间隔Δt为10ms时，PPF比率达到170％峰值，并且PPF指数随着脉冲间隔的增加呈指数衰减（图3e）。图3f展示了一种Hebbian 学习规则形式下的尖峰时间依赖可塑性(STDP)，当突触前脉冲在突触后脉冲之前发生即脉冲时间差Δt为正时，将诱导LTP，而当后突触脉冲在前突触脉冲之前出现即脉冲时间差Δt为负时，将发生LTD。

图3. 不同尖峰间隔下的突触可塑性。(a) 短期可塑性(STP)，尖峰间隔为10 s；(b) 长期可塑性(LTP)，尖峰间隔为0.33 s；(c) 尖峰频率依赖可塑性(SRDP)；(d) 施加10个尖峰后电导变化率；(e) 双脉冲易化(PPF)指数随两个尖峰间隔时间的变化曲线；(f) 非对称Hebbian学习规则形式下的尖峰时间依赖可塑性(STDP)。

图4a-d展示了尖峰数目依赖性可塑性(SNDP) 、尖峰电压依赖性可塑性(SVDP)、脉冲宽度依赖性可塑性(SWDP) 以及尖峰电压宽度依赖性可塑性(SVWDP)。从LTP/LTD曲线中导出非线性和对称性值进行分析：SNDP中LTP曲线的非线性(βP)值相对较低，随着电导状态数量的增加而稍微增加，100及以下的权重更新显示出可靠的对称性，提取值较高。在SVDP和SWDP中，权重控制脉冲的能量越大，线性度越差，动态范围的扩展也越大。由SVWDP曲线可见，通过不断提供足够的激活能量，可以线性地更新权重而不会饱和。图4e展示了五种不同形状的自定义LTP/LTD曲线，选择适当的尖峰条件可以实现预设的权重更新。

图4. 不同尖峰条件下的突触可塑性 (a) 尖峰数目依赖可塑性(SNDP)；(b) 尖峰电压依赖可塑性(SVDP)；(c) 尖峰宽度依赖可塑性(SWDP)；(d) 不同电压下尖峰宽度依赖可塑性(SVWDP)；(e) 使用尖峰控制形成自定义形状的 LTP/ LTD曲线。

III Li离子转移研究

接下来本文研究了结构为Au/LiₓCoO₂/Pt的人工突触中的Li离子转移过程。如图5a，5b所示，在初始状态下，用红点表示的Li离子仅存在于LiₓCoO₂薄膜中。在重复负向扫描达到30次的过程中，Li离子逐渐植入到Au顶部电极中，以增强突触权重。随后，在30次正向扫描的时间跨度内，它们被重新插入到LiₓCoO₂晶格中，导致权重减弱。此时Au顶部电极中没有残留的Li，这意味着Li在LiₓCoO₂基质和Au薄膜之间的迁移是一个高度可逆的过程。通过对比初始状态下（图5c）以及权重增强之后（图5d） LiₓCoO₂薄膜中Co 2p区域的XPS谱图，可知权重增强后部分Co3⁺被氧化为Co⁴⁺，因此Co⁴⁺/Co3⁺比率增加。通过LiₓCoO₂层的拉曼光谱间接确认了突触的强化和抑制机制，如图5e所示。

图5. Au/LiₓCoO₂/Pt人工突触中Li离子的插层和去插层。(a, b) Au/LiₓCoO₂/Pt结构中Li离子的ToF-SIMS 3D映射和深度剖面；(c, d) LiₓCoO₂薄膜在(c)原始状态和(d)30次扫描增强后的Co 2p区XPS光谱；(e) LiₓCoO₂薄膜的拉曼光谱。

IV 基于LiₓCoO₂的神经形态系统中的图像推断

为了进一步验证基于LiₓCoO₂的突触阵列在硬件神经形态系统中的可行性，本文进行了应用人工神经网络进行图像识别的实验。图6a展示了交叉阵列结构的示意图，其性能如6b，6c所示，低噪声、微小的非线性(βP~0.3, βD~1.3)和低的编程误差表明由于器件的物理限制而导致的性能退化不显著。为了研究LiₓCoO₂人工突触中编程错误对计算成就的影响，将以浮点(FP)为基础的CNN和具有权重更新缺陷（例如非线性和噪声）的LiₓCoO₂为基础的CNN进行了图像推理准确性比较, 如图6d所示。可以看到基于LiₓCoO₂的CNN对相对较小维度数据的集MNIST、CIFAR-10和CIFAR-100的推理准确性接近网络的理论性能。

此外还实现了多层感知器（MLPs）辅助学习仿真，以评估LiₓCoO₂为基础的神经形态系统的学习能力。基于LiₓCoO₂的MLP在文件类型识别方面表现良好，仅与FP相差0.5％。在对MNIST数据集进行40次迭代训练且使用10,000个训练集后，识别精度甚至可与FP相媲美。类似地，在Fashion MNIST上的训练也达到了84.5％的精度（理论最大值为86.2％）。

图6. 基于LiₓCoO₂的神经形态系统的图像识别。(a) 神经形态回路的交叉阵列结构示意图；(b) 具有良好非线性的30个周期突触电导叠加图；(c) 器件电导的更新编程误差特征；(d) 基于FP和LiₓCoO₂的CNN在四种数据集上的推理精度；(e-g) 基于FP和LiₓCoO₂的DNN对File类型、Large MNIST和Fashion MNIST指定训练集的识别精度。

作者简介

Ho Won Jang

本文通讯作者

韩国首尔国立大学 教授

▍主要研究领域

用于太阳能水裂解电池、化学传感器、记忆电阻器、等离子体和金属-绝缘体-过渡的材料合成和器件制造。

▍主要研究成果

首尔国立大学材料科学与工程系的全职教授。曾在美国威斯康星州麦迪逊大学担任研究助理，在韩国科学和技术研究所担任高级研究科学家。目前是韩国青年科技学院的成员，在Electronic Materials Letters、Current Applied Physics等杂志担任编委。研究方向包括太阳能燃料发电、化学传感、非易失性数据存储、神经形态计算、质子学、铁电子学和金属-绝缘体转换的材料合成和器件制造等，已发表450多篇文章。

▍Email：hwjang@snu.ac.kr

撰稿：《纳微快报(英文)》编辑部

编辑：《纳微快报(英文)》编辑部