厉害了!神经再生电子器件助推人工智能硬件集成
效仿人类大脑神经结构的类脑计算由于其在人工智能领域高效率和低能耗的特性,有望成为未来的大数据芯片构架,已经成为世界各国激烈争夺的新前沿和新制高点。大脑是一个不断进化的生命体器官,具有显著的可塑性。大脑的可塑性包括神经元的形成以及突触的形成,统称为神经再生。这一现象在人类和其他动物中已经被广泛发现,并且对于生物体的持续学习和脑损伤后神经回路的修复至关重要。
关于神经再生的早期研究主要集中在歌唱鸟(sing bird),这缘于这类鸟儿即使在成年后仍可在一生中随季节不断更换自己的歌曲曲目。这种可以终身学习的能力对于行为能力的提高和神经系统恢复具有重要意义。假设我们可以在神经电子器件中模仿这类动态神经再生行为,我们就可以制造出能够终身学习的“活机器”。
另外,传统中静态的、固定功能的神经器件网络在人工智能训练领域也有着明显的不足。这类模型通常在固定静态数据上进行训练,因此在实际应用过程中当新数据以不断增加的方式呈现给神经网络时,它会干扰前期学习的知识,导致性能不佳,被称为灾难性遗忘。近期理论研究结果表明,制备一种动态的、多功能的、可以实现人工突触和人工神经元等多种神经功能动态转换的器件网络可能有效地解决这一难题。并且进一步研究发现,在提供相同训练资源的情况下,动态网络与静态网络相比显示出更好的学习性能。
在此研究领域背景下,由普渡大学(PurdueUniversity)材料工程学院Shriram Ramanathan教授团队联合美国宾夕法尼亚州立大学、能源部阿贡国家实验室和布鲁克海文国家实验室、加州大学圣克拉拉分校等研究团队,通过纳秒级电压脉冲在钙钛矿强关联氧化物中驱动质子迁移,成功的展示了电子器件中的动态神经再生:在单器件中按需展示神经元、神经突触和记忆电容器等不同功能,并且实现这些功能的动态电压脉冲转换。该研究成果于2022年2月4日以 “Reconfigurable perovskite nickelate electronics for artificial intelligence”为题, 以Research Article的形式发表于顶级期刊Science。
文章通讯作者为北京航空航天大学教授张海天 (原普渡大学Gilbreth Research Fellow)、普渡大学博士生Tae Joon Park以及普度大学教授Shriram Ramanathan。Hai-Tian Zhang、Tae Joon Park、A. N. M. Nafiul Islam, Dat S. J. Tran, Sukriti Manna, Qi Wang 为共同第一作者。在同一期Science杂志中还推出了观点评述,专门介绍和讨论了这一最新的研究结果并提出了建设性的意见。
图1展示了这一神经再生动态器件的工作示意图。稀土钙钛矿镍酸盐(如SmNiO3和NdNiO3)是一类在氢离子掺杂时可以产生室温电子相变的强关联量子材料。在氢离子掺杂后,可以通过电场调控这类材料中的氢离子分布,实现动态多功能神经器件。基于第一性原理的模拟工作也表明,氢离子在镍基相变材料中存在着大量的亚稳态(~125个),并且不同亚稳态的能量分布大不相同,其能量分布区间高达160 meV/atom 。因此这些不同的亚稳态对镍基相变材料能带调控行为也差别巨大,可以达到~0.9 eV的禁带宽度调控区间。分子动力学分析也发现氢离子在不同亚稳态之间的电场迁移动力学行为大不相同,其迁移能垒可以低至~0.2 eV或者高达~0.7 eV。低的迁移能垒有利于实现人工神经突触的模拟型(analog)渐变电阻行为;高的迁移能垒有利于实现人工神经元的数字型(digital)突变电阻行为,从而在同一器件中实现多种神经功能的可编译性转化与调控。通过电场我们可以控制氢离子在这些亚稳态之间迁移,实现多种类脑计算功能。
为了展示这一动态多功能类脑器件的应用实例,我们在Reservoir Computing (RC) 框架(图 1(c))中使用基于NdNiO3(NNO)器件的实验数据进行机器学习。RC,一般称为储备池计算或者蓄水池计算,是一种受大脑启发的机器学习架构,可以解决传统递归神经网络 (RNN) 中常见的训练复杂性和参数爆表问题。训练结果表明,基于NNO的器件在MNIST, Isolated Spoken Digits和ECG Heartbeat等多种学习任务和应用场景中均可以用更少的资源实现高效学习。此外,这一器件的多功能动态电场转换特性为它开启了在下一代人工智能构架中的新应用,比如动态神经网络领域。Grow-When-Required (GWR) 网络(“按要求增长”自组织神经网络)就是这样一个很好的例子(图 1(d) 和图2),它根据竞争性 Hebbian 学习创建新节点及其互连,并且扩展了自组织神经网络的概念。这一网络通过以无监督的方式添加或删除网络节点,以准确地逼近输入数据。在实际模拟学习过程中,基于NNO的动态神经网络在消耗同样资源的情况下的识别准确率最高可以比静态网络高250%。
动态神经网络作为新兴的神经网络概念,可以使AI机器在复杂多变的环境中比传统的静态网络做出更准确的决策。与此同时,多功能神经器件可以在芯片面积和功率受限的硬件环境中简化计算任务和人工智能电路设计。这一多功能动态器件未来将在动态环境的人工智能领域具有潜在应用,例如自动驾驶、机器人、虚拟和增强现实等。
最后,特别感谢阿贡国家实验室APS光源的Hua Zhou博士和布鲁克海文国家实验室的Shaobo Cheng博士和Yimei Zhu博士以及伊利诺伊大学芝加哥分校的Nan Jiang教授对该工作的大力协助。
关键词: 助推 人工智能 硬件 神经再生电子器件
推荐阅读
运动型轿车是什么 运动型轿车与普通车有何区别?
运动型轿车凭借着外观酷炫,动力性能强的特点,深受国内众多消费者的喜爱。特别是在年轻消费者心目中,运动型轿车基本上是购车的首选。但是 【详细】
汽油清洗剂是什么 汽油清洗剂加在汽油里是干嘛的?
最近有很多车主反映加油的时候总是建议用汽油清洁剂。但是,大部分人还是不太了解,还有就是一部分人纳闷汽油清洗剂加在汽油里是干嘛的?汽 【详细】
中国最便宜的汽车是哪个 最便宜的汽车汇总
现在汽车已经成为了大家最常见的交通代步工具了。但是,依然还是有很多的家庭非常的需要代步工具,却买不起特别贵的汽车。所以今天,我们就 【详细】
伊莱克斯冰箱质量怎么样 伊莱克斯冰箱质量好不好?
伊莱克斯冰箱质量怎么样:在2018年全球500强企业中,伊莱克斯排名第162位,在2020年全球2000强企业中,伊莱克斯排名第1965位,可见伊莱克斯 【详细】
劳动保护用品是什么 劳动保护用品有哪些?
劳动保护用品有哪些?劳动防护用品分为特殊劳动防护用品和一般劳动防护用品,一般劳动防护用品是指未列入目录的一般劳动防护用品。以下产品 【详细】
相关新闻
- 实现高并发秒杀的七种方式
- 全球看热讯:3D渲染引擎 HOOPS Visualize 2023全新发布-增加对顶点着色器支持
- 世界看热讯:「升级」Hubstudio多账号安全管理浏览器之扩展中心上线啦!
- 汽车早报 - 消息称蔚来布局百万元级别电动车 广汽称将继续为讴歌中国客户提供售后服务
- 今头条!车轮上的2022∣新能源与汽车出口带动:全国乘用车零售量同比增长1.9%
- 谷歌文档新功能:看到非打印字符
- 世界新消息丨一加新机质感高级,更有多项黑科技加持,3999的价格入手值吗?
- 焦点信息:中国手机品牌在2022年拿下俄罗斯市场份额65% 但高价机一个没有
- 2022年这5款熟悉的产品向我们告别
- 即时:陈副区长事件,引出一个老生常谈的问题,腾讯是否会保留聊天记录
- 我国首个具备独立运行能力的新能源储能项目在内蒙古并网通电
- 上海奉贤区初中转学条件2023
- 新冠病毒变异逻辑的猜测
- 世界讯息:充1次用10天!史上续航最强的国产手机,太猛了
- 全球视点!10个暗藏惊喜的微信小程序,个个好用不要钱,还请低调使用
- 世界热头条丨刘强东告别他的时代?回笼640亿携孕妻现身英国,祖宅半夜被泼漆
- 更便捷!威海市立医院互联网医院上线“新冠感染门诊”
- 七大常用的AR开发工具,总有一款适合你!
- 天天简讯:Telia为NCC提供面向北欧数字基础设施的全方位服务的ICT解决方案
- 【全球播资讯】小米13Ultra最快2月底见面?或告别万年USB 2.0