针对深度学习的“失忆症”,科学家提出基于相似性加权交错学习,登上PNAS

访客2年前AI生活290

近日,美国科学院院报(PNAS)刊登了一篇论文,“Learning in deep neural networks and brains with similarity-weighted interleaved learning”,由加拿大皇家学会会士、知名神经科学家 Bruce McNaughton 的团队发表。他们的工作发现,通过将旧信息与新信息进行相似性加权交错训练,深度网络可以快速学习新事物,不仅降低了遗忘率,而且使用的数据量大幅减少。

 

论文作者还作出一个假设:通过跟踪最近活跃的神经元和神经动力学吸引子(attractor dynamics)的持续兴奋性轨迹,可以在大脑中实现相似性加权交错。这些发现可能会促进神经科学和机器学习的进一步发展。

相关文章

数字验证EDA建起“中国高铁”,成立半年就有订单

数字验证EDA建起“中国高铁”,成立半年就有订单

2020年被称为是中国EDA发展元年。 时间拉回到4年前,中兴、华为被制裁,中国半导体产业陷入了“被卡脖子”的恐慌之中,贯穿整个半导体产业链...

他山科技推进人工智能触觉技术标准化 入驻北京昇腾人工智能计算中心

他山科技推进人工智能触觉技术标准化 入驻北京昇腾人工智能计算中心

积极构建人工智能国产化生态,打造智能算力,赋能千行百业”。2月13日,首届北京人工智能产业创新发展大会在北京中关村展示中心举行。他山科技受邀...

计算机科学领域,失去了两位伟大的人!

计算机科学领域,失去了两位伟大的人!

据国外媒体报道,2020 年 2 月 17 日,著名计算机科学家和数学家 Larry Tesler 去世,享年 74 岁。 次日,也就...

5G手机、WIFI 5G、5G无线路由器、WIFI 2.4G都什么意思?

5G手机、WIFI 5G、5G无线路由器、WIFI 2.4G都什么意思?

5G手机是指支持第五代移动通讯技术的智能手机,直接插上5G的手机卡,就可以打电话、上网,也兼容4G的手机卡,是从2代、3代、4代的通讯机延续...

2022腾讯Techo前沿技术论坛召开,六位科学家分享前沿科学成果

2022年12月1日,腾讯数字生态大会“Techo前沿技术论坛”开幕。来自腾讯、中科院的六位科学家在论坛上就多项前沿科技趋势展开了探讨,并分享...

国产数字验证EDA可以超车

国产数字验证EDA可以超车

弯道可以超车吗? 有人说,弯道超车,十超九翻,应该换道超车。 也有人说,弯道可以超车。 弯道超车频频引发讨论的背后,是人们心中有一个疑问,以...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。