针对深度学习的“失忆症”,科学家提出基于相似性加权交错学习,登上PNAS

访客9个月前AI生活101

近日,美国科学院院报(PNAS)刊登了一篇论文,“Learning in deep neural networks and brains with similarity-weighted interleaved learning”,由加拿大皇家学会会士、知名神经科学家 Bruce McNaughton 的团队发表。他们的工作发现,通过将旧信息与新信息进行相似性加权交错训练,深度网络可以快速学习新事物,不仅降低了遗忘率,而且使用的数据量大幅减少。

 

论文作者还作出一个假设:通过跟踪最近活跃的神经元和神经动力学吸引子(attractor dynamics)的持续兴奋性轨迹,可以在大脑中实现相似性加权交错。这些发现可能会促进神经科学和机器学习的进一步发展。

相关文章

AI制药公司百奥几何完成融资:创始人唐建来自图灵奖得主Yoshua Bengio实验室

2022年9月21日,百奥几何宣布完成千万美元天使轮融资,投资方为高榕资本。团队也发布了首个针对大分子药物研发的开源机器学习平台TorchPr...

辰韬资本理性判断:自动驾驶行业将很快迎来第二波投资机会!

辰韬资本理性判断:自动驾驶行业将很快迎来第二波投资机会!

2020年4月,在《自动驾驶投资演进:从讲故事到回归业务本质》一文中,辰韬资本执行总经理贺雄松对行业进行了回顾和预测,分析了赛道内的...

搭建邻里互助桥梁,贝壳杭州站发起“社区互助小蓝箱”暖心活动

搭建邻里互助桥梁,贝壳杭州站发起“社区互助小蓝箱”暖心活动

随着防疫措施的进一步优化,药品购买已不是难事,不少居民阳康后家里有剩余药品,另一方面仍有部分老人和特殊人群存在应急药物需求。 据悉,在中...

第八届中国机器人峰会暨智能经济人才峰会 将于11月16日至18日在浙江宁波余姚举行

11月9日,第八届中国机器人峰会暨智能经济人才峰会新闻发布会在余姚召开。据悉,本届峰会将于今年11月16日至18日在浙江宁波余姚举行。 第八届...

天猫精灵总裁彭超:大模型让AIoT回归本质,不必过度担忧计算成本

天猫精灵总裁彭超:大模型让AIoT回归本质,不必过度担忧计算成本

4月24日,天猫精灵总裁彭超在全国工商联物联网委员会年会暨物联网与人工智能高峰论坛上表示,大模型将让AIoT大爆发,且企业不必过度担忧计算成本...

减产的存储厂商们,何时能触底反弹?

减产的存储厂商们,何时能触底反弹?

“相信这些不好的时光会很快过去,存储行业将迎来全新的变化和发展。” 本周四,因疫情防控而延期举办的中国闪存峰会CFMS 2023终于在深圳前海...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。