针对深度学习的“失忆症”,科学家提出基于相似性加权交错学习,登上PNAS

访客1年前AI生活260

近日,美国科学院院报(PNAS)刊登了一篇论文,“Learning in deep neural networks and brains with similarity-weighted interleaved learning”,由加拿大皇家学会会士、知名神经科学家 Bruce McNaughton 的团队发表。他们的工作发现,通过将旧信息与新信息进行相似性加权交错训练,深度网络可以快速学习新事物,不仅降低了遗忘率,而且使用的数据量大幅减少。

 

论文作者还作出一个假设:通过跟踪最近活跃的神经元和神经动力学吸引子(attractor dynamics)的持续兴奋性轨迹,可以在大脑中实现相似性加权交错。这些发现可能会促进神经科学和机器学习的进一步发展。

相关文章

中国联通携手烽火通信开通国内首个C﹢L示范工程

中国联通携手烽火通信开通国内首个C﹢L示范工程

2022年,烽火通信与中国联通合作完成的国内首个100G C﹢L示范工程在湖北成功开通。作为国内首个100G C﹢ L示范工程,该工程的成功...

阿里宣布申请香港纽约双重主要上市;iPhone13全系降价

紫光集团原董事长赵伟国被有关部门带走调查 7月25日,据财新网报道,7月上旬,赵伟国被有关部门从北京家中带走,目前仍处于与外界失联的状态。不同...

【复旦大学熊贇分享】如何在数据开放同时确保数据稀缺性不丧失和隐私不泄露?

【复旦大学熊贇分享】如何在数据开放同时确保数据稀缺性不丧失和隐私不泄露?

IEEE x ATEC IEEE x ATEC科技思享会是由专业技术学会IEEE与前沿科技探索社区ATEC联合主办的技术沙龙。邀请行业专家学者...

openGauss自驾驶数据库内核在AI领域的探索和创新

openGauss自驾驶数据库内核在AI领域的探索和创新

智能化正在不断颠覆传统生产力。随着数智时代的到来,AI技术在提升管理效率、降低运维成本等方面发挥着越来越重要的作用。当DB与AI相结合...

腾讯宣布自研业务完成全面上云

今天,腾讯对外宣布,经过多年磨砺与创新,内部海量自研业务已实现全面上云,据统计,近三年来,腾讯的自研业务上云规模已经突破5000万核,累计节省...

北大国发院、智联招聘发布报告: 部分职业已遭遇AI大模型冲击

北大国发院、智联招聘发布报告: 部分职业已遭遇AI大模型冲击

7月19日,北京大学国家发展研究院与智联招聘联合推出《AI大模型对我国劳动力市场潜在影响研究报告》,首次构建了各种职业的人工智能影响指数。报...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。