针对深度学习的“失忆症”,科学家提出基于相似性加权交错学习,登上PNAS

访客2年前AI生活273

近日,美国科学院院报(PNAS)刊登了一篇论文,“Learning in deep neural networks and brains with similarity-weighted interleaved learning”,由加拿大皇家学会会士、知名神经科学家 Bruce McNaughton 的团队发表。他们的工作发现,通过将旧信息与新信息进行相似性加权交错训练,深度网络可以快速学习新事物,不仅降低了遗忘率,而且使用的数据量大幅减少。

 

论文作者还作出一个假设:通过跟踪最近活跃的神经元和神经动力学吸引子(attractor dynamics)的持续兴奋性轨迹,可以在大脑中实现相似性加权交错。这些发现可能会促进神经科学和机器学习的进一步发展。

相关文章

对 AI 的恐惧源于认知缺乏,大模型「透明度」很重要

对 AI 的恐惧源于认知缺乏,大模型「透明度」很重要

5 月 25 日,2023 小蛮腰科技大会暨 AIGC 人工智能峰会在广州正式开幕。本届大会以“迎接未知!Think Different!”...

常山供电开展智能机器人带电绝缘涂覆作业

常山供电开展智能机器人带电绝缘涂覆作业

“以往换绝缘线路需要停电,让整条线路变成检修状态,现在利用智能机器人开展绝缘喷涂作业不用停电就能完成,而且时效性更快。”9月23日,在常山县大桥头乡浮河村10千伏蒙淤C100线跨河...

第八届中国(北京)军事智能技术装备博览会定档2023年4月在京举行

第八届中国(北京)军事智能技术装备博览会定档2023年4月在京举行

由中国科学技术协会指导、中国指挥与控制学会主办、北京洞见未来会展有限公司承办的“第十届中国指挥控制大会暨第八届中国(北京)军事智能技术装备...

AI产业在未来3至5年的发展前景!

AI产业在未来3至5年的发展前景!

当“无接触”开始成为疫情中的现实需求,AI这个曾经引发过数次热潮的产业从幕后走向前台,逐渐成为人们视线的焦点。未来AI与产业的关系将如何发展...

一汽丰田电动化再加码:85亿筹建新能源工厂!

一汽丰田电动化再加码:85亿筹建新能源工厂!

2月27日有报道称,一汽丰田正在天津筹建一座年产能20万辆的新能源汽车工厂,预计总投资85亿元。 一汽丰田相关人士给出的答案是...

阿里云发布2020年财报:收入比上一年度上涨62%!

阿里云发布2020年财报:收入比上一年度上涨62%!

日前,阿里巴巴集团发布2020财年全年及第四季度业绩,核心指标全面超越分析师预期,数字经济体消费型商业业务交易额突破1万亿美元。其中,高科技...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。