DeepMind弹性权重巩固算法让AI拥有“记忆”
人工智能吧
全部回复
仅看楼主
level 1
1012932560 楼主
神经科学家已经能区分大脑中两种类型的巩固方式:系统巩固(systems consolidation )与突触巩固(synaptic consolidation)。系统巩固的过程中,人类大脑将快速学习部分获得的记忆转印进了缓慢学习的部分。这一转印过程有有意识的回忆参与,也有无意识回忆的参与,人类做梦时就能完成这一转印过程。而在突触巩固中,如果一种技能在此前的学习中非常重要,神经元之间连接就不会被覆盖。DeepMind 的算法就是沾了突触巩固的光,成功解决了“灾难性忘却”的问题。
神经网络中神经元的连接与大脑非常相似,在学习完一个技巧后,DeepMind 会计算出在神经网络中的哪个连接对已学到的任务最为重要。随后在学习新技巧时,这些重要的连接就会被保护起来不被覆盖。这样一来,在计算成本没有显著升高的情况下,“左耳进,右耳出”的问题就解决了。
如果用数学术语来解释,可理解为在一个新任务中把每个连接所附加的保护比作弹簧,弹簧的强度与其连接的重要性成比例。因此,DeepMind 将这种算法称之为“弹性权重巩固”(Elastic Weight Consolidation,EWC)。
[滑稽]所有的一切发展的都是那么快,人工智能都有记忆了。
2017年03月16日 18点03分 1
level 14
难道以前人工智能没有记忆?又或者以前的人工智能没有找到储存记忆的好办法?
2017年03月16日 22点03分 2
level 12
这些科学家都是骗钱的吗?不然之前神经网络都是骗人的
2017年03月17日 08点03分 4
之前只是有限范围的分类器[滑稽]
2017年03月17日 20点03分
level 11
我觉得肌肉记忆,会一直发生覆盖,只要你多次训练肢体。
2017年03月17日 15点03分 5
level 11
我们发现错误,就会用
正确的
答案更新记忆。如果我们觉得,是时序性的,就不会去覆盖记忆
2017年03月17日 15点03分 6
似乎是意识在起作用。但没有意识之前,覆盖记忆吗?难道4岁之前都在覆盖记忆,4岁形成完全意识?
2017年03月17日 15点03分
@清洁工{} [滑稽]应该是一个神经网络学习,一个神经网络判断在下一次学习中哪些权重可以被保护,而4岁之前很有可能第二个神经网络没有完全学习成型。
2017年03月17日 16点03分
我觉得不是覆盖,而是最近最频繁接触的信息具有高优先级。因为我们还能想起来之前的错误答案,也能想起来纠正的过程。
2017年03月17日 16点03分
@seusimon 有ABC三张图片顺序播放,形成永久记忆。现在发现B是错的,要换成D,于是变成ADC。刚开始,我们下意识反应还是ABC,但随着ADC的训练,我们的下意识反应就变成ADC,这是意识有意去抑制错误答案,训练正确答案的连接强度。
2017年03月17日 23点03分
level 12
可怜的Grossberg无人问津
用重要性来保护旧知识会导致旧知识的更新困难,无法tracking旧事物的变化,真正要实现的是不相关的知识互不干扰地更新,而不是一个知识再也不发生变化,我们不能保证在学习task B时task A已经再也不需要学习了
2017年03月22日 06点03分 9
但是人脑也确实会利用重要性来保护知识,在涉及重要的东西会提高警戒度,以使记忆更清晰
2017年03月22日 06点03分
@ieBugH Grossberg 的理论有没有人将它实现为开源易上手的代码,并且有可观的实验结果的?
2017年03月22日 14点03分
@click4i ART有代码,但是没有什么用。据我所知,最接近其思想(指在“灾难性忘”却这方面)的一种比较有用的应该是Predictive Sparse Decomposition,但是这个算法初衷不是解决“灾难性忘却”
2017年03月23日 06点03分
@ieBugHhttps://tieba.baidu.com/p/4802606492 10L,我设计了一种loss,类似地,h是一个需要优化的量,并且网络参数W_encoder,W_decoder每次都是先固定,等到h足够优时,才优化。这对应Grossberg理论的先memory search再快速学习,PSD中,存在额外构造的一个inference网络
2017年03月23日 06点03分
level 3
很厉害,极限就是用来打破的。虽然不想承认,但人的极限确实很容易被打破,恐惧的是,人也可能被另一物种所代替成为淘汰品,还好,至少我有生之年应该不会看到这种全新物种的出现了[小乖][小乖]
2017年03月29日 09点03分 11
level 1
[滑稽]2岁有强烈意识的路过
2017年08月08日 16点08分 12
1