中国科学院机构知识库网格
Chinese Academy of Sciences Institutional Repositories Grid
基于情境信号的连续多任务学习

文献类型:学位论文

作者曾冠雄
答辩日期2019-05-31
文献子类硕士
授予单位中国科学院大学
授予地点北京
导师余山
关键词前额叶皮层 正交权重修改 情境依赖处理 灾难性遗忘 连续学习 多任务学习
学位专业模式识别与智能系统
英文摘要

    人工神经网络(Artificial Neural Networks, ANN)是处理识别和分类任务的强大工具,因为它们可以学习输入和输出之间复杂的映射关系。但是,目前的神经网络所能学习的映射规则通常是单一且固定的。这限制了网络在复杂和动态变化的环境下工作的能力。当神经网络的输出需要根据情境不断变化时,这就对现有的神经网络提出了很大的挑战。在灵长类大脑中,前额叶皮层(Prefrontal Cortex, PFC)会依据情境信号灵活处理当前的输入,执行不同的任务,另外,与当前大多数人工神经网络不同,灵长类能够连续地逐项学习这些情境依赖的处理规则,从而使得其灵活性能够不断地增加。受大脑这些特性的启发,本文提出了一种新的方法,包括正交权重修改(Orthogonal Weights Modification, OWM)算法和情境依赖处理(Context-dependent Processing, CDP)模块。该方法使神经网络能够基于情境连续地学习不同的映射规则。
    本文通过一系列实验证明,OWM算法可以有效保护神经网络在以往任务中获得的知识,从而有效克服学习过程中的“灾难性遗忘”。使用该方法,网络可以在性能几乎不受干扰的前提下,连续地学习多达数千种不同的映射规则,性能优于已经提出的其他连续学习算法。此外,通过使用CDP模块处理情境信息,网络可以连续地学习情境依赖的不同映射规则,实现在相同的输入情况下灵活地根据当前情境完成截然不同的任务。OWM算法和CDP模块的结合使得以后可能创造出紧凑而又高度灵活的人工智能系统,从而逐渐学习现实世界的复杂规律。希望这样可以促进通用智能的产生。最后,本文在卷积神经网络(Convolutional Neural Networks, CNN)和蓄水池计算(Reservoir Computing, RC)网络中验证了OWM算法的有效性和通用性,进一步证明了该算法的扩展性和实用性。

语种中文
页码82
源URL[http://ir.ia.ac.cn/handle/173211/23772]  
专题自动化研究所_脑网络组研究中心
推荐引用方式
GB/T 7714
曾冠雄. 基于情境信号的连续多任务学习[D]. 北京. 中国科学院大学. 2019.

入库方式: OAI收割

来源:自动化研究所

浏览0
下载0
收藏0
其他版本

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。