基于快速序列视觉呈现（Rapid Serial Visual Presentation，RSVP）的脑-机接口（Brain-Computer Interface，BCI）系统是通过对脑电（electroencephalogram，EEG）中事件相关电位（Event Related Potential，ERP）的特征提取和模式分类来实现对序列中目标图像的识别，其在医疗康复、生活娱乐以及军事侦察等方面具有巨大的应用潜力。但是，该系统在应用中存在着两方面的挑战：1）高精度解码和少校准数据相互制约：新用户在使用该系统之前，需获取大量校准数据以训练可靠的脑电解码模型，而获取大量校准数据过程十分耗时；2）人机适配性差：在系统应用中，由于用户状态的变化以及脑电非平稳的因素，模型无法保持高性能解码。本课题研究面向 RSVP-BCI 系统应用中以上两方面的难点问题，展开实现系统对新用户在小校准数据量、零校准数据情况下的高精度解码以及应用中自适应解码的算法研究。论文主要工作和创新点如下：

1. 针对 RSVP-BCI 系统在小校准数据量情况下解码性能低的问题，本文采集并建立了多被试多天的 RSVP-EEG 数据集，提出了多源条件对抗领域自适应（multi-source Conditional Adversarial Domain Adaptation，mCADA）框架。该框架包含了多个条件对抗领域自适应（CADA）网络，通过对抗训练促进网络提取目标被试（目标域）和已有被试（源域）脑电数据的共同表征，实现利用源域的有标签数据。其次，CADA 网络中的相关度量损失函数，提升同类别不同域样本之间相关性以及不同类别样本之间的差异性。在此基础上，提出了源选择策略和多源集成框架。实验结果显示，对约 5 分钟采集的校准数据，mCADA 的均衡精度可达 87.72%，与当前最先进的 EEG-Net 方法在 4 倍训练样本情况下的性能相当。因此，mCADA 框架能够实现小校准数据情况下的高精度目标检索。

2. 针对 RSVP-BCI 系统在零训练样本情况下解码性能低的问题，本文采集并建立了多被试多任务 RSVP-EEG 数据集，提出 ERP 原型匹配网络。该网络利用其他被试数据训练，将单试 EEG 和 ERP 模板映射到度量空间，并结合原型学习来获得不同被试 ERP 之间的共同表征：ERP 原型，网络按 EEG 与不同类 ERP 原型的距离对 EEG 分类。之后，设计了度量学习损失函数，按类别约束 EEG 和 ERP 原型之间的距离。此外，提出元训练策略，通过多阶段的匹配训练，提升模型泛化性能。实验结果显示，在零校准情况下，ERP 原型匹配网络的均衡精度平均可达 86.34%，与当前最先进的 EEG-Net 方法在采集约 15 分钟的校准数据情况下的性能相当；方法为 RSVP-BCI 系统的应用提供技术支持。 

3. 针对 RSVP-BCI 系统人机适配性差的问题，本文采集了多被试长时程连续 RSVP 任务 EEG 数据集，提出了自适应 ERP 原型匹配网络。该网络在面向零校准的 ERP 原型匹配网络基础上，不断加入被试的新数据及预测出的标签到训练集以更新模型。提出标签噪声学习方法，在训练迭代中调整置信度低的预测标签，缓解错误预测带来的模型性能下降。之后，引入注意力模块，训练网络能针对待分类 EEG 样本，为每个域分配合适的权重，以获得更具有表征能力的原型。实验结果表明，相比于 ERP 原型匹配网络，自适应 ERP 原型匹配网络能够一定程度上缓解 RSVP-BCI 系统长时程目标检索应用中性能的下降，为建立更为稳定长效的脑-机接口在线系统提供技术支持。