近日,上海科技大学信息学院汪婧雅课题组的研究成果“Lifelong Person Re-Identification via Knowledge Refreshing and Consolidation”被AAAI年会(AAAI Conference on Artificial Intelligence, AAAI 2023)接收录用,并入选大会口头报告。AAAI年会是中国计算机学会推荐的CCF-A类人工智能领域知名学术会议。
行人再识别终身学习是面向现实场景的一种学习范式,期望能够不断处理在不同时间段、不同地点采集到的连续且非平稳分布的行人再识别信息流。在这种学习范式下,模型在每个训练阶段只能见到当前任务的训练数据。与传统的终身学习相比,在终身学习场景下开展的开集细粒度图像检索问题,其挑战在于如何有效保存旧知识并逐步增加新的识别能力。目前的多数方法都在解决模型的灾难性遗忘问题,缺乏对旧知识的优化和整合。
图 :(a) 行人再识别终身学习流程示意图 ;(b) 不同终身学习方法效果对比
研究团队认为在终身学习的过程中不仅要减少行人再识别模型在旧任务上的遗忘,还要提升模型在旧任务和新任务的表现。为实现这个目标,研究人员重新思考了基于知识回放的基线方法。这种方法允许少部分旧任务的样本用于当前阶段的训练,并通过知识蒸馏或旧样本复演等方式维护模型的稳定性,能极大缓解知识的灾难性遗忘。但它只考虑到了单向的知识迁移,缺乏知识的双向更新和整合能力。
图 :基于知识回放和整合的行人再识别终身学习方法
受人脑认知系统中新皮层与海马体在记忆整合中的协同性启发,余春霖在汪婧雅教授指导下提出了一种基于知识更新和巩固的新学习框架,能够同步实现正向迁移和反向迁移。同时在对偶空间上的知识整合机制,能更有效地长期提升模型的稳定性。大量的实验证实了该研究方法的有效性。
图:不同训练阶段平均增量精度(Average Incremental Accuracy)曲线图
图:不同方法前向迁移和反向迁移能力比较
该项科研成果的第一作者为信息学院余春霖同学,他自大三下学期加入汪婧雅老师课题组围绕增量终身学习开展科研训练,大四时投稿AAAI年会并被录用。基于对计算机视觉领域的兴趣,余春霖同学已于2022年保研本校,继续跟随汪婧雅老师在相关领域深耕精进。
文章链接:https://arxiv.org/abs/2211.16201
项目链接:https://cly234.github.io/KRKC-projectpage/