王重道-清华大学电子工程专业博士(2022届)
报告题目:自监督认知感知
机器认知感知是计算机系统以类似于人类使用其感官与周围世界建立联系的方式来解释数据的能力。其终极目标是希望机器和人类一样有能力去看到、感受到和认知到世界,进而了解人类如何做决策。开放的世界导致不断变化的世界,不断更迭的数据,也只有通过自监督学习的方法才能满足机器对未知的事务的认知。他分享了近年来自监督学习在物体跟踪中表观模型学习的进展和应用,并介绍了自己的工作UniTrack。 UniTrack 是一个通用的物体跟踪框架,可以将同一表观模型应用到不同的跟踪任务中(如单目标、多目标跟踪,人体姿态跟踪等)。通过UniTrack框架,自监督学习得到的表征可以容易地迁移到跟踪任务中并取得良好的性能。此外,他还介绍了自监督物体发觉与检测的一些想法和思路,并提出物体的检测与跟踪可能在未来会通过自监督学习解决。
杨文飞-中国科学技术大学控制科学与工程专业博士(2022届)
报告题目:弱监督学习下的动作和目标定位
在弱监督学习下,现有时序动作定位一般研究范式是通过多实例分类学习的角度来解决问题,但现有研究难以解决诸如分类任务与定位任务的不一致性,只能定位最具有区分性的片段;特征连续性问题,同一动作被分割为多个动作;由于复杂背景等原因,容易产生误检。杨文飞介绍了近些年其在基于结构感知的弱监督定位网络方法、基于不确定性引导的协同训练方法以及基于协同训练的无监督定位方法的相关研究成果。同时,他也分享了基于目标part学习的弱监督目标定位方法。
徐宇辉-上海交通大学信息与通信工程博士(2021届)
报告题目:卷积神经网络模型和结构优化
卷积神经网络(CNN)在许多计算机视觉任务上展现出了显著的效果。现有的网络模型和结构因参数量和计算量过大的问题,很难在资源受限的设备上部署。因此对现有模型进行压缩或者利用网络结构搜索(NAS)设计更高效的结构是有重要研究和实用意义的。介绍了他们在模型和结构方面对神经网络进行优化的相关工作,模型优化是指对模型参数的优化,结构优化是指网络结构中操作和连接的优化。对现有模型参数,他们提出基于李普希兹约束的迭代式量化算法和可训练低秩分解,并且设计新的NAS 算法来探索更高效的网络结构——部分连接的可微网络结构搜索,这解决了目前可微NAS 搜索显存过大的问题。
高星-上海交通大学信息与通信工程博士(2021届)
报告题目:基于层次化图神经网络的多尺度图表表示学习
在许多科学研究和实际应用中,数据不再局限于规则结构,而是经常驻留在以图或网络表示的不规则结构上(例如,社交网络、蛋白质交互网络等)。深度学习方法(例如卷积神经网络)由于无法表示与处理图数据的拓扑信息,因而无法直接应用于图数据。高星分享了基于层次化图卷积网络的多尺度图表示学习方法相关工作,包括适用于任意拓扑结构的图数据的图卷积算子、图池化算子以及两者的轻量型替代跨步图卷积算子。就图池化算子而言,针对如何有效保留任意图数据的高信息量特征,以及进一步地高效利用图拓扑几何信息。对于图卷积算子,针对现有图卷算子对于处理具有多样频率特性的(异构)图信号的局限,在提升卷积算子对不同频率信息的利用和提取能力的同时,维持模型参数的数量以兼顾其泛化性。