CAC2020专题论坛“智能计算与机器学习”成功召开

日期:2020-11-07 11:21

2020年11月7日下午,2020中国自动化大会专题论坛之“智能计算与机器学习”在上海国际会议中心成功召开。智能计算与机器学习是目前实现人工智能最主要的途径和方式,也是人工智能中最具智能特征、最前沿的研究领域之一,是综合自动化、计算机科学、数学、生物学、神经科学等多学科的新兴交叉领域。此次专题论坛面向未来通用人工智能发展的趋势,展示智能计算与机器学习领域最新的研究成果,包括机器学习的公理化、顿悟的人工智能模型、面向开放环境的鲁棒模式识别、非监督增强匹配、迁移性对抗攻击、标记增强以及神经网络训练等。

此次论坛由中国工程院王天然院士与清华大学周杰教授共同担任论坛主席。论坛由周杰教授主持。

论坛主席王天然院士

论坛主席周杰教授

中国科学院自动化研究所刘成林研究员做了题为《面向开放环境的鲁棒模式识别》的报告。刘成林研究员首先对该领域的相关工作做出了总体的介绍,然后介绍了深度学习在其中取得的丰硕成果,同时详细分析了传统模式识别分类器在开放集中学习效果不佳的原因。并由此提出了基于卷积原型学习的开放集分类方法,该方法使用卷积神经网络提取图像特征后,基于最近距离规则在特征空间对其分类。最后,刘成林研究员介绍了该方法在异常模式拒识以及小样本学习模型泛化领域取得的最新进展。

刘成林:面向开放环境的鲁棒模式识别

清华大学张长水教授在报告《图像的非监督增强匹配》中介绍了关于图像的非监督增强匹配方法研究的有关进展和一些思考。张教授首先说明当前在使用深度神经网络识别图像时,需要标注大量图像,而这需要耗费大量的人力和时间。对于这一问题,他给出的解决方案是:给定一些物体的标准图像,对大量未标注的图像实现自动的图像标注。然后介绍了图像非监督增强匹配算法的一些研究进展与相关结果。最后,张教授以文字识别和交通标示识别问题为例,介绍了其课题组设计的新方法,实验结果表明所提方法较好地完成了这些图像的自动标注。

张长水:图像的非监督增强匹配

北京大学林宙辰教授带来报告:《Training Neural Networks by Lifted Proximal Operator Machines》。报告介绍了一种用于训练全连接前馈神经网络的Lifted Proximal Operator Machines(LPOM)方法。LPOM只使用激活函数本身,不需要梯度步骤,从而避免了基于梯度的方法中梯度消失或爆炸的问题。它还可以处理各种非递减的Lipschitz连续激活函数。此外,LPOM的内存效率几乎与SGD一样,而且它的参数调优非常容易。报告中指出,林教授及其团队进一步实现并分析了LPOM的并行解,同时验证了LPOM在各种网络架构和数据集上的优势。最后林教授介绍了一些最新研究进展和思考。

林宙辰:Training Neural Networks by Lifted Proximal Operator Machines

上海交通大学杨杰教授的报告《第一类对抗攻击与注意力的攻击机制研究》,从注意力攻击的角度介绍了神经网络的第一类对抗攻击问题。由于基于神经网络的人工智能技术逐步在社会中展开应用,其安全性问题成为学者关注的重点。杨杰教授首先介绍了神经网络对抗攻击的背景,并提出了利用对抗攻击生成统计学第一类错误的方法。同时从注意力机制切入,结合其它迁移性增强方法,提出了一种具有高度迁移特性的神经网络攻击方法。通过实验结果表明,当前的主流深度神经网络在不加以防御的情况下准确率均无法达到实用要求。

杨杰:第一类对抗攻击与注意力的攻击机制研究

北京交通大学于剑教授做了题为《机器学习的公理化研究》的报告。尽管目前机器学习已在图像识别、语音处理及工业系统领域取得了丰硕的成果,但在其中很难看到基础学科(例如数学、物理学)那种贯穿始终的体系。于教授首先介绍了机器学习的国内外教材与流派,从而引出了关于机器学习的公理化的思考。然后,类比人类与机器的学习,从认知假设、类表示与类表示公理与归类公理等方面介绍了机器学习的公理化的前沿进展、主要技术进展及发展趋势。

于剑:机器学习的公理化研究

之后是东南大学耿新教授进行报告,报告名为《“标记增强”-释放标记空间的威力》。现有的大部分数据集,示例的标记均采用0/1标记,即用0表示不相关,1表示相关。与之相异,现实世界中不存在如此清晰的分别,如何给予物体适合的标签成为提升机器学习性能的关键技术之一。耿教授提出了标记增强的概念,介绍了标记增强与模糊聚类、知识蒸馏、标记分布的内在关联与相关研究进展。最后,耿教授介绍了课题组在标记增强解释方面取得的最新进展。标记增强能够通过挖掘出训练样本中隐含的标记重要性差异信息,将逻辑标记转化为标记分布,从而有效地提升预测精度。耿教授指出,将标记分布学习方法与标记增强配合,能够有效匹配大多数监督学习问题。

耿新:标记增强”-释放标记空间的威力

论坛的最后,浙江大学吴飞教授带来报告《数据驱动与知识引导相互结合智能计算》。经典人工智能理论框架建立在以递归可枚举为核心的演绎逻辑和语义描述基础方法之上,使得算法难以事先预设好智能算法能够处理的所有情况,因此智能算法在处理不确定性、开放性和动态性等问题时难以发挥作用。吴教授首先介绍了数据驱动下归纳、知识指导中演绎、行为探索中顿悟的人工智能新模型和新方法。然后介绍了数据驱动与知识引导在经济、教育、司法判案、疾病诊断方面的应用。吴教授指出,有效利用涌现数据、先验知识和行为交互,推动人工智能具备“学会学习(learning to learn)”能力是未来人工智能发展的趋势。

吴飞:数据驱动与知识引导相互结合智能计算

此次论坛反响热烈,参会老师、学者以及研究生进行了积极提问和讨论,从中受益匪浅。

来源:大会组委会