近日，香港中文大学（深圳）吴保元教授的四篇论文分别被国际顶级会议收录。其中两篇被计算机视觉领域顶级会议ECCV 2020收录，其余两篇分别被多媒体领域顶级会议ACM Multimedia 2020以及计算机图形学及应用会议Pacific Graphics 2020收录。

        吴保元教授是数据科学学院副教授、深圳市大数据研究院大数据安全计算实验室主任，他还是人工智能顶级会议AAAI 2021、IJCAI 2021高级程序委员和中国计算机学会、中国自动化学会多个专业委员会委员。他曾提出多项原创算法，是国内较早从事该研究的资深专家之一。

       此次被ECCV 2020收录的四篇论文分别是《利用随机符号翻转提升基于决策的黑盒攻击算法》《SPL-MLL: 选择可预测标记的多标签学习》《3D点云分类基于联合梯度对SOR防御的高效攻击》《用于图像修复的像素级密集检测器》。论文详细信息如下：

Boosting Decision-based Black-box Adversarial Attacks with Random Sign Flip

利用随机符号翻转提升基于决策的黑盒攻击算法

【摘要】

        基于决策的黑盒攻击算法只需要目标模型的预测标签就能构造对抗样本，这给当前的深度神经网络带来了极大的威胁。然而，现有基于决策的黑盒攻击算法在无穷范数约束下的性能较差，往往需要大量的查询才能取得满意的攻击效果，这给实际使用蒙上了阴影。本文发现，在攻击过程中，随机翻转一小部分对抗噪声的符号可以显著提升攻击性能，我们将这种简单高效的攻击方法称为符号翻转攻击。我们在CIFAR-10和ImageNet两个基准数据集上进行了充分的实验，实验结果表明符号翻转攻击的性能远超其他同类方法。我们还成功利用该方法对实际系统实现了黑盒攻击。

图1. 如上图所示，仅需数百次查询，本文提出的方法便可在基于决策的黑盒条件下成功攻击实际人脸识别API。

SPL-MLL: Selecting Predictable Landmarks for Multi-Label Learning

SPL-MLL: 选择可预测标记的多标签学习

【摘要】

        尽管多标签分类研究已经取得了很重要的进展，但它依然是一个非常具有挑战性的问题，原因在于不同标签之间的复杂关系。另外，对输入和部分标签之间关系的建模则进一步增加了准确预测所有标签的难度。本文提出选择少部分标签作为标记，选择标准是既容易根据输入进行预测（即可预测性），又能很好地帮助恢复其他可能的标签（即具有代表性）。现有一些方法将标记选择和标记预测分离为两步。而在本文中，我们提出的SPL-MLL方法将标记选择、标记预测和标签恢复三个任务进行了统一的建模，确保了标记同时具备可预测性和代表性。我们利用了交替方向法来解决这个联合优化问题。实验表明：对比现有主流多标记方法，所提算法取得了优越的性能。

图2. 如上图所示，本文所提方法展现出了优异的图像标注能力

Efficient Joint Gradient Based Attack Against SOR Defense for 3D Point Cloud Classification

3D点云分类基于联合梯度对SOR防御的高效攻击

【摘要】

        基于深度学习的三维点云分类模型容易受到对抗样本的攻击。目前一种去除点云中离群点的防守方法（Statistical Outlier Removal，简称SOR）可以有效防守对抗样本，并被广泛使用。本文我们提出一种基于联合梯度的白盒攻击方法（JGBA），可以成功攻破SOR防守。具体地，通过优化一个同时包含原始点云和经过SOR方法处理的点云的目标函数，我们将二者同时推向分类模型的决策边界，从而实现对抗攻击。难点在于SOR的不可导性使得我们无法直接优化目标函数，对此我们采用矩阵乘法对SOR防守进行线性近似，进而成功计算梯度实现目标函数优化。此外，我们对点云中每个点的扰动幅度加以限制，从而避免离群点的产生。实验证明，针对PointNet, PointNet++和DGCNN三种点云分类模型，所提算法取得了SOTA的攻击成功率。
 

表1. 如上表所示，针对不同模型和不同防守策略，本文所提方法都展现了取得了优越的攻击性能。

Pixel-wise Dense Detector for Image Inpainting

用于图像修复的像素级密集检测器

【摘要】

         近来，以GAN为基础的图像修复方法采用了平均策略来识别生成图像并输出一个标量。这种方法不可避免地会丢失生成元素的位置信息。除此以外，对抗损失和重建损失（如l1损失）之间会更加难以调节。本文中，我们提出一种新的以检测为基础的生成模型框架。该框架在对抗过程中采用min-max策略并用于图像修复。生成器采用编码器-解码器结构来填补缺失区域；探测器则在弱监督学习下用像素级的方法定位视觉元素。这种位置信息能让生成器更好地注意到生成元素并对其一步强化。更重要的是，我们将检测器输出的加权结果带入重建损失函数。这种方法能够自动平衡对抗损失和重建损失的权重而不依靠人工调整。此框架在多个公开数据集上都有极佳的表现。

源码见：https://github.com/Evergrow/GDN_Inpainting

图3. 如上图所示，本文所提出方法展现出优异的图像修复效果

会议简介

       ECCV，全称：European Conference on Computer Vision，中文全称：欧洲计算机视觉国际会议。ECCV每年的论文接受率为25-30%左右，收录论文的主要来源是来自于美国、欧洲等顶级实验室及研究所。2020欧洲计算机视觉大会（ECCV 2020）因疫情改为线上会议，ECCV两年举办一次，与CVPR、ICCV共称为计算机视觉领域三大顶级学术会议。

       ACM MM（全称：ACM Multimedia）是国际多媒体领域学术和产业界交流的最顶级盛会，也是中国计算机学会推荐的多媒体领域唯一的A类国际学术会议。热门方向有大规模跨媒体分析、理解与搜索、多模态人机交互、多媒体系统与推荐、计算视觉、计算图像、多媒体艺术、社会媒体研究等。ACM Multimedia每年在欧洲、美洲和亚太地区轮流举办。本届会议共接收1698篇有效投稿，最终录用472篇，录用率为27.8%。

       Pacific Graphics（全称：Pacific Conference on Computer Graphics and Applications环太平洋计算机图形学及应用会议）是一年一度的国际性的图形学及其应用方面的盛会，是泛太平洋地区最重要的计算机图形学国际会议，也是全球三大计算机图形学国际会议之一，此会议是与国际重要图形学组织Eurographics合办。

教授简介

吴保元
中国科学院自动化研究所博士

香港中文大学（深圳）数据科学学院副教授

深圳市大数据研究院大数据安全计算实验室主任

研究领域：机器学习，计算机视觉与优化

       吴保元教授是香港中文大学（深圳）数据科学学院副教授，并担任深圳市大数据研究院大数据安全计算实验室主任。吴教授于2014年获得中国科学院自动化研究所模式识别国家重点实验室模式识别与智能系统博士学位。2016年11月至2018年12月担任腾讯AI Lab高级研究员，并于2019年1月升任T4专家研究员。

       他在机器学习、计算机视觉、优化等方向上做出了多项出色工作，在人工智能的顶级期刊和会议上发表论文30多篇，曾入选人工智能顶级会议CVPR 2019最佳论文候选名单，并担任人工智能顶级会议AAAI 2021、IJCAI 2021高级程序委员和中国计算机学会、中国自动化学会多个专业委员会委员。他在人工智能安全的研究上有深厚的造诣，提出过多项原创算法，是国内较早从事该研究的资深专家之一，并与腾讯安全团队开展了深入的合作。在腾讯工作期间，他领衔发布了业内第一个AI安全风险矩阵，得到业内和媒体的广泛关注。