为了不曾忘却的纪念：孙剑专题

“16年前，黄煦涛去香港过圣诞，无意间发现一同聚会的几位计算机视觉的领军人物均相差10岁，分别是：1936年出生的黄煦涛、1946年出生的马颂德、1956年出生的高文、1966年出生的沈向洋。大家便讨论下一次聚会，是否能再找到另一位再年轻10岁的计算机视觉领军人物，讨论迅速指向同一个人，那便是沈向洋的学生、1976年出生的孙剑。”

2020年夏天，陈长汶教授在全球人工智能与机器人大会（GAIR） “Thomas S. Huang纪念专场—中国计算机视觉的40年传承”环节，讲述了“40年传承”的由来。

作为40年传承故事的主人公，孙剑也连续三个夏天（2017-2019）来到GAIR大会的讲台，带着上百页幻灯片，毫无保留地为千名后辈们传承布道。

然而就在一个星期前的6月14日，孙剑却因病离世，这怎不让人扼腕叹息。

1

生平与贡献

孙剑博士一生专注于科研工作，是人工智能计算机视觉及深度学习领域的知名学者。他的研究成果极大的推动了人工智能技术的发展和应用。孙剑博士的主要研究方向是计算机视觉和计算摄影学。自2002年以来在CVPR、ICCV、ECCV、SIGGRAPH、PAMI五个顶级学术会议和期刊上发表学术论文100余篇，Google Scholar引用数超过28万次，H-index 121，两次获得CVPR Best Paper Award(2009，2016)。

2016年7月，孙剑博士加入旷视，任首席科学家、旷视研究院院长。在孙剑博士的带领下，旷视研究院从十几人的小团队发展成为行业领先的计算机视觉研究院，研发了包括移动端高效卷积神经网络ShuffleNet、开源深度学习框架旷视天元MegEngine、 AI生产力平台Brain++等多项创新技术，引领前沿人工智能应用。孙剑博士一手创造了研究院开放、平等、自由的文化和工作氛围并奠定了研究院的使命：持续创新拓展认知边界；非凡科技成就产品价值。

2

代表作ResNet

根据Google Scholar统计，孙剑的论文引用数高达28万6千余次，引用量排名第一的，正是“深度残差网络（ResNet）”。ResNet是世界上第一个超过百层的深度神经网络，也是深度学习领域最重要的研究之一。

在GAIR 2017上，孙剑曾经介绍ResNet研究的背景：曾经人们不相信深度学习网络是可以被训练的，从2012年8层的AlexNet之后，一切就都变了。但受各种条件的限制，在这种范式下，网络在20层左右的表现最好；直至ResNet的出现，则是让神经网络的研究开始起飞，进入了一个新的阶段。

这一切缘由于神经网络研究一向的“The Deeper，The Better”（越深越好）的信念：网络层数的加深会让网络的表达能力和抽象能力也会提高；而另一方面，层数的加深也大幅提高了可供调整的参数的数量，调整的自由度也越大。换言之，神经网络的层数的增加可以在一定程度上弥补网络结构精巧性的不足，这也使得“调参侠”和“炼丹师”的队伍进一步扩大——正如李沐所说，假设你在使用卷积神经网络，有一半的可能性就是在使用ResNet 或它的变种。

但神经网络复杂性的增加的同时也随之带来一系列的问题，如梯度消失/梯度爆炸、过拟合问题、退化问题等。ResNet所解决的正是深度神经网络训练的“退化问题”，使得训练深度神经网络成为可能。

如果做个类比，在神经网络中加入隐藏层，解决了著名的“单层神经网络为啥拟合不了XOR函数”是神经网络从0到1的突破，AlexNet是从1到10的突破，ResNet则是从10到100或者1000，甚至更多的突破。

此外，孙剑的Faster RCNN、Spatial pyramid pooling、Single Image Haze Removal Using Dark Channel Prior、ShuffleNet等代表性研究也在计算机视觉的诸多领域做出了杰出的贡献。

3

为了不曾忘却的纪念

我们始终相信一句话：纪念，是为了不曾忘却。

在今天凌晨的CVPR 2022开幕式上，我们欣慰地看到大会增加了一个简短的纪念孙剑博士的环节。孙剑是CVPR社区的活跃者，并曾两次获得CVPR的最佳论文。或许个人的痕迹或许终会被时间抚平，但他的智慧将成为世界的一部分。

子曰：君子疾没世而名不称焉。传名于后世，是对于人生的激励；在历史浩瀚的长河中，唯有推动了历史进步、给世界留下了痕迹的那些东西，才会真正的存在下去。

今天，我们推出孙剑博士的纪念专题，追思孙剑博士的生平，缅怀孙剑博士的贡献，追思人生点滴，学习其学术思想，并将其发扬。

本期纪念专题分为四个部分：

• 生平与贡献。在本文中我们已经做了简要的总结，若有不当之处，敬请原谅。

• 研究解读。对于无数人工智能研究者来说，孙剑是他们成长路上的良师益友；我们选取了孙剑博士最具代表性的研究解读，也希望更多人如同孙剑的学生张祥雨在纪念孙剑时所说的，接过衣钵，砥砺前行。

• 怀念文章。我们最初曾考虑向孙剑的亲朋好友们进行约稿，回忆与孙剑博士的点滴片段。但综合考虑后，我们还是决定改为将亲朋好友们已写好或发布的缅怀文章进行汇总；

• 演讲整理。包含孙剑的研究理念、前沿研究成果及学术与产业化的思考等。

作为文字工作者，我们相信文字的力量。将孙剑博士的研究解读、怀念文章和演讲整理汇总于此，是我们能想到的对孙剑博士最好的纪念；也希望后来者以此对照自己，见贤，思齐；并沿着前人开拓的道路，既往，开来。