从ResNet的诞生讲起:美公司在北京的AI研究所出了成果,中美究竟谁受益更多?

大数据文摘出品

来源:macropolo

编译:狗小白、Aileen

中美之间摩擦不断,如今,AI竞争也成为了其中重要的组成部分。

让我们假设这样一个场景:美国AI公司设立在中国的实验室取得了一些突破,谁从中受益更多?

五年前,这个问题也许根本不会出现,即使出现,答案也无外乎是:这是全球AI研究的共同成果。如今却变了样,机器学习领域大步发展,中国科技市场和相应的监管机制都有了相当大的发展革新,如今的AI竞争已经成了围绕着中美关系的问题了。

对于美国科技公司的在华研究所,或者中国科技公司在美国的研究机构来说,这些变化意味着什么?

海外智库Macropolo最新发布的一篇文章认为,对这一现象的研究对于中美关系以及相关科研成果都有重要作用。

让我们跟随这篇文章的作者,从一个特定的研究进展ResNet入手,仔细分析其中的观点、机构和人员,并且记录这些因素,或许可以更好地评价这些研究产生的效益的流向,以及政府政策和公司行为如何最有效地利用这个流向。

一起看看。微软亚研院北京小所里诞生的大突破:ResNet

先来看一篇近五年来在AI研究领域里被引用次数最多的论文:针对图像捕捉的深度残余学习(Deep Residual Learning for Image Recognition)。

据谷歌学术统计,这篇常被缩写为ResNet的2015年的文章不仅是AI领域引用次数最多的,从2014年到2019年7月,它在任何学术领域里都是引用次数最多的一篇文章。

ResNet最重要的贡献在于它的技术使一个神经网络中堆叠多层成为可能,而这项技术是如今许多机器学习技术的引擎。堆叠多层(使他们更“深度”),应用于面部识别、自然语言处理、语音识别以及其他领域的神经网络的性能有了重大提升。

这项技术非常成功,发表论文的研究团队运用它摘得了2015年最有影响力的两项全球图像识别大赛桂冠。到2017年,这项技术作为最先进的技术之一运用在世界围棋大赛上双手互搏而大显身手,也成就了标志性的深度学习系统——AlphaGo Zero。

ResNet是微软亚洲研究所(MSRA),美国科技大佬的北京研究所里一个小研究团队的产物。

MSRA成立于1998年,坐落于清华大学附近,这间不起眼的小研究所很快成为一个研究大户,对学术研究和微软的全球产品都作出了重大贡献。

2004年,因其在机器学习领域,特别是自然语言处理、语音合成和图像识别方面的研究突破,MIT科技评论称之为“世界第一炫酷计算机研究所”。MSRA研究成果有些直接应用于Windows系统上的软件革新,或是改进微软Xbox图像,以及极大地改进了类似于中文的基于字符型的语言输入法。

然而与此同时,MSRA也在某种程度上成了过去20年内参与中国AI生态系统诞生和发展的最重要的机构。该研究所为中国胚胎期的AI生态系统培育了大量未来领军人物,从中毕业的人员包括阿里巴巴阿里云之父王坚博士、百度总裁张亚勤、字节跳动的多位干将,以及其他一些AI独角兽startup的创始人,以至于很多科技圈人士将其比喻成“AI圈黄埔军校”。

人员:谁推动了技术的突破?

回到这篇ResNet的论文,署名有四位2015年在MSRA工作或实习的研究人员,按照国际出版物上名位于姓氏前的标识方式,分别为:Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun。

这四位作者均在中国获得他们的学士学位和博士学位,目前也都在计算机视觉圈赫赫有名,除了Kaiming在中国香港拿下PhD学位之外,在发表ResNet之前,他们没有一人在大陆之外生活或工作过。在ResNet之前和之后,这些作者们都在顶级刊会上那过最佳论文奖,并获得过全球计算机视觉大赛上拿过第一名。

论文发表之后,四位作者后续都离开了MSRA。首作何恺明(Kaiming He),也是团队中知名度最高的一位,2016年加入了Facebook在加州的AI研究团队;张祥雨(Xiangyu Zhang)和孙剑(Jian Sun)加入了旷视,孙剑如今是这家公司的首席科学家。任少卿(Shaoqing Ren)与MSRA的另外两位毕业生,共同创建了总部在北京的自动驾驶初创公司Momenta,如今已成长成为一只独角兽。

要澄清一下,ResNet被引用次数最多并不意味着它的四位作者是过去五年里最优秀或最重要的AI研究者。文献被如此广泛地引用的原因部分在于它给早前已有的方法加上了关键的一笔,使其在之后的工作里能够相对简便地复现结果。文献背后地研究者们为AI领域做出了突出的贡献,并且运用他们的能力继续为中美企业努力工作。

谁获益?谁失利?

回到我们最核心的问题:在类似于MSRA的机构里产生的研究成果,谁受益最多?上述详情为我们提供了大量信息,但依然没给出清晰的答案。

MSRA团队的文章标志着整个AI领域的一个重大发展,即使其他领域的其他研究者最终会得出类似的发现,我们也不知道这一发现究竟会产生于何时。2015年后,全球的研究者开始运用ResNet技术于各种有害或有益的AI系统。微软自身也从该文献中有所受益。

撇开商誉等无形资产,只谈有形资产,微软在短时间内存在内部运用该技术的先手优势,但研究团队在2015年获ImageNet竞赛大奖后很快将ResNet论文在网络上发表,之后该技术被各领域广泛运用,其中也包括微软的竞争对手。

对微软来说,最显著的受益在于该公司获取研究人才能力的增强,虽然ResNet的作者们离开了MSRA,但他们当时的工作极大地提升了MSRA在新生代计算机科学毕业生中的信誉。

Facebook摘取了最好的果实,招纳了ResNet的领衔作者;旷视招募两名大将,获益匪浅;中国的自动驾驶生态更是由于任少卿加入Momenta得到了极大的提升。

或被改写的历史以及可能的未来

任何对净影响的优秀评估必须同时评估一些假设情况。

让我们回到1998年,很明显如果微软从未设立MSRA,会极大地推迟中国AI生态系统的发展。

让我们来假设一下,如果1998年的美国出于某些想法要求微软,在2012年时关掉这个研究所。

当时,该文章的两名作者(何恺明和孙剑)已经在该研究上合作三年了。很有可能两位会因此转去微软在西雅图附近的总部,并在那里发表论文。这种情境下,很可能孙剑就不会加入旷视,而是继续在美国公司工作。

但也很有可能,两位会出于对家乡的感情留在一家中国研究机构继续他们的工作。2013年,百度开设了深度学习研究所,也是中国第一家这样的机构,对这些研究者来说这是一个潜在可选的工作地点。

那么,如果ResNet诞生于百度的深度学习研究所,或者某所中国大学研究所,这篇论文可能还是会公开,那么对整个人工智能或者计算机视觉生态来说,就又是另一个故事了。

相关报道:
https://macropolo.org/china-ai-research-resnet/

Image placeholder
jetaimeyu
未设置
  65人点赞

没有讨论,发表一下自己的看法吧

推荐文章
两个月三项成果,对标谷歌!独家对话小米AutoML团队,如何让模型搜索更公平

大数据文摘出品作者:曹培信机器学习自动化(AutoML)正在引领机器学习的下一个时代,而要想让机器自己学会“炼丹”,其中最关键的步骤就是,找到最合适的算法模型,也即自动化神经架构搜索(NeuralAr

第三方支付 : 概述、起源 | PayPal 和支付宝 的诞生的故事

说起第三方支付,好像大家都知道,天天不是用支付宝和微信吗?支付宝和微信支付确实是行业内非常具有代表的第三方支付公司,但现在他们已经不完全是一家第三方支付公司,都可以称为金融集团。其实第三方支付,远远不

从reddit的一亿美元商业逆袭,看移动与PC产品的时代天堑

提起有“互联网头版”之称的reddit,你会联想到什么?想到这一网站上层出不穷的搞笑梗或meme图?还是程序员们经常制造出的各种有趣小发明?说起来在这个体量巨大、包容性极强、时刻制造着互联网新热点的论

基于ApiBoot的前后分离演示脚手架诞生了~

知识改变命运,撸码使我快乐,2020继续游走在开源界点赞再看,养成习惯给我来个Star吧,ApiBootAdmin源码仓库:https://gitee.com/minbox-projects/api-

2019全球PostgreSQL生态报告出炉,PG为何从RDBMS中脱颖而出?

墨墨导读:本文是近期ScaleGrid发布的2019PG趋势报告,从不同的角度解读了PostgreSQL如何在众多优秀的RDBMS中脱颖而出,原文:https://scalegrid.io/blog/

小型企业将如何从5G中受益

在足够多的新设备进入主流市场之前,5G已经在许多领域引起了越来越多的关注。从IT、零售、交通和制造业到医疗、娱乐、教育和农业,几乎每个行业都将在某种程度上受到5G的影响。越来越多的联网设备正在推动这一

中国AI人才图鉴:59%的中国籍研究员隶属美国研究机构

大数据文摘出品编译:Walker、蒋宝尚研究人员很容易被人们忽略,但不可否认,他们才是所有AI生态系统的核心组成部分。长期以来,中国和美国在人工智能方面的实力对比一直存在争议,但相关的数据支撑较弱。因

腾讯7年老员工遭暴力裁员,官方回应:该员工工作成果不匹配岗位要求

01腾讯回应暴力裁员近日,有自称腾讯7年老员工的网友发文称,人到中年,被腾讯暴力裁员。文中提到,2019年3月某天下午,腾讯HR派出大批保安单方面暴力裁员,让很多保安逼迫其收拾东西离开,当场封掉工卡等

当Kubernetes成为云操作系统的标准应用,AWS也亮出了“杀手锏”!

作为云计算领域的排头兵,AWS一直是“老大哥”形象,他的一举一动都牵动着无数人的神经。AWS不仅在云计算领域投入时间早、运行时间长、客户多,在无服务器、容器以及现代化应用工具开发方面,也是当之无愧的引

用户从0到5亿,中国移动 OneLink 架构演进之路

导语本文根据范良泽老师在2019年10月31日【第十一届中国系统架构师大会(SACC)】现场演讲内容整理而成。范良泽(中移物联网有限公司系统架构专家)2008年毕业于上海交通大学,曾供职于华为、Ope

Fortinet的云安全观:上云≠安全 云安全市场或迎“又一春”!

近年来网络攻击事件频繁发生,企业对于网络安全的关注度已经到达前所未有的高度,如何保证业务的正常运转是每个企业最为关注的问题之一。而随着越来越多的企业将业务扩展到云端,云上安全问题也成为企业必谈的话题!

MESH无线究竟有多强? Linksys MR8300无线路由器评测

作为正儿八经的“北漂一族”,常年的蜗居生活让我对大房子的概念渐渐模糊,房东提供的无线路由器也能够满足日常的网络需求。但前段时间回了一趟河北老家才发现,家里的无线路由器已经远远不能够满足我的组网需求。信

Oracle加大 ADW推广力度,让数据创造更多可能性

在数据库领域,Oracle的一举一动牵动着无数人的神经,不管是本地数据库,还是在云端的弹性扩展能力,Oracle的产品都是企业工作负载平台的最佳选择。安全、简单、敏捷、所见即所得,已经成为Oracle

[北京][360] 安全研究院招聘 PHP 服务端开发工程师

[北京][360]安全研究院招聘PHP服务端开发工程师我们是360安全研究院-IoT安全部,360内部一个小而美的团队,致力于IoT安全研究如果你想有一个自由宽松的环境,能安心写代码、研究技术,我们团

你究竟有多想成功

曾经有一个年轻人,他想赚很多很多的钱。所以他找到了一位他视为偶像的大师,并告诉大师他想成为像大师一样强大的人。大师说,如果你想成为像我一样的人,那么明天早晨来海滩见我。 所以那个年轻人四点的时候就赶到

干货 | 每天十亿级数据更新,秒出查询结果,ClickHouse在携程酒店的应用

本文转自 |携程技术中心 作者 |蔡岳毅作者简介蔡岳毅,携程酒店大数据高级研发经理,负责酒店数据智能平台研发,大数据技术创新工作。喜欢探索研究大数据的开源技术框架。一、背景1)携程酒店每天有上千表,累

探秘ASC19:首次设置的“超级团队对抗赛”究竟是什么?

4月21日,2019ASC世界大学生超级计算机竞赛(ASC19)总决赛在大连理工大学正式拉开帷幕。根据赛程,在4月23日正式竞赛之前,所有参赛队伍的主要任务是完成竞赛系统的搭建与调试,力求在3000瓦

爬虫究竟是合法还是违法的?

据说互联网上50%以上的流量都是爬虫创造的,也许你看到很多热门数据都是爬虫所创造的,所以可以说无爬虫就无互联网的繁荣。前天写了一篇文章《只因写了一段爬虫,公司200多人被抓!》,讲述程序员因写爬虫而被

让20000人心跳加速的表白!华为云究竟说了什么?

当前, 云市场玩家面临业务增长、能力快速迭代、业务转型的压力,华为云全新优化的华为云生态伙伴计划3.0将设置专项激励、创新扶持基金,以及更多的人材养成、严选市场激励,与合作伙伴共享红利、共担风险、共同

丰巢刷脸取件被小学生破解,号称3D、深度学习加持的人脸识别究竟靠谱吗?

大数据文摘出品作者:曹培信经费不够,2D来凑?前些天,丰巢智能快递柜被“小学生”用打印照片破解,让人大跌眼镜。据《人民日报》报道,嘉兴上外秀洲外国语学校402班科学小队向都市快报《好奇实验室》报料:他

初级,中级,高级开发者间的区别

初级,中级,高级开发人员不能仅仅通过开发年限来界定,可能存在初级开发人员比一个高级开发人员年龄大的现实。这时候只能依靠掌握的技能来做区分这三者。当然,这并不代表高级开发人员精于一切,但是,的确高级开

Kubernetes 基础信息:什么是 Kubernetes?

简介 Kubernetes(常简称为K8s,在希腊语意为“舵手”或“驾驶员”)是用于自动部署、扩展和管理容器化(containerized)应用程序的开源系统。 由JoeBeda、BrendanBur

NeurIPS 2019公布获奖论文!新增杰出新方向奖项,微软华裔研究员斩获经典论文

大数据文摘出品备受瞩目的NeurlPS2019周日一早在温哥华拉开序幕,今天,组委会通过一篇博客公布了包括杰出论文奖、杰出新方向论文奖等五大类奖项。NeurIPS,全称神经信息处理系统大会(Confe

程序员:我终于知道post和get的区别

IT界知名的程序员曾说:对于那些月薪三万以下,自称IT工程师的码农们,其实我们从来没有把他们归为我们IT工程师的队伍。他们虽然总是以IT工程师自居,但只是他们一厢情愿罢了。此话一出,不知激起了多少(码

全球首个AI宇宙模拟器发布!6亿光年宽度,还“自行”跑出了暗物质

大数据文摘出品作者:易琬玉、曹培信《创世纪》里,神用7天创造了这个世界。而现在,你可能也有机会体验这个过程,创造一个属于自己的宇宙。6月11日,SpaceEngine0.990版本在Steam平台发售