YouTube 算法标记圣母院火灾为 911 事件，AI 又翻车

YouTube 算法标记巴黎圣母院失火是 911 阴谋，亚马逊人脸识别标记美国国会议员为罪犯，谷歌 AI 武器项目遭致广泛批评。AI 发展了，后果呢？

巴黎圣母院失火，YouTube 算法浇油

当地时间 4 月 15 日，法国巴黎圣母院发生火灾，整座建筑损毁严重。着火位置位于圣母院顶部塔楼，大火迅速将圣母院塔楼的尖顶吞噬，很快，尖顶如被拦腰折断一般倒下。事故发生后，西方媒体很快在 YouTube 上直播起火的视频。

然而在其中几段视频下面出现了一个奇怪的文本框：一段来自《大英百科全书》的关于 911 恐怖袭击的片段。

YouTube 去年推出了这个文本功能，为的是打击阴谋论的传播，这其中就包括那些质疑 911 恐怖袭击的言论。据了解，出现这个问题的原因是 YouTube 的算法错误地把巴黎圣母院火灾的烟雾标记为 2011 年的镜头，触发了 911 恐袭标记的面板。

YouTube 发言人首先对巴黎圣母院失火表达了悲痛之情，随后称他们的算法有时候会错误的调用，他们在相关视频下关闭了该功能。YouTube 此前一直因极端和误导视频而饱受批评，尤以突发新闻话题的视频为甚。尽管其已成为全球最大的视频网站，但它一直难以使用软件和人工审核来监督每天上传的数百万小时的视频。

去年，YouTube 发布了这一文本功能，文本框内容均是从包括维基百科在内的可信网站上摘取的，为的是用确凿的事实来抵消错误性视频。YouTube 表示，每周会在网站的视频下方显示“数千万”个文本面板。

但在这次全球性的新闻下，YouTube 的算法彻底翻车，遭致了更多外界批评。当为了辟谣而发明的算法出错时，是否是另一种事实上的造谣呢？

三个例子，谈谈人工智能

第一例：亚马逊人工智能识别将 28 名美国会议员判定为罪犯

2018 年 7 月，北加州美国公民自由联盟（American Civil Liberties Union of Northern California）宣布，它对亚马逊面部识别系统 Rekognition 进行测试，但发现该系统不精准。当该联盟用国会议员照片做面部识别测试时，Rekognition 将其中 28 名国会议员识别成曾经被捕的罪犯。联盟从“公开来源”下载 2.5 万张警方拍摄的罪犯脸部照片（mugshot），然后将 535 位国会议员的官方照片交给 Rekognition 处理，问它在 2.5 万张照片中是否有照片与国会议员匹配，Rekognition 给出了“有 28 张匹配”的结果。

Rekognition 是亚马逊最具争议的产品之一。这是一款在亚马逊服务器上运行的图像识别 AI 软件，用户需要为使用该软件处理的每张图片向亚马逊付费。它可以识别图像或视频上的文字、对象、场景、活动和人员。

而在此事件发生前，该产品就遭到包括亚马逊用户、民间组织、股东甚至亚马逊员工在内超过 15 万人的联名抗议。虽然人脸识别只是一种辅助手段，误报不可避免，但这仍旧让普通民众对于其的安全性、隐私性问题产生了巨大的怀疑。甚至有阴谋论称：万一亚马逊这个人脸识别没有出错呢？

第二例：谷歌的 AI 武器争端

谷歌曾与美国国防部合作开发军用无人机项目 Maven，此举遭致谷歌员工、高管、技术专家在内的强烈抵制，认为该项目有可能被五角大楼用来杀人，强烈抗议并呼吁谷歌退出该项目。

该项目在谷歌内部的反抗史将近一年，包括前谷歌云首席科学家李飞飞在内的多位技术专家、高管发声抵制，李飞飞称：“我相信以人为中心的 AI 能以积极和慈善的方式让人类受益，任何 AI 武器项目都违背我的原则。”

除李飞飞外，DeepMind 高管、Jeff Dean 等业界知名大牛同样立场鲜明地投了反对票。最终，经过漫长的拉锯战后，谷歌发布了使用 AI 的七条原则与四条底线，其中包括不会将 AI 技术应用于开发武器，不会违反人权准则将 AI 用于监视和收集信息，避免 AI 造成或加剧社会不公等。

不过，谷歌也表示，将会继续与政府和军方展开 AI 合作，例如网络安全、培训以及征兵等领域。AI 武器的担忧暂时松口气了，但对谷歌与军方 AI 合作的担忧却并没有消散。而更进一步的担忧，在电影里早就体现过了：

美国队长 2 洞察计划

第三例：自动驾驶面临车祸时的两难抉择

如果一辆自动驾驶汽车必须在撞上障碍物、导致三名女性乘客死亡或在街上碾过一名儿童之间做出选择，它应该选哪个?

即便是对于人类来说，这样的伦理决定也异常艰难。通常在发生车祸前的一瞬间，人类一般只会通过直觉做出选择。随着自动驾驶技术的发展，在不久的将来肯定会出现类似的场景，这样的两难选择，AI 会怎么做？

在此前的一项调查中发现，人们普遍认为自动驾驶汽车应该保护更多的人，即使这意味着牺牲车上的乘客。但他们同样表示，他们不会购买一辆按照这种程序设计的自动驾驶汽车。这告诉我们什么?

近期高居头版头条的梅赛德斯·奔驰公司此前曾表示，如果他们只能救一个人，他们会救司机而不是行人。公众的愤怒让他们收回了这一声明。

一位参与谷歌自动驾驶汽车项目的工程师表示，这样的调查结果并不重要，因为在这些情况下，真正的答案几乎总是“猛踩刹车”。但他同时表示，随着自动驾驶技术的发展，路况越来越复杂，这样两难的选择题始终会出现在人类面前，这样的场景下，AI 做出的选择总是基于人类的设计，但如果程序出错，面临的可能就不是牺牲一方拯救另一方的悲剧，而是两败俱伤的人间惨剧。

人工智能，想说爱你不容易

历史上，每次的技术革命都会带来一定程度的恐慌。从 18 世纪的工业革命到后来电的出现引起的一系列社会变革，再到电器的不断涌现，人们总会有失业、人身安全等方面的担心。

而人工智能从一开始就出现就被大家过度猜疑。在 1958 年，第一个神经网络系统 Perceptron 出现后，有报纸就认为机器在不久就会有自己的意识。而“人工智能之父”John McCarthy 曾在上世纪 60 年代提出，人工智能系统会在 10 年内实现。然而，十年之后，人工智能领域进入了所谓的“冰封期”。

直到最近，人工智能才又再度变得火热。一方面，计算机性能的飞速提升为人工智能算法提供了基础的支撑。另一方面，就是大数据的出现。大数据提供的海量数据让机器学习的效率成倍提升。DeepMind 团队 AlphaGo 在围棋方面的成功就得益于其前期大量的训练。

随着人工智能技术的第三次爆发，人工智能威胁论的观点又再次喧嚣。吴恩达认为机器智能赶超人类在短时间内并不现实，而 MIT 物理学家 Tegmark 则认为机器不需要本身就是邪恶的才会对人类构成威胁，40 年的时间足够达到这种程度。

Facebook 人工智能专家 Yann Lecun 表示这（AI 威胁论）还是一个非常遥远的事情。他认为，能够威胁到人类存在的机器智能基本还存在于科幻小说中。而且，机器的行为是受人类所设计的算法控制的。无论未来如何，这都是我们人类自己创造出来的。

现阶段值得担忧的不是 AI 威胁论，反而是其对社会职业的影响。以波音公司为例，相比于上世纪 90 年代，该公司的雇员数量减少了三分之一，生产效率却提高了 20%。从 2000 年到 2015 年，仅美国就有大约 500 万个职位消失，这其中大部分已经被机器所取代。人工智能所带来的影响将堪比蒸汽机，而机器智能所带的影响还不仅仅如此。

谷歌去年发布的 Cloud AutoML 产出了一系列机器学习代码，其效率甚至比研究人员自身还要高。该系统设计的目的就是为了让 AI 自己设计 AI。现在的 AI 除了会自己写代码，还会自己修复 Bug。也许值得我们担忧的，该是程序员会不会被 AI 取代了。

小彩蛋

因巴黎圣母院失火，育碧旗下《刺客信条大革命》限时免费。该游戏发布于 2014 年 11 月，以精确刻画法国首都巴黎著称。在巴黎圣母院失火之后，这款精确还原巴黎圣母院的游戏出人意料在 Steam 等游戏商店进入到销售榜前列。现在，开发商育碧通过其 Twitter 账号宣布游戏限时免费，宣布会捐款帮助巴黎圣母院的修缮工作。玩家可以通过育碧官网或客户端领取游戏，领取时间是从 4 月 17 日到 4 月 25 日。

没有去过巴黎圣母院的同学，现在可以入手了。（育碧看到请打钱。）