戳破泡沫，人工智能应该这样看！

AI 前线导读：生命未来研究所（Future of Life Institute，FLI）曾说：“因为技术，生命可能走向前所未有的繁荣……或自我毁灭。让我们创造不同！”（Technology is giving life the potential to flourish like never before…dead tree image…or to self-destruct. Let's make a difference!）现在，我们已经进入了“弱人工智能”时代，从 Siri 到自动驾驶汽车，人工智能正在迅速地发展。虽然科幻小说经常将人工智能描绘成具有类人特性的机器人，但人工智能可以涵盖从 Google 的搜索算法，IBM Watson，到自主武器的任何科技。目前的弱人工智能被设计来执行的任务范围狭窄（例如，仅执行面部识别，或只进行互联网搜索，或仅驾驶汽车）。离研究人员的长期目标创建强人工智能（AGI）还很远。但是，我们必须在强人工智能来临之前，审视所有可能影响的人工智能范畴与其带来的风险。George Krasadakis 就跟我们分享他的想法：人工智能是如何影响我们的世界的？有哪些风险，我们应该如何做好准备？

“人工智能”，这是我们这个时代最流行的技术术语之一——而且经常被滥用，甚至被误用。

媒体都喜欢刊登有关人工智能的成功故事，还有人工智能带来的“反乌托邦（dystopias）”：机器取代人类员工、人工智能超越人类智能、机器人夺取控制权等等。

但是，如果你不去关注这些炒作的话，你就会发现，一场真正的革命正在进行中。要了解人工智能的潜力，只需研究诸如深度学习等领域的最新进展，以及它们在计算机视觉和自然语言处理等领域的应用就可以了。

由于技术的结合，使得机器能够理解大量的数据，并执行认知功能，这一进程出现了巨大的中断。

人工智能正在改变我们的世界，在我们工作、生活、合作、决策和行动的方式上，人工智能带来的影响是深远的。

人工智能的定义

人工智能可以定义为“使系统能够将认知功能与适应性和学习能力结合在一起，从而实现自我提升的技术”。

人工智能系统能够捕捉并“理解”它们的环境，并针对特定目标作出最优、实时的决策。

作为人工智能的一个典型例子，“计算机视觉”使系统能够“看到”——通过复杂的算法，这些算法被训练用来识别各种各样的实体（译注：实体：entities，是有可区别性且独立存在的某种事物，但它不需要是物质上的存在实体可被使用来指涉某个可能是人、动物、植物或真菌等不会思考的生命、无生命物体或信念等的事物。在这一方面，实体可以被视为一全包的词语），如图片或视频中的风景、人物和物体。

在应用人工智能的另一个例子中，“自然语言处理”技术可以基于自由形式的自然语言与机器进行交互：自然语言处理和相关技术可以“理解”自然语言并以有意义的方式来回应——只要机器能够提取“自然语言”的上下文环境，它就可以综合正确的响应并以“自然语言”回应用户。

人工智能的快速发展得益于人类主要活动的数据流——在线交流、社交互动、设备使用、搜索、内容消费和物联网数据流——此处仅举几例。

为了理解这些海量的复杂数据，人工智能系统动用了云计算和专用机器学习算法的力量。世界级规模的数据中心拥有巨大的标签数据集，用于训练人工智能算法来执行某些认知功能。

技术现状

算法可以“看到”

计算机拥有“看”的能力是一项惊人的成就。人工智能驱动的系统能够以令人印象深刻的细节层次来“理解”一幅图像或一段视频的上下文环境：它们能够识别出一系列不断扩大的实体——比如人们、执行人、汽车、房屋、街道、树木等等——并且成功的程度越来越高。

给定图像或视频，算法可以估计其他属性，如图片中的人数、性别、年龄，甚至情绪状态。

你只需将一张全家福照片提交给一项商用的认知服务，并在几毫秒内得到被识别的人、他们的性别、年龄和主要情绪相关的回应。照片中的物体也可以被识别出来——例如，人工智能可以识别汽车，也可以识别出它的制造商和型号，然后标记它以改进搜索、分组和可发现性。

在不久的将来，算法将能够推断出即使是隐含的情况——比如孩子聚会、体育赛事、商务会议或公园里的随机安排。

计算机视觉可能的应用是令人印象深刻的：从可以 360°环视的自动汽车，实时了解其环境和动态；再到特殊的应用，如 Microsoft 的 Seeing AI——一个原型系统，用于帮助视障人士或盲人了解他们的环境！

计算机视觉正在取得巨大的进步，在无人驾驶汽车、导航、机器人技术、模式识别、医疗诊断等领域都有广泛的应用。人工智能系统不断学习，而且学得很快。

与“机器”的对话

与 Amazon Alexa、Microsoft Cortana、Apple Siri 或 Google Assistant 的短交互就足以实现自然语言处理技术的巨大进步。Microsoft 和 IBM 曾宣布，他们的自然语言处理技术在处理从体育到政治的各种讨论时，表现与专业转录员相同（或更好）。Google 最近展示了其数字助理技术 Duplex，该技术能够通过自然的对话体验完成某些任务——例如通过与人类进行自由对话安排会议或约会。

数字助理变得越来越聪明、有条理、积极主动。

在不远的将来，你的数字助理会以很自然的对话的方式作出回应，可能还会以某种风格、态度和幽默来配合你的个性及当前的情绪。

数字助理不断地学习，使用与用户的每一次交互，并且更好地匹配用户明确指出或隐含确定的偏好。无疑在未来的某个时刻，数字助理将通过无缝地利用用户的深刻知识、来自用户环境的信号以及全球趋势和动态来实现主动和自主。

人工智能带来的应用和影响

人工智能已经在许多方面影响了我们的社会经济系统。我们已经进入了市场、商业、教育、政府、社会福利体系、企业、就业模式和社会结构等剧烈变革的阶段——所有这些都将很快重新塑造成智能技术和自动化的结果。人工智能的大规模应用将从根本上改变所有行业，总结如下。

交通运输已经处于转型模式——全自动驾驶汽车将很快成为现实——它们将更安全、更高效、更有效。自动驾驶卡车、智能集装箱、无人驾驶出租车和智能城市，这些只是交通运输行业现实的一些例子。

在交通运输领域中，人工智能将带来巨大的变化，不仅是对车辆，也是对整个生态系统——从出租车服务到电子商务和包裹递送服务。

消费者的习惯将受到严重影响，从拥有汽车转变为按需消费汽车服务。

车辆即服务（vehicle as a service）的成本将显著降低，原因之一是运营这项服务的公司能够更好地利用车辆的运力。

由自动驾驶汽车车队组成的整个交通网络，将通过人工智能算法进行编排，以实时更好地适应需求、交通和其他条件。这将改变人们通勤的方式以及城市扩张和发展的方式。例如，使用更便宜、更快速、更安全的自动驾驶汽车的新时代，可能会引发逆城市化的趋势：尤其是你如果考虑到，在乘坐自动驾驶汽车的时间里可以充分利用现代办公室的功能进行办公，这点就尤为明显。

电子商务：凭借先进的、由人工智能驱动的个性化、动态定价和提供产生的功能，客户体验将变得越来越智能化。配送中心将变得更加自动化：机器人在空间中收集产品并执行客户订单，在某些情况下，这些操作是自动化的。无人驾驶的飞机、汽车可能在交付过程中最后阶段发挥作用。由于集中智能（centralized intelligence）将协调整个流程，典型的销售流程、渠道、实体店铺的网络变得不那么重要，从而扰乱了整个行业。

金融服务、保险和其他需要大量数据处理和内容处理的部门也将受益于人工智能。金融机构将自动处理交易确认、欺诈识别、股票交易、推荐和咨询服务等重要流程。保险公司将利用大量可用的数据、预测和机器学习技术，以获得更好的风险评估。因此，他们将能够提供更好的产品，满足特定客户的确切需求。汽车保险公司也将受到智能无人驾驶汽车带来的重大影响。

国家和市民服务：国家治理和社会机制——人工智能可以在消除官僚主义、改善市民服务和社会计划产生重大影响。

法律服务：更传统的、建立在牢固关系之上的行业，如法律职业，将由人工智能重新定义：典型的法律支持服务，涉及文档处理、分类、发现、总结、比较和知识管理——这些都是人工智能所擅长的任务。

产品开发：人工智能引入了新的功能，改变了典型的产品开发过程：用于数字或实物产品。随着先进认知技术的普遍可用性（通过易于使用的 API 实现基于云的商业人工智能产品）和低成本集成方案的出现，人工智能驱动的创新机会呈指数级增长。商用认知 API 和云计算使得软件开发人员可以轻松使用高级人工智能技术来构建认知应用程序。实物产品制造的过程，也可以受益于人工智能驱动的生产线、质量控制系统和持续改进流程。产品将很快以完全不同的方式建成；它们将被连接在一起，并且实现智能化。

教育：在世界范围的数字化内容、数据和科学知识的基础之上，人工智能还将会极大地改善整个教育系统。

智能教育智能体，将会确认学生们的需求，综合出最佳的个性化教育方案，以适当的水平、讲课进度、首选的内容类型及其他参数，来迎合学生的意图。

在另一个场景中，由人工智能驱动的应用程序将能够主动推荐教育机会和个性化教育的内容：这取决于用户当前的职业状况、教育水平和以往的经历。这可能是会采取的永远在线的智能“教育顾问”的方式，为每个用户发现正确的学习机会。

人工智能的担忧

对于大规模采用人工智能所带来的社会、政治和伦理影响，存在着严重的担忧和未解决的问题。例如，可以通过人工智能大规模实现的“智能自动化”，有望改变我们的工作方式和需求技能：某些角色将会过时，一些职业最终会消失。

致命的自主武器：自动机器人的概念令人印象深刻——想象一下，一辆自动驾驶汽车，它可以捕捉环境和动态并作出实时决策，在一定的限制条件下实现预定义的目标：从 A 点驾向 B 点。

然而在军事背景下，这种自主性决策令人恐惧：所谓的致命自主武器，指的是未来的机器人系统，它可以在没有人类干预或者批准的情况下击中目标。但是，是谁在控制这些“杀手机器人”的设计、操作和目标分配呢？这样的机器人如何能够理解复杂情况下的细微差别，并作出威胁生命的决定？类似这种的担忧还有很多。

偏见的风险和透明度的需求：人工智能系统通过分析大量数据来学习，并通过对交互数据和用户反馈的持续建模来不断适应。如何保证人工智能算法的初始训练是无偏见的？如果一家公司通过训练数据集（无论有意或无意）引入了对特定类别的客户或用户的偏见，该怎么办？例如，如果负责从一堆简历中识别有才能的候选人的算法继承了已知或未知的偏见，导致了与多样性相关的问题，该怎么办？

我们必须确保这些系统对其决策过程是透明的。这是允许更好地处理边缘案例的关键，同时支持更广泛的受众和社会的普遍理解和接受。

获取数据、知识和技术：在我们互联的世界里，只有相对较少的公司为了我们每个人正在收集大量数据。对这些数据的访问将使我们的日常生活在活动、互动和明确陈述或隐含确定的兴趣方面得到精确的再现；如果有人 (或其他什么人) 有了这些数据，就会“知道”我们的移动历史、我们的在线搜索和社交媒体活动、聊天、电子邮件以及其他在线微行为和互动。

一个人工智能系统将能够“理解”任何在线用户——在兴趣、日常习惯和未来需求方面；它可以得到令人印象深刻的估计和预测，从购买兴趣到用户的情绪状态。

如果你考虑这个大规模的人工智能输出——在全体人口的层面上分析数据——这些预测和见解可以描述整个人口的综合、状态和动态。这显然会给那些控制这些系统的人提供极端的权力。回想一下 Cambridge Analytica 案例：给定个人用户的数据可能价值很低，但当大规模分析时（对于足够大的用户群体，拥有先进的分析和推理模型），它可能会带来巨大的社会政治影响。

隐私权：当你考虑到未经授权访问某人的在线历史 (或其他) 数据的可能性时，隐私权显然处于危险之中。但即使是离线用户的情况下——有人故意决定保持“断开的连接”——隐私权仍然受到威胁。

想象一下，当一个中断连接的用户（没有智能手机或其他设备感知到用户的位置）在未来的“智能城市”中移动会是什么样子的。只要他在几条主要街道上走一走，安全摄像头网络就能够捕捉他的踪迹，并可能通过可靠的面部识别来识别他，并与中央数据存储区进行比对。那么，谁能够获得这些信息，以及在什么样的条件下获得这些信息，其中明显存在很大的问题。

未经授权的访问和控制：安全性和访问控制是一个关键方面——如果有人破坏了智能系统，例如自动驾驶汽车，那么后果将是灾难性的。保护智能连接系统和机器的安全，防止未经授权的访问，是重中之重。

技术性失业：这被定义为应用新技术“解释”的失业：在人工智能时代，失业指的是被智能自动化所取代的工作。在未来几年后，我们将目睹劳动力和市场的重大变化——角色和工作将被淘汰，行业将被彻底改变，就业模式和关系将被重新定义。

例如，与客户服务 / 呼叫中心、文档管理、内容审核相关的任务和活动越来越多地基于技术和智能系统。与生产线和工厂的操作和支持相关的角色也是如此：智能机器人正在取代人类，它们可以安全地在空间中导航、查找和移动对象 (如产品、部件或工具)，并执行复杂的组装操作。

但是，人工智能在处理更复杂的活动方面是非常有效的——那些需要处理多个信号、数据流和实时积累知识的活动。一个典型的例子是能够捕捉并“理解”它们的环境和动态的自动驾驶车辆，它们可以“看到”，实时决定并采取行动。职业司机 (出租车、卡车等) 会发现他们的技能需求迅速下降。

伦理、社会责任和艰难的决策：人工智能使实时的最佳决策成为可能。尽管在大多数情况下，最佳决策是客观确定、并被普遍接受的，但有几个例子提出了伦理和道德问题。例如，一辆自动驾驶汽车知道它即将撞上行人，必须决定它是否会通过冒险 (对乘客) 的操作来避开敏感的行人。这需要以毫秒为单位来决定。

这些关键决策背后的逻辑必须预先定义、充分理解和接受；与此同时，在某些数据保护规则下，自动驾驶汽车的活动和决策的详细历史必须可供访问并可用来进行分析。

不均衡的权力和对数据的控制：科技公司在科学 / 工程以及商业和产品开发层面都在大力投资人工智能。与其他雄心勃勃的竞争对手相比，这些公司拥有无可比拟的优势：庞大的数据集以多种不同的格式 (文本、图像、音频、视频) 描述了广泛的人类活动 (搜索、交流、内容创建、社交互动等等)。为了保持领先的市场地位，科技公司往往会收购那些有前途的科技 / 人工智能初创企业，这些公司扰乱了市场。这可能会带来超能力，人工智能技术的独特设置会带来大量累积的用户和机器数据。

人工智能的“承诺”

在物联网 (IoT) 的背景下，数十亿连接的设备不断地发送事件、操作和其他数据，然后通过先进的大数据、机器学习和人工智能技术对这些数据进行处理。

这些丰富的数据，再加上理解大量复杂数据集的能力日益增强，正在为健康、生活方式、交通、教育以及几乎所有人类活动的改善创造前所未有的机会。在某些假设下，这场技术革命将带来一个繁荣、创新和幸福的新时代。

是的，技术失业是一种风险，但在大多数情况下，人工智能将对人类起到支持作用——赋予人类的因素以更好地处理需要判断和创造性思维的复杂和关键情况的能力。

在未来，人类将不再需要执行常规的、有限的工作。劳动力和基本的就业模式将从长期的全职就业协议转向灵活的、有选择性的服务提供。

将有一系列新的商业机会，赋予人们创业精神、创造力和创新文化。

与此同时，将会有许多新的角色和专业，专注于技术和科学，让人们从单调、低价值的工作中解脱出来，去从事更有创意的活动。

教育系统将演变为个性化课程和终身学习模式。通过智能获取世界积累的知识、思想和创造力，创新和创造性思维能力将得到增强。

随着人工智能在交通运输行业的应用，我们将见证道路交通事故和死亡人数的显著减少。此外，人们将从更低的运输成本和更高的服务水平中获益。

人们将通过智能发现工具更好地获取世界上的数字化知识。“假新闻”问题，以及在线内容质量、安全性都将通过智能组件和人工智能服务得到改善。

人工智能也改善了我们的卫生系统：更精确的医疗诊断、个性化的医疗、更短的药物开发周期将显著提高整体效率、为患者提供的服务水平以及获得卫生服务的一般途径。

准备迎接人工智能时代

但是，为了个人和社会的利益，我们如何保证人工智能的正确使用呢？我们如何最好地适应已经发生的技术变革?

人们需要对技术、它的潜力、好处和相关的风险有一个全面的认识和理解。社会需要适应新的技术环境，并将人工智能作为帮助人们实现更多目标的“智能工具”。我们都需要意识到人类的价值，但也看到了人工智使用不当的对待。

各国需要通过使法律、框架、社会方案及其教育制度现代化来适应。需要新的战略：把重点放在教育——以及市场、商业和社会制度的新框架；他们需要重新思考，在智能自动化的新时代，市场、公司和雇佣协议应该如何运作；他们需要重新设计社会机制，以涵盖一系列新的情景和情况。

人们需要转向学习生活的模式——学习新的技能，探索与事物的新秩序更相关的新天赋。

思想领袖需要推动正确的规则、框架和全球协议，以减少权力集中和对数据和技术的控制的风险。

这次技术革命为繁荣和增长带来了巨大的机遇——我们只需要以某种方式确保技术将被应用和使用在正确的方向。我们需要一个框架，用基本规则和那些保证可靠性、透明性和伦理一致性的规范来指导人工智能驱动的应用程序的开发。

在正确方向上的关键步骤已经发生，包括禁止 ALW 的讨论，以及可解释的人工智能 (explainable AI，XAI) 和“解释权”，允许了解用于人工智能的模型 (以及它们如何作出特定的决定——这也是欧盟 GDPR 的要求——通用数据保护监管)。

译者结语：

我们对文明所爱的一切都是智慧的产物，所以用人工智能增强人类智能有促进文明走向前所未有的兴盛的潜力。但，前提是能我们保持这项技术有利无弊。

原文链接： Artificial Intelligence: beyond the hype

感谢陈利鑫对本文的审校。