想象一下,你正在上一门在线商务课程——就是那种先让你看视频再要你回答问题的课程。不过,这次不是普通的课程,不只是你在听课,他们也在“看”你。当面部识别系统认为你感觉到无聊、心烦意乱或心不在焉时,就会把这些瞬间记录下来。在课程结束后,它只会问你在这些瞬间教授的内容。
这个系统不是凭空假设出来的,一家叫作Nestor的公司正式推出了这个系统。相信不只是你不喜欢它,其他学生也不喜欢。
我问法国发明家 Marcel Saucet(也就是这个系统的发明人):上这些课的学生对被监视有什么感觉?他说那些学生也不喜欢这样。他说,学生们感觉受到了侵犯,受到了监视,但他不认为这是他的错。“所有人都在这么做。虽然现在做得还不好,甚至还有点令人感到厌恶,但我们不能违背自然进化的规律”。
作为一名主要报道技术与未来发展的记者,我经常听到这样的说法:技术专家试图将达尔文的生物进化论应用到自己的工作中。他们说,技术在进步,其重要性超过了任何一个发明家或 CEO。他们认为,人类现在处于一个无法抵挡的潮流中,所以会不可避免地出现这些东西:面部识别(现在甚至被应用到儿童身上)、录下亲密对话的智能音箱,以及可以监视邻居的门铃。他们说,我们不能因为侵犯隐私、民主或信任而指责这些公司——这一切迟早都会发生。
他们说,“我们能把妖怪关在瓶子里吗”?他们认为,人们之所以买这些东西,是因为他们需要,企业只是在回应消费者的“自然选择”。他们说,这不能怪任何人,它就像重力一样自然存在。
发明家兼未来学家 Ray Kurzweil 在 2005 年出版的“The Singularity Is Near”(《奇异点临近》)一书中写道:“技术的加速发展是加速回报定律的必然结果”。
事实上,我们的世界是由决策者塑造出来的,科技公司也不例外。
声称这些东西是自然发展的结果,不仅误解了进化规律,还暗示了生物武器和那些骗子创业公司,比如Theranos和Juicero(一台售价 400 美元、可以从果汁包中榨出果汁的机器)是自然且有必要存在的。
尽管这些“创新”有的具有危险性,有的愚蠢至极,但它们都有一个共同点:它们都不是“自然选择”的结果。“智能”头梳、“智能”开关、“智能”避孕套、带有蓝牙功能的烤面包机、来自摄影公司的加密货币,或者可以联网的空气清新剂,它们都不是。
技术进化论是一个可怕的隐喻
技术专家想要在技术和进化论之间找到某种类比关系,但这个前提是站不住脚的。进化的驱动力是随机突变,而不是计划。虽然有些发明可能确实是意外导致的,但公司为这些发明申请专利、生产和销售这些产品却不是。进化过程并不包括与市场、环境、客户群有关的会议。进化与专利无关,也不需要花费数百万美元游说国会来确保计划的顺利实施。
在某些情况下,即使我们无法把技术精灵困在瓶子里,但至少可以进行人为干预,确保这个精灵遵守我们制定的规则。
在生物武器领域,有明确的法律规定了公司可以做什么,不可以做什么。FDA(美国食品及药物管理局)确保药物在销售之前经过有效性和安全性测试,USDA(美国农业部)确保新食品的研究是非常谨慎的。我们不允许人们随意钻探石油或建造核电站,不让人们随意制造和销售汽车、飞机或枪支。
因此,认为科技公司的发展不受公众利益的影响,其实是在说它们与其他行业有着根本上的不同,但其实它们不是。
这种观念之所以一直存在,部分原因在于人们无法抗拒“进步”的诱惑
在很多时候,美国科技大亨对无形的创新曲线的抱怨其实反映了他们不惜一切代价想要取得进步的心态。踏入美国的殖民者将进步看作是一条不断前进的道路,始终向前,永远不要质疑或放慢脚步。Benjamin Franklin(他自己就是一个发明家)曾经说过:“有时候,科学的快速进步会让我感到生不逢时。一千年后,人类对物质的支配力量将会达到什么样的高度是无法想象的”。
因此,建议放缓(甚至是逆转)发展潮流似乎与这种精神背道而驰。前 Uber 工程师 Anthony Levandowski 说:“已经发生的事情并不重要,就算你对历史一无所知,你也可以站在历史的巨人肩膀上。在技术领域,明天才是最重要的”。
在蒙特利尔微软研究院研究行为和计算的研究员 Luke Stark 说:“在美国人的脑子里,这些有关公司霸权和技术进步的争论与整个美国的天定命运和殖民主义历史是紧密相连的”。他说,不管遇到什么阻碍,我们都必须向前迈进,没有回头路。
甚至那些害怕被监视的人都认为,作为消费者,我们必须加快步伐,而不是一味地停顿。历史学家、《智囊团》作者 Yuval Noah Harari 在接受《时代》杂志采访时说:“我认为关键的不是试图去停止技术进步的步伐,而是试着让自己跑得更快些。”
这种以“进步”名义进行的无休止的惩罚性竞赛成了消费者行为的驱动力。尽管“美国梦”——安全、保障、繁荣——对普通美国人来说越来越遥不可及,但“梦想就在眼前”的想法又驱使着人们购买这些产品。
只有在安装了最新的 App 后,人们才会觉得生活变得更方便,有更多的空闲时间。商业广告承诺它们的产品(比如联网的灯泡)可以让人们在后院里举办更多的烧烤和生日派对。
在我们购买了这些产品之后,科技公司会把它当成一种默许,然后继续他们的“必经”之路,一步步走向一个亚马逊完全知道你在做什么、在想什么、在感觉什么的世界。Stark 说,“这是一个恶性循环。这很奇怪。它让人们陷入了某种困境,他们认为他们应该能够拥有一切,但他们做不到,而科技成了他们的救命稻草。”
或许最能体现这种恶性循环的是高科技婴儿设备:蓝牙尿布、联网婴儿监视器、跟踪婴儿一举一动、心跳和体温波动的脚链。在一个不断被安全网络侵蚀的国家里,家长们打着关爱的幌子,带着对健康的偏执,被动接受了这些设备的监视。
Stark 在他的论文中写道:“广告商一直提醒父母(尤其是母亲),他们的孩子面临着各种危险——外部威胁、营养不良、社会排斥、母亲的失职,而保护孩子最可靠的途径和减少对这些危险的担忧就是购买他们的产品。”
只要买了这些设备,即使有些东西有点吓人,但至少表明你很在乎孩子,你是个好家长。由于抓住了家长的这种心理,越来越多的跟踪设备出现在市场上。技术专家将家长的购买行为等同于“自然选择”,但事实是大多数人根本无法逃脱这种“安排”。
能力越大,责任越大
通常情况下,消费者根本没有太多的选择余地。那些小企业主发现,他们离不开 Facebook、Instagram、Yelp、Etsy,甚至是亚马逊,他们通常会要求员工使用某些应用程序或系统,比如 Zoom、Slack 和 Google Docs。来自埃森哲的数据科学家 Rumman Chowdhury 说:“现在只有那些拥有超级特权的人才会说,‘我不会给我的孩子买这些东西’,或者‘我没有在使用社交媒体’”。
我们所面对科技世界似乎是由消费者的欲望驱动的,但这些决定并没有让大多数消费者感觉良好。用户对科技的日常感受与企业决定生产什么产品之间的鸿沟变得越来越大,但这些公司却说他们是在为用户的利益着想。他们说,我们不能回头,我们无法阻止“技术的自然进化”。但事实是,“技术的自然进化”从一开始就不存在。或许,现在是时候质疑“进步”的真正含义了。
原文链接:
The biggest lie tech people tell themselves — and the rest of us
评论