AI 让已故的亲人、朋友可以换种方式陪在自己身边,但,这真的是个好选择吗?
去年,美国男子 Joshua Barbeau 用 AI “复活”已故未婚妻的故事感动了无数人,但这件事本身也伴随着不小的争议。
据英国《镜报》报道,2012 年,Barbeau 的未婚妻 Jessica Pereira 因肝病去世。8 年后,Barbeau 偶然发现了一个名为 Project December 的网站,该网站可以使用 AI 生成聊天机器人,用户只需上传一些旧短信样本,聊天机器人就能模仿其写作风格。
于是,思念亡故未婚妻过度的 Barbeau 提供了未婚妻的聊天记录和 Facebook 信息,并将机器人命名为未婚妻的名字“Jessica”,开始和其聊天。机器人能够精准地模仿 Jessica 的语气和风格,这让 Barbeau 觉得自己是真的在和已故未婚妻聊天。
这段历经十年但最终有缘无份的感情在 AI 上得以延续,一经报道感动了无数人,甚至有报道称环球电视已经买下这个故事,打算制作独家电视剧集。同时,也有越来越多的用户涌向 Project December 网站,期望模拟已故之人,打造属于自己的聊天机器人。
据了解,Project December 网站依托于 OpenAI 的 GPT-3,由独立游戏制作人 Jason Rohrer 创建。他原本打算让用户花上 5 美元来感受一下跟虚拟对象交谈是什么体验,在 Barbeau 的故事传开之前,他从来没想到人们会用 Project Decembe 来模拟已故之人。
同时,用 AI 模拟已故之人这件事本身也引发了巨大的争议,并引发了 OpenAI 的担忧。
OpenAI 方面认为 Project December 存在一定隐患:聊天机器人可能会被滥用或对人们造成伤害。对此,OpenAI 在去年与 Jason Rohrer 进行了视频会议,但效果并不理想。
可以“复活”已故之人的 Project December 重新启动
2021 年 9 月 1 日,OpenAI 给 Jason Rohrer 下了最终“判决”:“我们将在 9 月 2 日上午 10 点终止您的 APl 访问。”这意味着,Project December 网站将无法继续创建聊天机器人。
而近日,Project December 宣布重新启动,专门作为与逝者重新联络的工具。用户可以花 10 美元来创建聊天机器人,找回当初那种熟络的交流感觉。
Jason Rohrer 在采访中表示,“在听到 Barbeau 的故事之后,我发现 Project December 社区中出现了大量同样的诉求,所以我决定为这样一个特定目标而服务。我想为大家打造更好的成果,希望他们能够从中得到所需的帮助。”“构建这样一种前沿、疯狂甚至颇有科幻色彩的东西确实非常有趣。作为创作者,这对我个人来说也很有吸引力。”
据了解,用户要想使用 Project December 为已故之人创建聊天机器人,需要填写一份关于想要模拟和交谈者的问卷,并提供对方的姓名、年龄和爱好,外加具体记忆和事实。Project December 会利用这些信息让整个对话更具个性,进而提升聊天机器人的可信度。
值得一提的是,由于 OpenAI 出于安全考虑关闭了 Jason Rohrer 的开发者账户,因此他没法继续使用 GPT-3 自然语言模型,而是采用了 Al21 Lab 语言模型支持。
用 AI 模拟逝者,好坏参半
事实上,用 AI 模拟逝者并不是什么新鲜事,早在 2017 年,微软就为一种利用 AI“复活”逝者的聊天机器人申请了专利。很多初创公司也已经在这一方向上发力,比如 Replika 和 HereAfter AI,前者是一款能够与人聊天的 AI 机器人,后者则记录人们的生活故事,并用这些故事创建一个嵌入智能音箱的人类“复制品”。
亚马逊的个人数字助手 Alexa 也能模仿人们的声音,在在今年夏季 re:MARS 大会上播放的一段视频中,有个孩子问:“Alexa,能像奶奶那样给我讲《绿野仙踪》的故事吗?”于是机器就开始以奶奶的语音语调讲起故事来。
此外,还有 AI 工具如 Deep Nostalgia 等会根据逝者过去的照片制作动画,让人物眨眼、微笑。
在技术上,用 AI 模拟逝者不是难事,但在伦理上,这种形式还存在一定的争议。
比如,有人认为,让已故的人眨眼和微笑多少有点诡异。对此,照片软件 MyHeritage 在官方公告中写道,“有些人喜欢 Deep Nostalgia 的功能并沉醉于其中,也有些人觉得它令人毛骨悚然而且非常抗拒。事实上,结果确实可能引发争议,每个人都对这项技术有着自己的看法。但我们开发功能的初衷仅为缅怀前人,让自己能再次与他们对话。”
Alexa AI 首席科学家 Rohit Prasad 则表示,个性化技术是一种在人与机器之间建立信任的方法。在他看来,“很多人在新冠疫情期间失去了自己的挚爱”,这似乎是在暗指 Alexa 想用模仿已故亲人或好友的方式抚慰用户情感。
另一家总部位于洛杉矶的 StoryFile 公司,曾为一生推动大屠杀历史教育而奋斗的 Marina Smith 制作葬礼视频。在悼念者提问时,机器学习算法能从 Smith 预先录制好的视频中选择最适合的片段,让她如同在现场般与人们顺畅交谈。这种用算法重现逝者的作法看似癫狂怪异,但对于思想开放、勇于尝试的人们,却不失为一种有效的慰藉方式。
一位 Project December 用户就坦言,他在用该软件跟逝者交谈之前犹豫了很久,总觉得这事“有点犯忌讳”。但他发现,最终体验“非常治愈”。而且他的母亲前段时间刚刚被送进了临终关怀中心,不知道母亲去世后他是否会尝试跟模拟 AI 对话。
作为 Project December 的创建者,Jason Rohrer 也多次测试过 Project December,并将聊天机器人设置成自己熟悉的已故亲友,包括祖父母、阿姨和年幼时的钢琴老师。他说这让自己有机会重新感受他们、找回那段已经泛黄的记忆。
我们到底应该如何看待用 AI 模拟逝者?
对此,意大利都灵大学哲学家及专注于数字文化中的死亡问题的作家 Davide Sisto 表示,在某些方面,通过 AI 技术“复活”的虚拟数字人物只是人类历史上人们寻求与逝者保持联系或交流方式的一种延伸。“虽然照片可以用静态的方式代替死者,但当今的 AI 技术赋予了逝者数字化的‘永生’能力。”但要真正让人类接受逝者或“活着”的人类“复制品”存在于我们的生活中,可能还需要一段时间。
此外,伍斯特大学教授 Maggi Savin-Baden 与英国达登聊天机器人制造公司首席执行官兼作家 David Burden 合著了一本关于数字化“永生”的书,并制作了一个以自己为原型的虚拟人物形象,她让那些不认识她的同行们和虚拟的自己交流,然后再和她本人交流。结果是,“他们说,(虚拟形象)有些特征感觉很像我,有些则完全不像。所以这项技术仍然好坏参半。”
评论 1 条评论