AICon 上海站|90%日程已就绪,解锁Al未来! 了解详情
写点什么

越过 Tay 的耻辱之后,微软对话机器人势头依然凶猛

本文转载自aitrends

  • 2018-12-04
  • 本文字数:2302 字

    阅读完需:约 8 分钟

越过Tay的耻辱之后,微软对话机器人势头依然凶猛

导读:让人工智能拥有 “对话” 能力甚至情感认知,是很多科幻电影里都描述过的场景。很多科技巨头都在朝着这一方向进行深入研究。Microsoft 也不例外。那么,在对话式人工智能这条大道上,Microsoft 表现怎么样呢?


当地时间 11 月 14 日,Microsoft 在人工智能会议期间中推出了一组新服务和产品更新,其中包括用于 Power BI 的人工智能模型构造器(一种无代码业务分析解决方案)、AirSim 的 Unity 插件(一种航空信息和机器人平台的开源工具包),以及 PlayFab 公共预览版(一种多人游戏服务器平台)。但其中有两条公告让人耳目一新,它们向公众展示了西雅图微软总部在对话式人工智能(conversational AI)领域上令人印象深刻的进展。


第一条公告是,Microsoft 收购了聊天机器人初创公司 XOXO。Botkit 框架是 XOXO 的知名产品。Botkit 框架能够让企业为 Cisco Spark、Slack 和 Microsoft Teams 等聊天应用创建会话机器人。第二条公告是关于 Microsoft 机器人框架,这是一个综合全面的聊天机器人框架,开发者可以用 Bot Framework 开发和部署一个高品质的对话机器人供用户使用,也就是说 Bot Framework 是快速搭建智能服务的后端,快速在各种终端和服务上提供服务。


现在,Microsoft 生态系统中的开发者可以使用丰富的机器人构造工具,这得益于今年早些时候 Microsoft 收购的对话式人工智能初创公司 Semantic Machines、人工智能开发工具包创建者 Bonsai 以及无代码深度学习服务 Lobe,毫无疑问,这些收购带动了 Microsoft 云计算平台 Azure 的发展。在 2018 年第一季度,Azure 以 60 亿美元的收入超过 Amazon Web Services,到目前为止,已有 120 万开发者注册并使用 Azure Cognitive Services(认知服务),这是一组预制的人工智能模型,集合了多种智能 API 以及知识 API,开发者可以开发出更为智能、更有能吸引力的产品。


这一势头,在两年前还是不可想象的。


你或许还记得,2016 年 3 月,Microsoft 推出了 Tay,这是一款人工智能聊天机器人,Microsoft 研究人员在 Twitter 上将 Tay 作为 “会话理解” 实验的一部分。用户与 Tay 交谈的越多,它就会变得越智能,主意也越多,交互也越加自然。


但是,推出仅仅过了 16 个小时,Tay 就开始发布歧视女性和种族主义的不当言论。其中有很多言论是 “repeat after me”(跟我读)机制学到的,这一功能让 Twitter 用户能够把他们的话强加于 Tay。但至少有一些仇恨的反应是异常的:Tay 就有关 Ricky Gervais 的问题援引了 Adolf Hitler 的回答;称 Caitlyn Jenner“不是真正的女人”;并将女权主义与“癌症”、“邪教” 等同起来。


Tay 在 Twitter 发布大量充满攻击性的推文,被 Microsoft 删除了,其 Twitter 账户也被紧急关停,Microsoft 承诺,将对 Tay 进行 “调教”,新的 Tay 即将登场。然而,在 2016 年 Microsoft 开发者大会之前的第二次测试中,聊天机器人的表现并没有好转:它使用无意义的消息向大约 213000 名粉丝发送了垃圾信息,并发布了关于吸毒的推文。



这起事件被麻省理工科技评论(MIT Technology Review)列入 2016 年度最大技术失败列表名单中,对 Microsoft 人工智能研究部门而言,是一大耻辱。但也标志着 Microsoft 转向对话式人工智能的转折点。在未来,Microsoft 将会谨慎行事,或许更重要的是,提高人工智能技术的透明度。


Microsoft Healthcare 副总裁 Peter Lee 在 2016 年的博文中写道:“展望未来,在人工智能设计中,虽然我们面临一些困难,但我们也有令人兴奋的研究挑战。我们将尽其所能限制技术漏洞的利用,但我们也清楚这一点:在不从过错中汲取教训的前提下,我们并不能完全预测到人机交互滥用的所有可能情况。为了做好人工智能,我们需要许多人提供反馈进行迭代,而且还要经常去公共论坛听取人们的反馈并加以改进。”


Tay 之后的新的聊天机器人被命名为 Zo,这一命名是为了避免公众联想到前任聊天机器人 Tay 最差劲的言论倾向,Zo 具备理解许多想法中的整体情绪的能力(例如,它会热烈回应 “mother” 这个词,并回复诸如 “I love pizza.” 这样的短语)。Microsoft 将更多资源投入到小冰上,小冰是 Microsoft(亚洲)互联网工程院基于 2014 年提出建立的情感计算框架,通过算法、云计算和大数据的综合运用采用代际升级的方式,逐步形成向 EQ 方向发展的完整人工智能体系,产品形态设计会话式人工智能机器人、智能语音助手、人工智能创造内容提供者和一系列垂直领域解决方案。目前拥有超过 5 亿的社交媒体粉丝。


与 Microsoft 内部聊天机器人的努力相呼应的是向强调人类语言的平台推进——首席执行官 Satya Nadella 将其称为 “对话即平台”(Conversation as a Platform,CaaP)。他在 2016 年度开发者大会上说:“机器人就像新的应用程序,而数字助理是元应用(meta app),或者像新的浏览器。人工智能将融入到你所有的互动中。这就是我们拥有的丰富平台。”


2016 年 Microsoft 推出了 Azure Bot 服务,这一服务能够让开发者为 Facebook Messenger、Skype、Slack、Microsoft Team 以及其他聊天应用程序构建、测试并部署聊天机器人。2017 年结束测试阶段,共部署了 33000 个活跃的聊天机器人,广泛用于金融、服务、医疗保健和零售行业。


自从 Tay 发生灾难性的事故以来,构建机器人的伦理问题一直是 Microsoft 的首要考虑因素。日前,Microsof 发布了对话式人工智能指南,建议开发者评估机器人的预期目的是否能够可靠地执行,并设立与其使用相关的限制,将机器人设计为尊重人类的各种能力。


在对话式人工智能的大道上,Microsoft 可谓是 “路漫漫其修远兮,吾将上下而求索。”


原文链接:


https://aitrends.com/bots/a-long-way-from-tay-microsoft-advancing-in-conversational-ai/


2018-12-04 15:531842
用户头像

发布了 539 篇内容, 共 287.2 次阅读, 收获喜欢 1571 次。

关注

评论 1 条评论

发布
暂无评论
发现更多内容

测试开发 | 人工智能无监督学习(Unsupervised Learning)

测吧(北京)科技有限公司

测试

详解MRS HBase全局二级索引

华为云开发者联盟

大数据 后端 华为云 华为云开发者联盟

云行| 国云入江南 数智耀太湖,天翼云谱写江苏数智发展新篇!

天翼云开发者社区

云计算 数字化

云服务器比传统服务器更安全的原因与实现机制

天翼云开发者社区

云计算 服务器

使用 GPT4V+AI Agent 做自动 UI 测试的探索 | 京东云技术团队

京东科技开发者

Web 自动化测试 UI测试 GPT

基于「迭代分支」的 API 开发模式

Apifox

程序员 后端 Apifox 分支 API 开发

【坚果派】JS开源库适配OpenHarmony系列——第一期实操

白晓明

OpenHarmony JS开源库 ArkTS开源库

GaussDB(DWS)中的分布式死锁问题实践

华为云开发者联盟

大数据 后端 华为云 华为云开发者联盟 华为云GaussDB(DWS)

数字先锋| 审理办案“云上见”,便民利企更高效!

天翼云开发者社区

云计算 数字化

如何通过云函数操作云数据库?

天翼云开发者社区

数据库 云计算

收不到异步通知的原因

盐焗代码虾

支付宝 异步通知 排查思路

测试开发 | 深入了解监督学习(Supervised Learning)

测吧(北京)科技有限公司

测试

文心一言 VS 讯飞星火 VS chatgpt (165)-- 算法导论13.1 5题

福大大架构师每日一题

福大大架构师每日一题

测试开发 | 深度学习:人工智能的前沿驱动力

测吧(北京)科技有限公司

测试

测试开发 | 人工智能强化学习(Reinforcement Learning)

测吧(北京)科技有限公司

测试

测试开发 | 拓展学习范式:人工智能半监督学习的探索与应用

测吧(北京)科技有限公司

测试

软件测试/测试开发丨Web端测试基础知识 学习笔记

测试人

软件测试 测试开发

打破界限:一体化数据驱动低代码平台,构建业务生态新纪元

天津汇柏科技有限公司

低代码

数据服务化解耦 创新企业智能运营架构

用友BIP

数据服务

好消息!华为云时习知荣获IXDC AWARD国际体验奖

华为云PaaS服务小智

云计算 华为云

软件测试/测试开发丨软件测试的基本概念

测试人

软件测试

网站被ddos跟cc攻击会有什么影响,该如何去解决

德迅云安全_初启

大模型应用由你创造!WAVE SUMMIT+ Workshop等你来参加

飞桨PaddlePaddle

人工智能 深度学习 开发者 WAVE SUMMIT

越过Tay的耻辱之后,微软对话机器人势头依然凶猛_AI&大模型_InfoQ精选文章