本周一，谷歌宣布其人工智能聊天机器人 Bard 将“在未来几周内更广泛地向公众开放”。作为OpenAI ChatGPT 的竞争对手，Bard 的一举一动都备受关注。
但让谷歌尴尬的是，该机器人的首次出场并不顺利，专家指出 Bard 在其 Demo 首秀中犯了一个事实错误。
谷歌分享的一张 GIF 显示，在回答问题“关于詹姆斯韦伯太空望远镜（JWST）有哪些新发现，我可以告诉我 9 岁孩子哪些内容？”时，Bard 提供了三个要点，其中一个指出该望远镜“拍摄了我们太阳系外行星的第一张照片。”
然而，许多天文学家在 Twitter 上指出这是不正确的，据 NASA 网站上所述，第一张系外行星图像是在 2004 年拍摄的。
天体物理学家 Grant Tremblay 在 Twitter 上写道：“我相信 Bard 会令人印象深刻，但郑重声明：JWST 并没有拍下‘我们太阳系外行星的第一张图片’” 。
加州大学圣克鲁兹分校天文台主任 Bruce Macintosh 也指出了这个错误。“作为一个在 JWST 发射前 14 年拍摄系外行星的人，感觉你应该找到一个更好的例子。”
在后续推文中，Tremblay 补充道：“我非常喜欢并感谢地球上最强大的公司之一正在使用 JWST 搜索来宣传他们的 LLM。这非常好！但是 ChatGPT等大模型虽然令人印象深刻，但经常犯错却盲目自信。未来，如果能看到 LLM 进行自我错误检查将会很有趣。”
正如 Tremblay 所指出的，ChatGPT 和 Bard 等 AI 聊天机器人的一个主要问题是它们倾向于自信地将不正确的信息陈述为事实。这些系统经常“产生幻觉”——即编造信息——因为它们本质上是自动完成系统。
他们不是查询已证实事实的数据库来回答问题，而是接受大量文本语料库的训练并分析模式以确定任何给定句子中的下一个单词。换句话说，它们是概率性的，而不是确定性的——这一特征导致一位著名的 AI 教授将它们称为“废话生成器”。
当然，互联网上已经充斥着虚假和误导性信息，但微软和谷歌希望将这些工具用作搜索引擎，可能会使问题变得更加复杂。
也正是由于 Bard 在首秀上的失误表现，导致其母公司 Alphabet 股价暴跌 8%，市值缩水 7000 多亿元。
参考链接：
https://www.theverge.com/2023/2/8/23590864/google-ai-chatbot-bard-mistake-error-exoplanet-demo
加V：busulishang4668
中国开发者画像洞察研究报告 2024
分析开发者的行为模式、工作价值、职业发展等内容，帮助整个行业生态更深入地理解开发者，为他们提供更精准...
评论