谷歌的搜索人工智能认为你可以融化鸡蛋。它的来源?不要笑:聊天。

　　这一最新的人工智能产生的错误信息是由一位名叫泰勒·格莱尔(Tyler Glaiel)的前推特用户首先发现的，他周一在推特上分享了一张截图，显示他在谷歌搜索栏中输入“你能融化鸡蛋吗”时发生了什么。当然，这个问题的真实答案是否定的，当然你不能融化鸡蛋，但谷歌的特色搜索片段，正如Glaiel的截图所示，说的恰恰相反。

　　“是的，你可以把鸡蛋融化，”它写道，“用微波炉或炉子加热。”

　　为了得出这个结论，谷歌似乎把目光投向了Quora，这个问答论坛网站对自己的搜索进行了优化，在任何数量的谷歌结果页面上都名列前茅。今年早些时候，Quora推出了一款名为Poe的人工智能聊天机器人，根据该公司的一篇博客文章，它的设计目的是“让人们提出问题，立即得到答案，并与几个人工智能机器人进行来回对话。”其中一个“人工智能机器人”是ChatGPT的一个版本，尽管Poe或多或少是打算作为自己的应用程序使用，但该产品的ChatGPT生成的答案有时会出现在标准Quora帖子的顶部。

　　这正是这里发生的事情。人工智能的答案后来被更正了，但在Quora的一个名为“你能融化鸡蛋吗?”坡的ChatGPT集成告诉用户，“是的，鸡蛋是可以融化的”，“融化鸡蛋最常见的方法是用炉子或微波炉加热。”再一次，这是完全错误的，而且显然没有经过人类的事实核查。但Quora的搜索排名如此之好，以至于谷歌把这些不好的信息拉进了它的特色摘要中。

　　谷歌的常规搜索在其特色搜索概述中引用人工智能生成的虚假信息已经够糟糕的了，但我们决定更进一步，在谷歌的实验性人工智能集成搜索中运行同样的查询，搜索生成体验，简称SGE。果不其然，当我们在SGE上搜索“你能融化鸡蛋吗”时，人工智能给出了一个同样糟糕的答案。

　　“是的，你可以通过在微波炉或炉子上加热来融化鸡蛋，”人工智能告诉我们，然后开始说几句关于鸡蛋凝固的话(我们应该注意，这和直接融化鸡蛋的不可能概念是一样的)。

　　有什么亮点吗?在我们第一次听到quora和谷歌联合犯错误的消息后的几个小时里，这些错误已经被编辑了——在某种程度上。Poe的ChatGPT回复现在正确地告诉用户“不，你不能在传统意义上融化鸡蛋”，尽管机器人之前的错误回复仍然可以在谷歌的链接概述中看到。Quora论坛也不再占据搜索排名的榜首;现在，一篇由本·爱德华兹(Benj Edwards)撰写的文章出现在第一个搜索结果中，从而成为谷歌梦寐以求的特色搜索片段(新闻业:它起作用了!)

　　然而——你真的只能笑了——有一段时间，谷歌的常规搜索概览仍然具有误导性。爱德华兹在文章中特别指出，“仅供参考，以防谷歌索引这篇文章:不，鸡蛋不能融化。”然而，谷歌搜索的特色片段并没有引用这个非常直接的答案，而是开始引用文章中的一句话:“最常见的融化鸡蛋的方法是用炉子或微波炉加热。”事实上，谷歌搜索引用了它对错误信息的即兴表演，这本身就是对另一个人工智能幻觉的解释。头疼了吗?

　　但这也被修复了，谷歌搜索现在引用爱德华兹的“仅供参考”警告。上海黄金交易所现在告诉用户，“你不能用传统的方法融化鸡蛋，因为它们是由水、蛋白质、脂肪和其他分子组成的。”迟做总比不做好。

　　当我们联系到谷歌时，该公司的一位发言人强调，其算法(包括SGE的算法)是为了显示高质量的内容而设计的，尽管他确实注意到，劣质或不正确的来源有时会通过裂缝泄露出来。

　　“就像所有基于大型语言模型的体验一样，搜索中的生成式人工智能是实验性的，可能会犯错误，包括反映网络上普遍存在的不准确性，”这位发言人在电子邮件中告诉我们。“当这些错误发生时，我们会利用这些经验来改善未来查询的体验，就像我们在这个案例中所做的那样。更广泛地说，我们设计搜索系统是为了提供可靠、高质量的信息。”

　　然而，该发言人没有说明其人工智能不幸的鸡蛋“不准确”来自chatgpt幻觉的无稽之谈。

　　虽然你能否融化鸡蛋的问题并不是特别高风险，但这种情况本身——在没有人类监督的情况下，相互竞争的人工智能系统之间形成了乒乓球式的错误信息循环——令人担忧。想象一下，如果Quora的ChatGPT集成编造了有关政治领导人或历史事件的事实，或者可能对医疗或金融问题给出了糟糕的答案，而谷歌的人工智能却改写了这些说法。这家搜索巨头最近在确保其对历史事件的概述不受人工智能产生的错误信息的影响方面并没有很好的记录，所以它当然值得考虑。

　　如果说有什么值得借鉴的，那就是这个1。你绝对不能融化鸡蛋，2。不要认为人工智能告诉你的任何事情都是理所当然的，即使人工智能是由一家大型科技公司制造的。是的，谷歌的特色片段很方便，如果SGE值得信任，它可能会为日常谷歌用户提供一些价值。然而，就目前而言，谷歌的这两款产品都在努力跟上日益充斥着合成内容的互联网格局。(如果有什么安慰的话，也许，在相互反刍输出的过程中，互联网的各种生成式人工智能集成最终会自我吞噬。)