它可能会将两者的信息结合起来，产生一个潜在的误导性答案。

荷兰莱顿大学专门研究自然语言处理的教授苏珊·韦伯恩（Suzan Verberne）说：“大型语言模型会根据你提供的信息来源生成流利的回复，但流利的回复与正确的信息不同。”

她说，一个主题越具体，在大型语言模型的输出中出现错误信息的几率就越高。

并补充道：“这个问题不仅出现在医学领域，也出现在教育领域和科学领域。”

谷歌发言人表示，在许多情况下，当 AI Overviews 返回错误答案时，是因为网络上没有太多高质量的信息可供显示，或者是因为用户查询的东西与讽刺网站或搞笑帖子最匹配。

这位发言人表示，AI Overviews 在绝大多数情况下都提供了高质量的信息，许多错误案例都是针对不常见的查询。

其补充说，AI Overviews 在回复中包含有害、淫秽或其他不可接受内容的概率是 700 万分之一，即每 700 万个独特查询会导致一个糟糕的回复。

其还表示，会继续根据其内容政策删除某些查询的 AI Overviews。

尽管“披萨胶水”的错误很好地展示了 AI Overviews 如何指向不可靠来源，但该系统也可能从事实正确的来源产生错误信息。

美国新墨西哥州圣达菲研究所的人工智能研究员梅兰妮·米切尔（Melanie Mitchell）搜索了“美国有多少位穆斯林总统？”

AI Overviews 回应道：“美国有一位穆斯林总统，巴拉克·侯赛因·奥巴马（Barack Hussein Obama）。”

巴拉克·奥巴马不是穆斯林，因此 AI Overviews 的回应是错误的，但它是从一本名为《巴拉克·侯赛因·奥巴马：美国第一位穆斯林总统？》的书中提取到的信息。

因此，人工智能系统不仅没有抓住文章的全部要点，而且以与预期完全相反的方式对其进行了解释。

人工智能有几个问题；一个是找到一个不是玩笑的好的信息来源，另一个是正确地解释消息来源。

这是人工智能系统很难做到的事情，重要的是要注意，即使它得到了一个好的信息来源，它仍然会出错。

最终，我们会知道人工智能系统是不可靠的，只要它们使用概率逐字逐句地生成文本，就总会有出现“幻觉”的风险。

虽然随着谷歌做出调整，AI Overviews 可能会有所改进，但我们永远无法确定它是否会 100% 准确。