大多数大型语言模型只是在预测序列中的下一个单词（或 token），这使它们生成的内容看起来很流畅，但同时也使它们容易编造虚假信息。

它们没有真实信息作为证据，而是纯粹根据统计计算来选择每个单词。

这会导致“幻觉”。美国华盛顿大学专门研究在线搜索的教授奇拉格·沙阿（Chirag Shah）表示，AI Overviews 中的 Gemini 模型很可能是通过使用一种名为检索增强生成（RAG，retrieval-augmented generation）的人工智能技术来解决这一问题的。

该技术允许大模型检查其训练数据之外的特定（信息）来源，例如某些网页。

（来源：SARAH ROGERS/MITTR）

一旦用户输入查询信息，该系统就会根据构成系统信息源的文档进行检查，并生成响应。

因为它能够将原始查询与网页的特定部分相匹配，所以它能够给出答案的引用来源，这是普通大模型无法做到的。

检索增强生成技术的一个主要优点是，它对用户查询生成的响应应该比仅基于训练数据生成答案的典型模型的响应更及时、更准确、更相关。这种技术经常被用来防止大模型产生“幻觉”。

但谷歌发言人没有证实 AI Overviews 是否使用了检索增强生成技术。

而检索增强生成技术并非完美无缺。为了让使用该技术的大模型得出一个好的答案，它必须正确地检索信息并正确地生成响应。

当这两个步骤中的一个或全都失败时，模型就会给出一个糟糕的答案。

AI Overviews 推荐在披萨里加入胶水的回应，源自于 Reddit 论坛上的一篇搞笑回帖。

该帖子很可能与用户一开始提到的如何解决奶酪不粘在披萨上的查询有关，但在检索过程中出现了问题。

仅仅因为内容是相关的并不意味着它是正确的，这个过程的信息生成步骤并不会质疑这一点。

同样，如果检索增强生成系统遇到相互冲突的信息，如老版和新版的政策手册，它将无法确定从哪个版本中获取信息并构建响应。