当谷歌本月早些时候宣布推出人工智能搜索功能时，该公司承诺“谷歌将替你完成谷歌搜索。”

这项名为“人工智能概述”（AI Overviews）的新功能将提供人工智能生成的简短摘要，在搜索结果页面的顶部突出显示关键信息和链接。

不幸的是，人工智能系统天生就不可靠。AI Overviews 在美国上线的几天内，用户们在社交媒体上分享了许多令人啼笑皆非的案例。

它建议用户在披萨中添加胶水或每天至少吃一块小石头。

它还声称美国前总统安德鲁·约翰逊（Andrew Johnson）在 1947 年至 2012 年间获得了大学学位，但他早在 1875 年就去世了。

当地时间 5 月 30 号，谷歌搜索主管利兹·瑞德（Liz Reid）表示，该公司一直在对该系统进行技术改进，以降低其产生错误答案的可能性，包括更好地检测无意义查询的机制。

该公司还限制了在回应中包含讽刺、幽默和用户生成的内容，因为这些信息可能会导致误导性建议。

但为什么 AI Overviews 会返回不可靠、可能存在危险的信息？有什么办法可以解决这一问题呢（如果有的话）？

为了理解为什么人工智能搜索引擎会出错，我们需要看看它们是如何工作的。

我们知道，AI Overviews 使用的是生成式人工智能模型 Gemini 的一个版本。

Gemini 是谷歌的大型语言模型（LLM，large language models）家族，并为谷歌搜索进行了定制。

该模型已与谷歌的核心网络排名系统集成，旨在从其网站索引中提取相关结果。

大多数大型语言模型只是在预测序列中的下一个单词（或 token），这使它们生成的内容看起来很流畅，但同时也使它们容易编造虚假信息。