该公司表示,它正在为 AI Overviews 添加触发限制,如果对查询没有太多帮助的话,并为与健康相关的查询添加了额外的“触发改进”。
韦伯恩说,该公司可以在信息检索过程中增加一个步骤,用于标记有风险的查询,并让系统在这些情况下拒绝生成答案。
谷歌发言人表示,该公司的目标不是显示危险话题或脆弱状况的 AI Overviews。
从人类反馈中进行强化学习等技术,将这种反馈纳入大模型的训练中,也有助于提高其答案的质量。
同样,大模型可以针对无法回答的问题进行专门训练。在生成答案之前,让它们仔细评估检索到的文档的质量也很有用,因此正确的指导很有帮助。
尽管谷歌在 AI Overviews 的答案中添加了一个标签,上面写着“生成式人工智能是实验性的”,但它应该考虑让人们更清楚地知道该功能正在测试中,并强调它还没有准备好提供完全可靠的答案。
“它现在还是测试版,而且还会持续一段时间,在它不再是测试版之前,它应该是一个选项,而不应该作为核心搜索的一部分强加给用户。”沙阿说。