在不久前举行的I/O开发者大会上，谷歌方面宣布正式将AI引入核心搜索业务，其中包括将推出一款全新的、名为“AI Overviews”（AI概览）的功能。据了解，该功能可以在搜索结果的最顶部直接展示一个经由AI整理的简短的答案摘要，而非网页链接，从而让用户迅速获得信息，无需再逐一查看各个网页。例如用户搜索“如何清洁皮靴”，该功能就会显示一个综合了多方网络信息的多步骤清洁指南。
近日，AI Overviews功能已率先在美国市场上线。但有用户反馈称，该功能除了具有AI聊天机器人常见的“幻觉”问题外，还无法分辨错误信息与有效信息，可能将各类错误信息当作有效信息提供给用户。例如在回答“芝士无法粘在披萨饼上”时，AI Overviews会建议用户在馅料里“加入八分之一杯的无毒胶水”。
据相关报道指出，这一信息的来源或是一名Reddit用户在十余年前的一次搞怪留言。此外在被问及“每天应该吃多少块石头”时，AI Overviews回复称，“根据地质学家的研究，每天应该至少吃一块小石头。”
对此谷歌方面回应称，相关错误往往来自于“非常见查询”，并不代表大多数用户的体验,该公司已经采取行动打击违反政策的行为，同时正在利用这些“孤例”继续完善产品。
谷歌方面表示，“绝大多数AI Overviews都提供了高质量的信息，并附有深入挖掘的网络链接。基于我们的观测情况，网友分享的很多示例并非常见查询，且部分示例存在被篡改或无法重现的情况。我们在推出 AI Overviews 之前，也按照现有搜索新功能的测试方法，已经进行了广泛的测试，我们感谢大家的反馈。我们将根据内容政策迅速采取适当措施，并利用这些示例对我们的系统进行更广泛的改进，其中一些改进已经开始推出"。
但需要注意的是，这并非谷歌旗下AI产品首次因生成内容的准确性而引发质疑。例如此前在今年2月谷歌方面曾为大模型Gemini引入文生图功能，但有用户反馈称，该功能存在严重的“虚构历史”问题。随后谷歌方面回应称，公司已经意识到Gemini“在某些历史图像生成描述中提供了不准确的信息”，并将立即进行修复。
【本文图片来自网络】
