不久前在I/O开发者大会上，谷歌方面宣布正式将AI引入核心搜索业务，并推出全新的AI Overviews（AI概览）功能。据悉，这一功能可在搜索结果顶部展示由AI整理的简短答案摘要，以帮助用户快速获得信息。但随后就有用户反馈称，该功能除了具有AI聊天机器人常见的“幻觉”问题外，还无法分辨错误信息与有效信息，可能会将各类错误信息当作有效信息提供给用户。
此前谷歌方面曾回应称，“绝大多数AI Overviews都提供了高质量的信息，并附有深入挖掘的链接。基于我们的观测，网友分享的很多示例并非常见查询，且部分示例存在被篡改或无法重现的情况”。此外其还进一步声称，“我们将根据内容政策迅速采取适当措施，并利用这些示例对我们的系统进行更广泛的改进，其中一些改进已经推出”。
对此有观点认为，AI Overviews目前出现的问题不仅再次证明了AI大模型的“幻觉”仍是一大难题，同时也指出面对竞争对手的成果，谷歌的“急功近利”或也是导致数据清洗出错的重要原因之一。
针对目前的种种质疑，谷歌搜索部门主管Liz Reid在近日发布的博客文章中，对AI Overviews给出重大事实错误内容做出了进一步的说明。
Liz Reid在解释出现诸如“吃石头”等奇怪建议的原因时，称这是由于数据空缺和用户的“恶搞”所造成，因为在此之前“几乎没有人问过谷歌这个问题”。而出现“胶水粘贴奶酪和披萨”的建议，则是来自论坛内“讽刺或恶意”内容。此外他还进一步解释到，论坛通常是真实、第一手信息的来源，但在“某些情况”下可能会给出不太有用的建议。
针对一些显示“危险结果”的截图，Liz Reid认为这或是出自于伪造，并称其是“显而易见且愚蠢”，并建议看到过相关截图的用户亲自进行验证。同时Liz Reid还表示，将对包含可能有害或违规信息的“少数”AI概览结果采取行动。
在此次的回应中，Liz Reid指出谷歌方面将持续改进AI搜索功能，包括构建更好的检测机制，以针对不应显示AI概览的无意义查询，限制收录讽刺和幽默内容，限制在回复中使用用户生成的内容，对AI概览无法提供帮助的查询增加触发限制，对新闻和健康等主题设置更严格的防护措施等。
值得一提的是，此前在今年2月谷歌为大模型Gemini引入文生图功能后，也曾出现“虚构历史”的问题。随后谷歌方面曾回应称，公司已经意识到Gemini“在某些历史图像生成描述中提供了不准确的信息”，并将立即进行修复。
【本文图片来自网络】
