继谷歌方面不久前宣布将AI引入核心搜索业务，并推出全新的AI Overviews（AI概览）功能，但随后该功能因“幻觉”、无法分辨错误信息等方面的问题屡屡“翻车”后。对此谷歌方面曾表示，将根据内容政策迅速采取适当措施，并对系统进行改进，其中的一些改进也已经推出。
日前，谷歌高级副总裁、搜索部门主管丽兹·里德（Liz Reid）在公司全体会议中承认，随着AI与互联网搜索进一步融合，错误的产生或不可避免，甚至可能会出现更多错误，但不能因为错误的出现而停止开发新产品，而是应该让员工和用户一起帮忙发现问题。
里德表示，“从一系列错误中我们不应该得出‘不能冒险’的结论，我们应该慎重地冒险并迅速采取行动……我们不可能总是能发现一切（问题），但这仅仅意味着我们需要（对错误）做出回应”。而对于AI概览的错误结果，谷歌公司发言人表示，AI搜索在大多数情况下会提供准确结果，出现违反公司政策情况的概率大约将不足“七百万分之一”。
不久前，里德曾发布博客文章对AI概览出错进行了详细说明。其在文章中表示，面对每天海量、多样化的查询请求，由于数据空缺等方面的因素，难免会出现令人惊讶的错误，但谷歌将持续改进AI搜索功能，包括构建更好的检测机制，以针对不应显示AI概览的无意义查询，限制收录讽刺和幽默内容，限制在回复中使用用户生成的内容，对AI概览无法提供帮助的查询增加触发限制，对新闻和健康等主题设置更严格的防护措施等。
同时里德还表示，一些显示“危险结果”的截图或是出自伪造，建议看到过相关截图的用户亲自进行验证，伪造截图的动机可能是“蓄意对抗性”或吸引流量，因此谷歌将对包含可能有害或违规信息的“少数”AI概览结果采取行动。
在部分业内人士看来，此次里德的言论中可能包含多重内涵，其中的关键是谷歌对“AI犯错”这一问题可能将保持一种相对“宽容”的态度，这将与此前形成鲜明的对比。而这种转变的背后，则可能是谷歌方面对于自家AI搜索产品的信心正在不断增强。
不过他的观点可能说明了当前大模型不可回避的缺陷，此前AI概览功能的“翻车”和谷歌后续表态的改进，有观点就悲观地认为改进可能并不能获得收效，因为即使向谷歌报告AI概览出错，实际上也只是在“训练”其继续犯错。
谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）此前曾表示，AI概览产生“幻觉”是大模型的“固有缺陷”，并且目前尚无解决方案。此外值得一提的是，在今年2月谷歌为大模型Gemini引入文生图功能后，也曾因“虚构历史”、展现与现实完全脱轨的“多元化倾向”而遭受非议。随后谷歌方面回应称，公司已经意识到Gemini“在某些历史图像生成描述中提供了不准确的信息”，并将立即进行修复。
【本文图片来自网络】
