首页 企业新闻 > 内容

谷歌否认其人工智能概览功能因搜索结果奇怪而产生幻觉

时间:2024-06-04 16:45:57 来源:
导读 几周前,谷歌在I/O大会上宣布了AI概览功能。自推出这项创新功能以来,它因部分搜索结果不准确而招致批评。许多用户在社交媒体平台上发泄不...

几周前,谷歌在I/O大会上宣布了AI概览功能。自推出这项创新功能以来,它因部分搜索结果不准确而招致批评。许多用户在社交媒体平台上发泄不满,甚至将部分搜索结果变成了吐槽会。由于在推出之前进行了严格的内部测试,该公司没有预料到会出现这种负面宣传。在听到有关升级的大量热议后,该公司终于站出来为自己辩护。

在一些奇怪的搜索结果之后,谷歌现在对人工智能进行了更多限制

在人们分享了奇怪的搜索结果并对该公司确保其人工智能增强功能准确性的谨慎方法表示怀疑后,谷歌决定介入并给出自己的说法。谷歌搜索负责人LizReid在一篇博客文章中分享了错误、原因和纠正步骤。

它们并非简单地根据训练数据生成输出。虽然AI概览由定制的语言模型提供支持,但该模型与我们的核心网页排名系统集成,旨在执行传统的“搜索”任务,例如从我们的索引中识别相关的高质量结果。这就是为什么AI概览不仅提供文本输出,还包含相关链接,以便人们可以进一步探索。

该公司否认了AI概览幻觉的说法,并表示它与其他LLM模型的工作方式不同,因为它得到了最相关的网络搜索结果的支持。它提出了该功能可能提供不正确信息的可能性,这与误解查询或源信息稀疏有关。

在“将胶水粘在披萨上”搜索结果不受欢迎之后,谷歌进一步维护了其产品形象,指责一些用户搜索不合逻辑,引发争议,并伪造了一些概述。它确实承认搜索结果中存在信息空白,无法很好地解读讽刺内容。该公司还表示,将努力确保从宏观层面解决问题,而不是逐个查询。

谷歌分享了为改善整体AI搜索体验而做出的一些改变,包括过滤讽刺和不合逻辑的搜索、限制回复中的UGC以及限制新闻和健康领域的AI概览。即使谷歌强调了它所经历的测试和它所保持的高标准,该公司仍继续强调其确保AI概览精确度的决心。你在使用AI概览时遇到过什么奇怪的经历吗?在下面的评论中与我们分享。

标签:
最新文章