社交媒体上充斥着谷歌新的AI Overview产品说奇怪话的例子，从告诉用户在他们的披萨上涂胶水到建议他们吃石头。混乱的推出意味着谷歌正在竞相手动禁用特定搜索的 AI Overviews，因为各种模因被发布，这就是为什么用户看到这么多模因在发布到社交网络后不久就消失了。

这是一个奇怪的情况，因为谷歌已经测试了一年的 AI Overviews——该功能于 2023 年 5 月作为搜索生成体验在测试版中推出——首席执行官桑达尔·皮查伊 （Sundar Pichai） 表示，该公司在那段时间里提供了超过 10 亿次查询。

但皮查伊也表示，谷歌在同一时期将提供人工智能答案的成本降低了80%，“在硬件、工程和技术突破的推动下”。看来，这种优化可能发生得太早了，在技术准备就绪之前。

“一家曾经以走在最前沿和运送高质量产品而闻名的公司现在以低质量的输出而闻名，这些输出正在被模因化，”一位不愿透露姓名的人工智能创始人告诉The Verge。

谷歌继续表示，其AI Overview产品主要向用户输出“高质量信息”。“我们看到的许多例子都是不常见的查询，我们也看到了被篡改或我们无法重现的例子，”谷歌发言人梅根·法恩斯沃思（Meghann Farnsworth）在给The Verge的一封电子邮件中说。法恩斯沃思还证实，该公司正在“迅速采取行动”，“根据我们的内容政策，在适当的情况下”删除某些查询的人工智能概述，并使用这些示例对我们的系统进行更广泛的改进，其中一些已经开始推出。

纽约大学神经科学名誉教授、人工智能专家加里·马库斯（Gary Marcus）告诉The Verge，许多人工智能公司都在“兜售梦想”，即这项技术将从80%的正确率上升到100%。马库斯说，实现最初的80%相对简单，因为它涉及近似大量的人类数据，但最后的20%极具挑战性。事实上，马库斯认为最后20%可能是最困难的事情。

“你实际上需要做一些推理来决定：这件事是否合理？这个来源合法吗？你必须像人类事实核查员那样做一些事情，这实际上可能需要人工智能，“马库斯说。Marcus 和 Meta 的 AI 主管 Yann LeCun 都认为，为谷歌的 Gemini 和 OpenAI 的 GPT-4 等当前 AI 系统提供动力的大型语言模型不会成为 AGI 的创造者。

看，这对谷歌来说是一个艰难的境地。在谷歌推出萨蒂亚·纳德拉（Satya Nadella）著名的“我们让他们跳舞”名言之前，必应（Bing）在人工智能领域大放异彩，据报道，OpenAI正在开发自己的搜索引擎，一家新的人工智能搜索初创公司已经价值10亿美元，而只想要最佳体验的年轻一代用户正在转向TikTok。 该公司显然感受到了竞争的压力，而压力是导致人工智能发布混乱的原因。马库斯指出，2022 年，Meta 发布了一个名为 Galactica 的人工智能系统，该系统在推出后不久就不得不下架，因为它告诉人们吃玻璃。听起来很熟悉。

谷歌对人工智能概述有宏伟的计划——目前存在的功能只是该公司上周宣布的一小部分。复杂查询的多步骤推理、生成 AI 组织的结果页面的能力、Google Lens 中的视频搜索——这里有很多雄心壮志。但现在，该公司的声誉取决于把基本的东西做好，而且它看起来并不好。

马库斯说：“（这些模特）在宪法上无法对自己的工作进行理智检查，这就是这个行业背后的原因。